1888年6月，一位名叫利平科特（Jesse Lippincott）的百萬富翁，獲得了愛迪生留聲機公司，他創建了北美留聲機公司（North American Phonograph Company），並使愛迪生留聲機公司成為其下屬的公司。利平科特在美國建立了30多個子公司，銷售愛迪生的唱筒式留聲機。1889年，北美留聲機公司建立了哥倫比亞留聲機公司（District of Columbia Phonograph Company），專事在華盛頓哥倫比亞特區銷售唱筒式留聲機。
與此同時，埃米爾·貝利納發明了唱盤式留聲機，並大力開拓美國及歐洲市場，由此形成激烈的競爭。唱盤式留聲機在使用的方便性上較唱筒式留聲機更為優越，同時，價格也低得多。另一方面，愛迪生和利平科特一直認為，留聲機的市場應該在商務套用，諸如記錄口述等等（錄音與放音並重）；而貝利納則一直是面對大眾的娛樂市場（側重放音），但商務市場始終沒有發展起來，而娛樂市場卻非常紅火。
1894 年，北美留聲機公司宣布破產。
產品宣傳冊封面
這時，電話的發明者、曾經改進了愛迪生留聲機的貝爾和泰恩特（Tainter），對哥倫比亞留聲機公司非常感興趣，原因是主管哥倫比亞公司的愛德華·伊斯頓（Edward Easton）先生，注意到了娛樂市場，並大力在這方面投入。因此，貝爾、泰恩特和伊斯頓重新組建了哥倫比亞留聲機公司（Columbia Graphophone Company）。當時，由於法律糾紛，愛迪生被限定三年之內不得在美國生產和銷售留聲機，這給了哥倫比亞公司一個很好的機遇。哥倫比亞公司改進了留聲機，並降低了成本，很快成為唱筒式留聲機最大的商家，除了在美國生產銷售之外，還積極在歐洲拓展市場，1900年在倫敦成立了分公司英國哥倫比亞留聲機公司。
公司的工廠，1920年
但在後來的幾年中，哥倫比亞留聲機公司逐漸不景氣。一次世界大戰之後，英國人路易斯·斯特林（Louis Sterling）收購了英國哥倫比亞公司，1922 年，又收購了美國哥倫比亞公司。此後，哥倫比亞又開始向廣播進軍，成立了哥倫比亞廣播公司（Columbla Broadcasting Company, 1929 年1月18日，更名為 Columbia Broadcasting System ，即著名的 CBS）。
1927 年，美國哥倫比亞為它的古典音樂錄音正式註冊了“名著”（Masterworks）商標。
1929 年的世界經濟大蕭條也給唱片業帶來了巨大的衝擊。哥倫比亞公司被迫放棄 CBS ，而本身則與貝利納的英國留聲機公司合併，成立了“電子和音樂公司”（Electric and Musical Industries），即後來的 EMI 。而 CBS 則發展壯大，1938年進軍唱片業，成立了 CBS 唱片公司（CBS Records），並迅速發展壯大。1948年，CBS 唱片公司在美國推出 33 轉 LP 和 45 轉的單曲唱片，取得巨大成功，幾乎獨霸了全球唱片市場，由此成為美國最大的本土唱片公司。後於1988年被索尼公司收購，成為索音樂娛樂集團（Sony Music Entertainment）的下屬公司，其古典音樂部門則被重組成為“索尼古典”（Sony Classical）。
