Pada 1884, Berliner memutuskan untuk menjadi peneliti dan penemu mandiri. Ia kembali ke Washington dan mengembangkan lebih banyak inovasi untuk telepon. Dua tahun kemudian, minatnya beralih pada rekaman dan reproduksi suara mekanik. Pada 1887, ia mematenkan gramofon pertamanya yang menggunakan piringan datar. Alat ini menghasilkan suara yang lebih keras dan jernih dibanding silinder Edison. Gramofon ciptaannya menjadi sensasi dan mendorong Berliner mendirikan perusahaan untuk memproduksi dan mendistribusikan gramofon serta piringan hitam.
Pada awal 1900-an, Berliner mulai tertarik pada dunia penerbangan. Ia merancang mesin pembakaran putar 6 tenaga kuda untuk pesawat dan mendirikan Gyro Motor Company pada 1909 untuk memproduksi mesin ini. Bersama putranya, Henry, ia juga merancang helikopter yang sukses terbang pada 1919. Tak hanya itu, pada 1925 ia menemukan ubin akustik untuk digunakan di aula konser dan auditorium.
Di luar dunia teknologi, Berliner juga pernah menciptakan lagu patriotik berjudul The Columbian Anthem yang populer pada masanya. Ia memiliki ketertarikan mendalam pada biola dan mencoba memahami kenapa biola antik terdengar lebih nyaring daripada yang baru. Kepeduliannya pada kesehatan masyarakat juga besar. Ia mendanai pembangunan rumah sakit di Maryland untuk mengenang ayahnya dan mendukung program pencegahan tuberkulosis.