Meskipun awalnya ragu terhadap teori atom dari John Dalton, Berzelius menyadari pentingnya gagasan tersebut. Ia kemudian melakukan ribuan eksperimen untuk menghitung berat atom berbagai unsur dengan menjadikan atom oksigen sebagai standar pembanding. Pada tahun 1826, ia menerbitkan tabel berat atom yang sangat akurat, bahkan masih dihargai sampai hari ini. Karyanya menjadi dasar bagi tabel periodik unsur yang disusun oleh Mendeleev puluhan tahun kemudian.
Kerja kerasnya luar biasa, tetapi pada tahun 1818 ia mengalami kelelahan mental akibat tekanan kerja. Dokternya menyarankan agar ia beristirahat, dan ia pergi ke Paris. Namun, ia tetap berkutat dengan dunia kimia selama di sana. Untungnya, ia pulih sepenuhnya dan kembali aktif berkarya. Ia kemudian menemukan unsur torium dan selenium, serta menghasilkan silikon murni pertama pada tahun 1824.
Selain penemuan unsur, Berzelius juga berjasa dalam menyusun sistem penamaan unsur kimia dengan menggunakan satu atau dua huruf, yang masih kita gunakan sampai hari ini. Misalnya, ia menetapkan simbol Fe untuk besi berdasarkan nama Latinnya, ferrum. Sistem ini menggantikan berbagai penamaan tidak konsisten yang sebelumnya digunakan ilmuwan di berbagai negara.