Di balik kesuksesannya, kehidupan pribadi Black juga penuh cerita. Ia menikah dua kali dan memiliki satu putri. Ia sempat kehilangan istri pertamanya, Hilary, pada tahun 1986, dan menikah lagi dengan Profesor Rona MacKie pada 1994. Ia tetap aktif berkarya hingga tahun-tahun terakhir hidupnya.
Pada tahun 2002, Black didiagnosis menderita kanker prostat dan diperkirakan hanya akan hidup dua tahun. Namun, ia bertahan hingga delapan tahun kemudian. James Black wafat pada 22 Maret 2010 di usia 85 tahun. Warisannya dalam dunia kedokteran tetap hidup dan menyentuh kehidupan jutaan orang hingga kini.[]