早年即受教于西方传教士汤若望，供职于钦天监。明朝天启六年（1626年），李祖白协助汤若望写出《远镜说》一书，将伽利略发明的现代望远镜制作方法介绍入中国。清朝顺治年间，李祖白与利类思合着《天学传概》，在文中提出中国文化西来说，招致杨光先等人的激烈反对。康熙三年，杨光先上书指责汤若望，造成康熙历狱。康熙四年，时任钦天监历科主事的李祖白因此案被判处凌迟处死，后在孝庄皇太后的斡旋下减刑为绞刑，与儿子李实等五人一同被处死。康熙帝亲政后，于康熙八年对此案进行平反，照原官恩恤。