Carl Zeiss giftet seg i 1849 med den 11 år yngre Bertha Schatter. Bertha døde i 1850 under fødselen til parets første sønn, Roderich Zeiss. Carl Zeiss giftet seg for andre gang i 1853 med Ottilie Trinkler. Paret fikk tre barn: Karl Otto (1854–1925), Hedwig (1856–1935) og Sidonie (1861–1920).