Conrad Krebs var sønn av major og landinspektør Peter Ludvig Krebs (1770–1825) og Manon Linde (1783–1845). Han var først gift med Mathilde Sophie Marcussen (181–1841), men hun døde 3 år inn i ekteskapet. Han giftet seg deretter med norske Helene Augusta Elisabeth Castberg (1825–1906), datter av politiker og sogneprest Peter Hersleb Harboe Castberg (1794–1858) og Anne Margrethe Zimmer Henckell (1793–1854). Conrad Krebs er begravet på Assistens Kirkegård.