Conrad Mohr var sønn av kjøpmann Wilhelm Mohr (1820–1880) og Antoinette Ulrikke Mowinckel (1823–1894) og bror av embetsmannen August Christian Mohr (1847-1918). Han giftet seg for 1. gang 10. juli 1873 med Julie Cecilie Løberg (1854–1875) og for 2. gang 18. april 1879 med Agnete Katharine Kroepelien (1861–1905). Med henne fikk han sønnene godseier Wilhelm Mohr (1886–1978) og geograf Anton Mohr (1890–1968). Gift for tredje gang 15. februar 1907 med Aslaug Nyquist (1879-1959).