Krohn ble født på gården Dale i Norddal på Sunnmøre. Foreldrene var klokker Iver Høeg Krohn og Mette Marie (født Schjelderup); bestefaren var sogneprest Ludolf Krohn. Han giftet seg med Lovise Fredrikke Lilloe (1810–1891). Krohn vokste delvis opp på Ringerike hos onkelen med samme navn. Bare 15 år gammel begynte Johan Jørgen i lære hos boktrykker Jacob Lehmann i Christiania. Lehmann hadde på denne tiden enerett på trykking av den ferske Grunnloven.