Jähn ble født i Morgenröthe-Rautenkranz i Vogtland. Fra 1943 til 1951 gikk han på skole i hjembyen og etter skolen fikk han utdannelse som trykker.