Walter Jansen var den yngste av tre sønner, og vokste opp i menigheten i Neuss. Etter i 1942 ble han innkalt til Wehrmacht som sanitetssoldat. Etter at han i 1947 hadde rømt fra sovjetisk krigsfangenskap, begynte han på studier i teologi.