I 1949 kom han tilbake til hjembyen Düsseldorf og ble kort etter formann for den kommunistiske organisasjonen Freie Deutsche Jugend (FDJ) i Vest-Tyskland. I 1951 ble han innvalgt i landdagen, delstatsparlamentet, i Nordrhein-Westfalen. Han var da 27 år og landdagens yngste representant.