Han ble i 1969 valgt inn i parlamentet for Nasjonalistpartiet samtidig som faren, Jan de Klerk, ble valgt til senatsleder. I statsminister P.W. Bothas regjering fikk de Klerk en rekke ministerposter: pensjons- og helseminister (1978), post-, telekommunikasjons-, idretts- og fritidsminister (1978-1979), mineralminister (1979-1982), miljøminister (1979–1980) og energiminister (1980-1982].