I 1968 ble han statssekretær i næringsministeriet. Året etter ble han parlamentarisk statssekretær for utdannelses- og vitenskapsministeren. Da Hans Leussink trakk seg fra denne stillingen i januar 1972, ble han etterfulgt av Dohnanyi. Da Willy Brandt gikk av som kansler den 7. mai 1974, forlot Dohnanyi regjeringen. Mellom 1976 og 1981 var han statsminister i utenriksdepartementet.