Den 15. desember 1972 ble han bygningsminister i Willy Brandts føderale regjering. Etter Brandt avgang ble han 16. mai 1974 utnevnt til justisminister i Helmut Schmidts nye regjering.