Den 17. januar 1996 ble han utnevnt til Tysklands justisminister i Helmut Kohls regjering. Etter valget i 1998 måtte regjeringen trekke seg.