I 1989 deltok han i grunnleggelsen av Demokratischer Aufbruch, og ble senere valgt til partiets leder. I 1990 deltok han i rundebordssamtalene, og ved det frie valget 18. mars 1990 ble han innvalgt i Folkekammeret i DDR. Han ble i 1990 først utnevnt til minister uten portefølje i Hans Modrows regjering, da Modrow tok inn noen representanter for demokratibevegelsen i regjeringen. Etter Folkekammervalget ble han minister for nedrustning og forsvar i regjeringen de Maizière. I august 1990 fusjonerte Demokratischer Aufbruch med CDU, og han ble medlem av dette partiet. Han var leder av CDUs arbeidstagerorganisasjon CDA fra 1994 til 2001. Han var medlem av CDUs presidium fra 1994 til 1998.