Entre 2005 y 2009 fue ministro de finanzas durante el primer gabinete de la canciller demócrata-cristiana, Angela Merkel, en lo que se llamó el Gobierno de la "Gran coalición" formada por el SPD y la CDU. Anteriormente ha ocupado otros puestos en los gobiernos regionales, llegando a ser Ministro-Presidente de Renania del Norte-Westfalia en el periodo 2002-2005. Es especialmente conocido entre el público alemán por sus deslices verbales, que en más de una ocasión han provocado numerosas críticas. Fue el candidato a canciller alemán para las elecciones federales de septiembre de 2013, pero tras el fracaso cosechado en las urnas presentó la dimisión de todos los cargos que ocupaba.