En 2006 fue portavoz del grupo parlamentario de este partido en el Parlamento alemán y jefe de la oposición, y del 28 de octubre de 2009 al 17 de diciembre de 2013 fue Ministro de Relaciones Exteriores y desde la misma fecha hasta el 16 de mayo de 2011 también Vicecanciller en el segundo gobierno de Angela Merkel.