El 2004 en les eleccions generals fou escollit diputat al Congrés dels Diputats pel PSOE i fou nomenat pel president José Luis Rodríguez Zapatero, Ministre d'Afers Exteriors i Cooperació, sent una de les seves primeres missions la retirada espanyola de la Guerra de L'Iraq, el que comportà tensions amb el govern dels Estats Units.