Entre els anys 1982 i 1991 fou ministre de Defensa del govern presidit per Felipe González, i promogué la racionalització i la modernització de les forces armades, després de l'intent de cop d'estat del 23 de febrer de 1981. Així mateix va modificar la política del seu partit en relació amb l'entrada d'Espanya a l'OTAN, postura a la qual el PSOE s'hi havia mostrat contrari durant el govern de Leopoldo Calvo-Sotelo. Escollit diputat al Congrés per la província de Barcelona en les eleccions generals de 1986, el seu govern organitzà el 12 de març d'aquell any un referèndum mitjançant el qual s'aprovà la permanència d'Espanya a l'OTAN. Repetiria com a diputat del PSOE en les legislatures de 1989, 1993, 1996 i de l'any 2000.