El 5 de diciembre de 1995 Solana se convirtió en secretario general de la Organización del Tratado del Atlántico Norte (OTAN), reemplazando a Willy Claes, quien se había visto obligado a dimitir por un escándalo de corrupción. Su nombramiento fue controvertido, ya que anteriormente Solana se había opuesto a la Alianza Atlántica y había escrito un documento denominado "50 razones para decir no a la OTAN". El PSOE se había manifestado contrario a la OTAN, pero una vez en el gobierno su actitud cambió. El 12 de marzo de 1986 en España se sometió a referéndum la permanencia en la OTAN, en un controvertido plebiscito en el que el gobierno y Solana hicieron campaña de forma exitosa a favor de la permanencia.