Som utenriksminister mellom januar 1996 og september 1998, gjorde han seg bemerket som motstander av NATOs ekspansjon inn i den tidligere østblokken. Etter 5 måneders forhandlinger med NATOs generalsekretær Javier Solana, undertegnet likevel Russland en samarbeidsavtale med NATO den 27. mai 1997.