Tijdens de mislukte communistische Augustusstaatsgreep in Moskou tegen Gorbatsjov vloog hij op 21 augustus met de vicepremier van de RSFSR, Aleksandr Roetskoj, naar Foros op de Krim naar Gorbatsjov. In oktober benoemde Gorbatsjov hem tot vicevoorzitter van de KGB. Hij werd in de aanloop naar de Eerste Golfoorlog gerekend tot het kamp der "Arabisten" en was voorstander van ten minste indirecte steun aan Saddam Hoessein. Hierbij kwam hij in conflict met de pro-Amerikaanse Russische minister van buitenlandse zaken Edoeard Sjevardnadze, die insprong toen Primakov enkele uren vóór de inval van de Amerikaanse troepen op aandringen van Gorbatsjov probeerde om Hoessein ertoe te bewegen zijn toon te matigen, hetgeen bijna leidde tot een breuk tussen de Russische en Amerikaanse regering.