V roce 1988 se stal ve vládě Jicchaka Šamira ministrem zahraničí. Na této pozici čelil kritice za nezvládnutí první palestinské intifády a navíc se dostal do trapné pozice po Pollardově aféře, která se objevila v době, kdy se americko-izraelské vztahy poznamenané první libanonskou válkou začínaly stabilizovat. Ve funkci ministra zahraničí setrval do roku 1990, kdy byl Šamirem podruhé jmenován ministrem obrany. V této funkci setrval až do roku 1992, kdy jeho mateřská strana Likud prohrála volby. V té době byl svým okolím vnímán jako zastánce tvrdé linie ve vztazích s Araby.