I desember 1988 ble han utenriksminister i Yitzhak Shamirs kabinett. Denne post innehadde han til juni 1990, da Shamir igjen gjorde ham til forsvarsminister. Han forble i denne funksjon til 1992, da Likud tapte i valgene. Arens trakk seg da tilbake fra politikken.