Uusi yhdistynyt Jemen oli sisäisesti epävakaa. Vuonna 1994 syttyi Jemenin sisällissota etelän julistautuessa jälleen itsenäiseksi. Etelän itsenäisyyttä kesti kuitenkin vain kaksi kuukautta Salehin pohjoisen asevoimien murskatessa etelän vastarinnan. Maan parlamentti valitsi hänet jälleen presidentiksi vuonna 1994 ja vuoden 1999 vaaleissa hän sai virallisten lukujen mukaan 96,2 % äänistä. Maan epävakaus ei kuitenkaan päättynyt tähänkään ja ongelmia tuottivat esimerkiksi Afganistanin sotaan Neuvostoliittoa vastaan osallistuneet jemeniläiset islamistit, jotka olivat alkaneet palata kotimaahansa. Sieppaukset räjähtivät käsiin ja vaikka tapaukset olivat pitkään väkivallattomia, joulukuussa 1998 sai surmansa neljä länsimaista turistia erään ryhmittymän yrittäessä siepata 16 hengen turistiryhmän. Vuoden 2000 lokakuussa al-Qaedaan yhteyksissä oleva järjestö pommitti Yhdysvaltain laivaston hävittäjää USS Colea Adenin kaupungin satamassa ja 17 amerikkalaista sai surmansa. Saleh salli iskun jälkeen Yhdysvaltojen operoida Jemenin rajojen sisällä islamisteja vastaan, mikä taas kasvatti hänen vastustustaan. Syyskuun 11. päivän terroritekojen jälkeen vuonna 2001 CIA kiihdytti toimiaan osana niin sanottua terrorismin vastaista sotaa ja Saleh alkoi saada taloudellista tukea Yhdysvalloista yhteistyötä vastaan. Aikaisemmin samana vuonna oli viety myös läpi uudistus, joka nosti presidentin virkakauden viidestä vuodesta seitsemään ja samalla muodostettiin presidentin nimittämä 111-henkinen šuuravaltuusto.