I 1989 utarbeidet Sør-Jemen og Jemen en ny grunnlov, som ble ferdig i 1991. I 1990 ble de to områdene forent til en stat. Like etter ble den anerkjent som en stat av FN. Sana ble valgt som hovedstad og Saleh ble president. De første årene var preget både av økonomisk oppgang og av kriger. Jemen startet eksport av olje, som var svært innbringende, og demokratiske reformer ble begynt. Imidlertid inntok Jemen en irakiskvennlig nøytralitet under den irakiske invasjonen av Kuwait under Saddam Hussein, noe som medførte at 800 000 jemenittiske fremmedarbeidere ble eksportert fra Saudi-Arabia. Det ble også store konflikter mellom Jemens to deler, og i 1994 brøt det ut borgerkrig mellom Nord- og Sør-Jemen. Nord-Jemen vant, og unionen besto. I 1995 kom Jemen til væpnet konflikt med Eritrea om Hanishøyene. Konflikten var kortvarig, og krevde et dusin menneskeliv fra begge sider. Øygruppen hadde tilhørt Jemen, men hadde, blant annet av britiske kolonister, blitt knyttet til Eritrea, og etter hvert Etiopia. En internasjonal domstol ledet av Jemens utenriksminister Dr. Abdul Karim Aleryani kom fram til at de større øyene tilfalt Jemen, mens de mindre tilfalt Eritrea.