O Congresso Geral do Povo (GPC), partido do presidente Saleh, obtém maioria nas eleições legislativas. Entretanto, a permanência de Saleh não agrada aos sul-iemenitas o que conduz a deterioração das relações entre os unionistas e os marxistas. Em maio de 1994, os separatistas do sul iniciam uma guerra civil com o objetivo de separar-se novamente; os líderes sul-iemenitas proclamaram o estabelecimento da República Democrática do Iêmen, liderada por Haydar Abu Bakr Al-Attas, um Estado que não foi reconhecido por nenhum país da comunidade internacional, correspondente ao território do extinto Iêmen do Sul. Os sul-iemenitas foram apoiados pela Arábia Saudita que estava preocupada com suas fronteiras com o Iêmen unificado enquanto os Estados Unidos repetidamente exigiam um cessar-fogo, sem sucesso. A guerra terminou em 7 de julho de 1994, quando o exército iemenita assume o controle de todo o país. O equilíbrio é particularmente pesado: de 7 000 a 10 000 mortes de acordo com fontes. Os combatentes (vários milhares) e os líderes sulistas foram forçados ao exílio. Se esta guerra marcou a eventual reunificação dos dois estados, no entanto, o país teve de enfrentar numerosas reconstruções, após os danos causados ​​pela guerra. Saleh, concomitantemente, reforça sua posição política em setembro com emendas à Constituição que diminuem o poder do antigo Iêmen do Sul. A lei islâmica torna-se a base de toda a legislação.