Sebelum Yaman bersatu menjadi Republik Yaman, wilayah itu terpisah menjadi Utara, dan Selatan. Utara menggunakan bendera di sebelah kiri (bendera Kerajaan Mutawakkiliyah Yaman), sejak 1927 hingga 1962, ketika menjadi Republik Arab Yaman. Republik Arab Yaman menggunakan bendera sama dengan bendera Yaman sekarang, kecuali dengan bintang hijau di tengah garis putih. Republik Demokratik Rakyat Yaman di Selatan menggunakan bendera dengan segitiga biru langit di bagian kiri, dengan bintang merah. Sementara segitiga biru dan bintang adalah lambang Partai Sosialis Yaman, keseluruhan rancangan bendera dipengaruhi oleh bendera Kuba, setelah Revolusi Kuba tahun 1950-an (Hendrikksen, 1982).