Sebelum Yaman bersatu menjadi Republik Yaman, wilayah itu terpisah menjadi Utara, dan Selatan. Utara menggunakan bendera di sebelah kiri (bendera Kerajaan Muttawakkil Yaman), sejak 1927 sehingga 1962, ketika menjadi Republik Arab Yaman. Republik Arab Yaman menggunakan bendera sama dengan bendera Yaman sekarang, kecuali dengan bintang hijau di tengah garis putih. Republik Demokratik Rakyat Yaman di Selatan menggunakan bendera dengan segi tiga biru langit di bahagian kiri, dengan bintang merah. Sementara segi tiga biru dan bintang adalah lambang Parti Sosialis Yaman, keseluruhan rancangan bendera dipengaruhi oleh bendera Cuba, setelah Revolusi Cuba tahun 1950-an (Hendrikksen, 1982).