Unter mehreren regionalen Königreichen übte Saba besonders vom 6. bis 4. Jahrhundert v. Chr. eine gewisse Vormachtstellung aus. Mit der Gründung der neuen Hauptstadt Zafar um 20 v. Chr. begann der Aufstieg des Himyar-Reichs (bis 525 n. Chr.). Die Römer nannten den Jemen wegen seiner Reichtümer "Arabia Felix" (glückliches Arabien). Ihr Versuch, das Land zu erobern, scheiterte. Nach ihrer Niederlage gegen die Römer im Ersten Jüdischen Krieg 70 n. Chr. brachten Flüchtlinge das Judentum in den Jemen. Zwar gelang den Himjariten im 3. Jahrhundert nochmals die Einigung des Landes, doch wurde es 525 vom äthiopischen Königreich Aksum erobert.