Nær grensen til Jemen begynner Sarawat å spre seg ut til individuelle topper, og Hejaz heller gradvis oppover mot det jemenittiske platået. Alle fjellene over 3 000 moh ligger i Jemen. Det høyeste av disse er Jabal an Nabi Shu'aib, som er det høyeste fjellet på Den arabiske halvøya. Det har en høyde på 3 666 moh. og ligger nær hovedstaden Sana'a. I Jemen er Sarawat delt mellom de vestlige og sentrale høylandene, hvor de vestlige høylandene får rikelig med nedbør, mer enn noen annet sted på halvøya, og det sentrale høylandet har de høyeste fjellene på hele halvøya. En særdeles dramatisk del av de jemenittiske Sarawatfjellene er Harazfjellene, hvor et par av toppene er 3 000 moh. Noen av fjellene har primærfaktor på mer enn 1 500 m.