In de schaduw van de Byzantijns-Sassanidische Oorlog ontstond er op het Arabisch Schiereiland een nieuwe wereldmacht, het Arabische Rijk. De eerste maal dat de Byzantijnen in contact kwamen met de Arabieren was in september 629 tijdens de Slag bij Mu'ta, waar ze hun vazallen, de Ghassaniden, steunden. Onder leiding van generaal Khalid ibn Walid veroverden de Arabieren in korte tijd (634-638) Syria. In de herfst van 636 kwam het ten slotte tot de Slag bij de Jarmuk. Herakleios, die de aanvallen tot voor kort niet echt serieus had genomen, bracht een zeer sterk regulier leger bijeen. Maar de Romeinse generaals werkten uit jaloezie slecht samen, en de Arabische hulptroepen van de keizer liepen over naar de vijand: de slag eindigde met een catastrofale nederlaag voor de Oost-Romeinen, die daarmee Syrië verloren, inclusief Jeruzalem in 637. Herakleios was zich welbewust van de draagwijdte ervan, daar hij, na de Slag bij de IJzeren Brug, Antiochië zou hebben verlaten met de woorden: « Vaarwel Syrië ». Niet veel later, viel Khalid ibn Walid, Armenië en Anatolië binnen..