Vzápätí prišiel celkom nečakaný úder zvonku. Prednou Áziou prešla obrovská sila arabskej expanzie a zasiahla veľmi citeľne Perzskú aj Byzantskú ríšu. V roku 633 vpadli Arabi v čase vládnutia kalifa Abú Bakra do južnej Mezopotámie a počas niekoľkých následujúcich rokov celkom zničili perzskú armádu. Takmer súčasne sa obrátili aj proti Byzancii. Roku 634 vtrhli pod vedením vojvodcu Amra a Chálida ibn al-Walída do Palestíny, potom dobyli Damask (635) a zasadili Byzantíncom na rieke Jarmúk rozhodujúcu porážku v boji o Sýriu (636). Na záver sýrskeho ťaženia navštívil dobytú krajinu nový kalif Umar a ako prvý moslimský vládca vstúpil aj do Jeruzalema, ktorý kapituloval začiatkom roku 638. V rovnakom roku získali Arabi aj sýrsku metropolu Antiochiu. Potom sa obrátili do Egypta, kde onedlho po Hérakleiovej smrti kapitulovala Alexandria. Životné dielo cisára Hérakleia sa tak v posledných rokoch jeho vlády ocitlo celkom v troskách.