Herakleios konnte sich nur wenige Jahre über das Erreichte freuen. Kurz nach dem Sieg über Persien setzte die arabische Expansion ein, doch nach dem langen Krieg gegen Persien fehlten nun die Ressourcen für weiteren Widerstand. 636 wurden die oströmischen Truppen von den Arabern am Jarmuk entscheidend geschlagen und bis 642 gingen Ostrom alle Orientprovinzen verloren. Ihnen sollte einige Jahrzehnte später auch die zum Reich gehörenden Gebiete Nordafrika folgen. Die Getreideflotten aus Ägypten steuerten fortan nicht mehr Konstantinopel, sondern die arabische Halbinsel an. Auf dem Balkan nahmen derweil die Slawen oströmisches Gebiet ein und setzten sich dort fest. Ostrom war auf das von arabischen Gruppen durchstreifte Kleinasien, die Reste der Besitzungen in Italien, die Hauptstadt Konstantinopel mit dem Umland sowie auf einige Inseln und befestigte Orte in Griechenland reduziert worden. Nur ein Guerillakrieg sicherte diesen Trümmern des einstigen Imperiums das Überleben, das sich aber erstaunlicherweise halten konnte. Auch Staat und Gesellschaft veränderten sich: Unter Herakleios nahm die Gräzisierung von Verwaltung und Militär stark zu, Latein wurde als Amtssprache noch während des Perserkriegs abgeschafft. Das spätrömische Reich fand damit endgültig sein Ende, und es begann die Geschichte des mittelalterlichen Byzanz, das (auf vermindertem Niveau) noch bis 1453 das griechisch-römische und christliche Erbe hochhalten sollte.