Pendant quelques années, Héraclius jouit d'une brève période de paix. Il se consacre au rétablissement de l'autorité byzantine en Orient et tente, sans succès, de réconcilier les différentes branches du christianisme qui coexistent depuis trois siècles au sein de son Empire. Cependant, en 633-634, une nouvelle menace apparaît. Les armées des Arabes, dirigés par les héritiers et compagnons de Mahomet, et portés par une nouvelle religion, l'islam, se lancent à l'assaut du Proche et du Moyen-Orient. Encore épuisé par la guerre contre les Perses qui l'a laissé exsangue, l'Empire cède rapidement. La défaite du Yarmouk en 636 oblige Héraclius à abandonner à nouveau la province de Syrie, la Palestine et bientôt l'Égypte, qui constituaient les dernières positions levantines et africaines romaines, ainsi que des territoires clés pour l'économie et l'agriculture de l'Empire. Sans ressources militaires et financières, il ne peut que constater l'effondrement de l'œuvre de son règne et l'abandon des territoires orientaux extra-anatoliens.