Heracli només va poder alegrar-se de la seva victòria durant uns quants anys. Poc després del seu triomf sobre els perses, va començar l'expansió islàmica. El 636, les tropes romanes van ser derrotades pels àrabs musulmans en la Batalla del Yarmuk: després de la llarga guerra contra Pèrsia, no existien recursos suficients per oposar resistència. El 642 l'Imperi Romà d'Orient havia perdut totes les seves províncies orientals, i alguns anys després caurien també les del nord de l'Àfrica. Als Balcans, mentrestant, onades de pobles eslaus es van internar en territori romà, on es van assentar de forma estable. L'Imperi va quedar reduït a Àsia Menor, sempre sotmesa als atacs dels àrabs; la capital i els seus voltants; i algunes illes i llocs fortificats de Grècia. També van canviar l'estat i la societat de l'Imperi: sota Heracli va augmentar l'hel·lenització de l'administració i de l'exèrcit i el llatí va deixar de ser la llengua oficial ja des de l'època de la guerra amb Pèrsia. Per a molts historiadors, això suposa el final del Baix Imperi Romà i el començament de la història de l'Imperi Romà d'Orient medieval, que mantindria la seva identitat grecoromana i cristiana fins al 1453.