Dlouhý a namáhavý konflikt s Peršany říši enormně vyčerpal a učinil ji tak mimořádně zranitelnou vůči islámské expanzi, zahájené Araby počátkem třicátých let 7. století. V roce 636 arabští beduíni vedení Chálidem ibn al-Valídem porazili Byzantince v bitvě u Jarmúku, v důsledku čehož ztratila říše Sýrii a Palestinu, jejichž monofyzitské obyvatelstvo kladlo útočníkům jen zanedbatelný odpor. Po kapitulaci Alexandrie v roce 642 dobyli muslimové Egypt a v dalších letech se jim podvolila také Arménie, ačkoli Byzantinci se pokoušeli obě tyto země získat zpět. Byzanc se navzdory závažnému zmenšení svého území dokázala arabským výbojům ubránit, na rozdíl od sásánovské říše, která se do roku 651 zcela zhroutila. Byzantské vojsko se stáhlo do Malé Asie, chráněné před nepřáteli přirozenou bariérou v podobě pohoří Taurus. Arabové vybudovali z podnětu Muáviji vlastní loďstvo a narušili dosavadní námořní hegemonii Byzantinců ve východním Středomoří. Kolem roku 650 poprvé zpustošili Kypr, nedlouho nato zvítězili nad byzantskou flotilou u pobřeží Lýkie a opanovali Rhodos. V šedesátých letech vytáhl Konstans II. proti Langobardům v jižní Itálii a po krátkém pobytu v Římě přesunul svoji rezidenci do Syrakus na Sicílii, nicméně jeho nástupce ponechal sídlo vlády na východě. Stále častější, každoroční vpády Arabů do Anatolie vyvrcholily v letech 674 až 678, kdy došlo k blokádě Konstantinopole. Útočníci byli odraženi, k čemuž výrazně přispělo použití „řeckého ohně“ proti arabským lodím.