Po smrti Alího roku 661 a postupném upevnění své moci začal nově nastolený chalífa Mu'ávija I. s novou expanzí. Od roku 663 Arabové každoročně vpadávali do Malé Asie, přičemž tyto útoky byly doprovázeny i nájezdy arabské flotily. Roku 674, čtyři roky poté, co se Arabové zmocnili ostrova Kyzikos ležícího nepříliš daleko od Konstantinopole, zahájilo arabské loďstvo blokádu města. Zároveň Malou Asií protáhla pozemní armáda, která zabránila přístupu do Konstantinopole i po souši. Silné konstantinopolské hradby a byzantské loďstvo vybavené novou zbraní zvanou řecký oheň dokázaly po pět let úspěšně arabskému náporu čelit a Byzantincům se úspěšně dařilo působit svým nepřátelům značné ztráty. Následně v muslimském vojsku propukly nemoci, jež spolu s nedostatkem potravin donutily roku 678 chalífu ke stažení své armády. Zbytek jeho loďstva byl zničen bouří a byzantskými plavidly, takže Mu'ávijovi nezbylo než podepsat mír, na základě něhož vyklidil většinu získaných ostrovů. Dále se zavázal k placení ročního poplatku a vytvoření demilitarizované zóny při hranicích chalífátu a Byzance v Malé Asii. Díky vítězství u Konstantinopole vzrostla prestiž říše jakožto ochránce Evropy před islámskou expanzí a mírová smlouva umožnila císaři Konstantinovi udržet na určitou dobu na východní hranici mír. V této době však vyvstal Byzanci nový protivník na Balkáně, kde se konstituoval nový státní útvar – první bulharská říše.