Dalam waktu beberapa bulan, Marwan menyusun kekuatan Umayyah dan merebut kembali wilayah Mesir, Palestina, dan Syam Utara, yang sebelumnya telah tunduk pada Ibnu az-Zubair. Ia mengirim pasukan untuk merebut kembali Irak, tetapi ia meninggal saat pasukan tersebut masih dalam perjalanan. Sebelum ia meninggal, ia memastikan anak-anaknya memiliki posisi yang kuat: Abdul Malik bin Marwan ditunjuk sebagai khalifah penerusnya, Abdul Aziz menjadi wali negeri Mesir, dan Muhammad menjadi panglima di kawasan Mesopotamia Hulu. Abdul Malik akan menyatukan kembali kekhalifahan, dan anak cucu Marwan akan terus menguasai kekhalifahan hingga digulingkan Dinasti Abbasiyah pada 750. Marwan memiliki reputasi beragam: sejarawan Clifford E. Bosworth menyebutnya sebagai panglima dan negarawan yang cerdik, cakap, tegas, dan berhasil melanggengkan kekhalifahan Umayyah, sedangkan riwayat-riwayat Muslim anti-Umayyah mengejeknya sebagai "abūʾl-jabābirah" (bapak para tiran).