Perang Saudara Islam II
Kemenangan kubu Umayyah

Artikel utama: Pertempuran Maskin dan Pengepungan Mekkah (692)
Setelah berkuasanya Marwan pada Juni 684, ia mengirim Ibnu Ziyad untuk merebut Irak, dan ia berhasil mengalahkan kaum Tawwabin di Ain al-Warda. Setelah kekalahan mereka di Marj Rahith, Banu Qais menyusun kembali kekuatannya di utara Irak, melanjutkan perang untuk mendukung Ibnu Zubair, dan menggagalkan upaya Ibnu Ziyad selama setahun. Setelah gagal mengalahkan Mukhtar di benteng pertahanannya, Ibnu Ziyad bergerak merebut Mosul dari penguasa bawahan Mukhtar. Mukhtar mengirim 3.000 pasukan berkuda untuk merebut kembali kota tersebut. Ia memenangkan sebuah pertempuran pada Juni 686, tetapi harus mundur dari pasukan Umayyah yang jauh lebih besar.
Sebulan kemudian, pasukan Mukhtar yang telah mendapat bala bantuan ganti mengalahkan Ibnu Ziyad dalam Pertempuran Khazir. Ibnu Ziyad sendiri terbunuh, sehingga Abdul Malik menunda rencananya merebut Irak dan memusatkan perhatiannya untuk mengukuhkan kekuasaannya di Syam. Posisinya di Syam terancam oleh konflik internal dan serangan dari Romawi Timur. Meskipun demikian, ia sempat memimpin dua serangan ke Irak (689 dan 690), dan pesuruhnya menghasut sebuah pemberontakan di Bashrah terhadap Ibnu Zubair. Serangan maupun pemberontakan tersebut mengalami kegagalan. Alhasil, wali negeri Mush'ab bin Zubair balik menghukum para pendukung Umayyah di Bashrah.
Setelah gencatan senjata dengan Romawi Timur dan mengatasi masalah internal di Syam, Abdul Malik kembali menolehkan perhatiannya ke Irak. Pada 691, ia mengepung benteng Banu Qais di utara Irak. Setelah gagal menembus pertahanan Banu Qais, ia berhasil mengajak kabilah tersebut untuk bergabung dengan menawarkan konsesi politik serta janji pengampunan atas pemberontakan mereka. Dengan sekutu baru ini Abdul Malik maju untuk menghadapi Mush'ab, yang posisinya di Irak mulai melemah. Kaum Khawarij melakukan serangan-serangan terhadap pemerintah di Persia, Irak dan Semenanjung Arab. Di Irak dan Persia, kelompok Azariqah, salah satu faksi Khawarij, merebut Fars serta Kirman pada 685 dan terus menentang Mush'ab. Penduduk Kufah dan Bashrah juga mulai membencinya akibat tindakan tangan besinya serta pembunuhan terhadap pendukung Mukhtar dan Abdul Malik. Alhasil, mantan pengikut Ibnu Zubair banyak membelot ke pihak Umayyah. Mush'ab harus meninggalkan setengah pasukannya di Bashrah untuk menghalau kaum Khawarij, dan tidak memiliki kekuatan cukup untuk menghadapi Abdul Malik. Ia dikalahkan dan terbunuh dalam Pertempuran Maskin pada Oktober 691.
Setelah Irak dan wilayah sekitarnya jatuh ke tangan Abdul Malik, khalifah Umayyah tersebut mengirim panglimanya Al-Hajjaj bin Yusuf untuk menghadapi Abdullah bin Zubair, yang pusat kekuasaannya di Hijaz sedang diancam oleh kelompok Khawarij di bawah pimpinan Najdah bin Amir. Najdah mendirikan sebuah negara merdeka di kawasan Najd dan Yamamah di semenanjung Arabia pada 685, merebut Yaman dan Hadhramaut pada 688, serta menduduki Thaif pada 689. Al-Hajjaj tidak langsung menyerang ibu kota Ibnu Zubair di Mekkah, tetapi bergerak menuju Thaif dan mengalahkan pasukan pendukung Ibnu Zubair dalam beberapa bentrokan kecil. Pasukan Umayyah lain merebut Madinah dari kubu Ibnu Zubair, dan bergabung dengan Al-Hajjaj yang mengepung Mekkah pada Maret 692. Kota suci itu dikepung selama enam atau tujuh bulan, berakhir dengan menyerahnya pasukan Ibnu Zubair dan dibunuhnya pemimpin mereka pada September atau Oktober 692. Dengan meninggalnya sang khalifah tandingan, daerah Hijaz jatuh ke tangan Umayyah dan kubu Umayyah telah memenangi perang saudara di antara umat Islam. Walaupun setelah ini masih ada rongrongan dari kaum Khawarij, perlawanan kelompok ini pun kelak akan dipadamkan.