アブドゥルマリク
そしてアズラク派に対しては以前にズバイル家に仕え、ハワーリジュ派との長い戦いの経験を持っていたアル=ムハッラブ・ブン・アビー・スフラ・アル=アズディー(英語版)を援護し、最終的にムハッラブは697年にアズラク派を打ち倒した。一方で同じ頃にはイラクの中心部でシャビーブ・ブン・ヤズィード・アッ=シャイバーニー(英語版)の率いるハワーリジュ派の反乱が勃発し、反乱軍はアル=マダーイン(英語版)を占領してクーファを包囲した。ハワーリジュ派に立ち向かうにあたって戦争で疲弊したイラクの人々の消極さや能力の欠如といった状況に直面したハッジャージュは、アブドゥルマリクからスフヤーン・ブン・アル=アブラド・アル=カルビー(英語版)が率いるシリアからの援軍を得ることで対処しようとした。より統制のとれた軍隊であったシリア軍は697年の初頭に反乱軍によるクーファへの攻撃を撃退し、シャビーブを殺害した。最終的にハワーリジュ派の反乱は698年までに鎮圧された。アブドゥルマリクはイラクの下にスィスターン(英語版)とホラーサーンを統合し、その結果ハッジャージュはイスラーム国家の東半分を占める広大な地域の責任を担うことになった。ハッジャージュはムハッラブをホラーサーンの総督代理に任命し、ムハッラブは702年に死去するまでその地位にあった。そしてムハッラブの死後は息子のヤズィード(英語版)が後を継いだ。ムハッラブは任期中にイスラーム教徒による中央アジアの征服活動(英語版)を再開したが、アブドゥルマリクの治世にはこの軍事活動による領土の獲得はほとんどなかった。
イブン・ズィヤードはマルワーンを説得し、カルブ族の族長であるイブン・バフダル(英語版)が主催するジャービヤ(英語版)で開催されたウマイヤ朝支持派の部族会議でカリフの地位へ志願するように促した。
最終的に部族の指導者たちはこの会議においてマルワーンをカリフに選出し、マルワーンはカルブ族とその同盟者に支援を仰ぐようになった。これらのカルブ族をはじめとする各部族は、建前としては南アラビア(ヤマニ)を共通の起源としていたことから「ヤマン(英語版)」の総称で知られるようになった。このヤマン族の権力は、ヤマン族と同様の部族連合であり、ムアーウィヤ1世の下でシリア北部とジャズィーラ(メソポタミア北部)を支配していたもののイブン・アッ=ズバイルへ離反したカイス族(英語版)を排除することによって成り立っていた。そのカイス族は684年に起こったマルジュ・ラーヒトの戦いでマルワーンとその支持勢力であるヤマン族に完全な敗北を喫し、その結果として二つの部族連合間の対立と長期にわたる血の確執(英語版)を引き起こすことになった。9世紀の詩人であるアブー・タンマーム(845年没)が編纂した詩撰集に収められた戦闘当時のいくつかの詩によれば、アブドゥルマリクは宗教上の理由からこの戦いには参加しなかった。
アブドゥルマリクは停戦に伴うビザンツ帝国との戦争の中断を利用して689年から690年にかけてイラクのイブン・アッ=ズバイル派に対する攻撃に乗り出したが、アムル・ブン・サイード・アル=アシュダクとその支持者たちが軍の陣営を放棄してダマスクスを制圧したためにダマスクスへ引き返すことを余儀なくされた。アシュダクはアブドゥルマリクの即位を以前のジャービヤにおける部族会議で達したカリフ位の継承に関する合意の違反とみなしていた。アブドゥルマリクはアシュダクを16日間にわたって包囲し、都市の放棄と引き換えに身の安全と大幅な政治的譲歩を約束した。アシュダクはこの条件に同意して降伏したが、アブドゥルマリクはアシュダクの以前の野心に対して疑いを持ち続け、結局アシュダクを自ら処刑した。
ズファル・ブン・アル=ハーリス・アル=キラービーが支配するカルキースィヤーでは、685年か686年にはイブン・ズィヤード、689年か690年にはヒムス(ジュンド・ヒムス(英語版))のウマイヤ朝の総督であるアバーン・ブン・アル=ワリード・ブン・ウクバがズファルを排除しようとしたが、ズファルは支配を維持し続け、カリフのイラクに対する野心の障害となっていた。