Setelah Yazid meninggal di tengah perang saudara, Zufar mendukung usaha Abdullah bin Zubair untuk merebut kekhalifahan dari pihak Umayyah. Ia juga mengusir gubernur Umayyah dari Jund Qinnasrin dan mengirim pasukan Qais untuk mendukung gubernur Damaskus pro-Ibnu Zubair, Adh-Dhahhak bin Qais. Pada Pertempuran Marj Rahith tahun 684, Adh-Dhahhak terbunuh dan pasukannya (termasuk pasukan Qais) dikalahkan oleh pasukan Umayyah dan sekutunya. Setelah itu, sisa-sisa pasukan Qais yang selamat bergabung dengan Zufar dan mendirikan markas di Qarqisiya. Selama di Qarqisiya, Zufar memimpin serangan melawan Banu Kalb, serta melancarkan berbagai serangan terhadap Banu Kalb yang tinggal di Gurun Suriah. Pada 688–689, ia terlibat dalam konflik dengan suku Taghlib untuk membantu Umair bin Al-Hubab dari Banu Sulaim, yang merupakan sekutu suku Zufar, meskipun sebelumnya ada cara untuk menghentikan pertengkaran. Setelah memimpin tiga pengepungan dari 685 hingga 691, Zufar memilih berdamai dengan khalifah Umayyah Abdul Malik (memerintah 685–705), dan berhenti mendukung Ibnu Zubair dengan hadiah kebebasan tinggal di istana dan hak untuk bergabung di tentara Umayyah, serta diberikan janji pengampunan. Para anggota Qais akan mendapat gaji bagi yang aktif dalam ketentaraan. Perdamaian antara Zufar dengan Abdul Malik dibuktikan dengan pernikahan putri Zufar ar-Rabab dengan putra khalifah Maslamah. Di bawah pengganti Abdul Malik, keluarga Zufar diberikan jabatan dan kewibawaannya dalam pemerintahan Umayyah dan keistimewaannya di kalangan suku Qais. Pada tahun 750 cucunya Abu al-Ward memimpin pemberontakan suku Qais melawan Kekhalifahan Abbasiyah, pengganti Kekhalifahan Umayyah, dimana ia dan beberapa anggota keluarganya dibunuh selama pertempuran.