Jabarkan Khawarij moderat dari Khawarij

Menurut catatan para heresiografer, Khawarij terpecah menjadi empat kelompok utama selama Fitnah Kedua. Sebuah kelompok moderat yang dipimpin oleh Abdullah bin Saffar (atau Asfar) dan Abdallah bin Ibad merasa tidak setuju dengan Azariqah dan Najdah yang radikal mengenai masalah pemberontakan dan pemisahan dari non-Khawarij. Ibnu Saffar dan Ibnu Ibad kemudian berselisih pendapat di antara mereka sendiri mengenai keyakinan non-Khawarij, dan dengan demikian muncullah dua sekte lainnya: Sufriyah dan Ibadiyah. Semua subkelompok Khawarij yang tidak dikategorikan lainnya biasanya dianggap cabang dari Sufriyah. Dalam skema pembagian ini, seluruh orang-orang Khawarij dari wilayah Al-Jazirah (Irak barat laut), termasuk seorang zahid yang bernama Salih bin Mussarih, pemimpin suku Syabib bin Yazid Asy-Syaibani, pemimpin pemberontakan yang bernama Dahhak bin Qais Asy-Syaibani selama Fitnah Ketiga (744–750), mereka semua memiliki afiliasi dengan Sufriyah. Setelah kematian Ibnu Ibad, Ibadiyah dipimpin oleh Jabir bin Zaid dan Abu Ubaidah Muslim bin Abi Karimah. Jabir, seorang cendekiawan yang dihormati, memiliki hubungan persahabatan dengan Khalifah Abdul Malik serta dengan Hajjaj. Mengikuti kematian Abdul Malik, hubungan antara para pemimpin Ibadiyah dengan Hajjaj memburuk karena para pemimpin Ibadiyah  memiliki kecenderungan ke arah aktivisme. Akibatnya, Hajjaj mengasingkan beberapa dari mereka ke Oman dan memenjarakan yang lainnya. Abu Ubaidah, yang dibebaskan setelah kematian Hajjaj pada tahun 714 M, menjadi pemimpin berikutnya dari Ibadiyah. Setelah gagal memenangkan khalifah Bani Umayyah dengan doktrin Ibadi, dia mengirim para dai untuk menyebarkan doktrin tersebut di berbagai bagian kekaisaran. Hampir bersamaan, Sufriyah juga menyebar ke Afrika Utara dan Arabia selatan melalui kegiatan dakwah. Sufriyah akhirnya punah ketika para pengikutnya bersepakat untuk mengadopsi ajaran Ibnu Ibad. Sumber-sumber Ibadi juga kurang lebih sejalan dengan skema ini, di mana Ibadiyah mengklaim dirinya muncul sebagai penerus sejati dari komunitas asli Madinah dan Khawarij pra-Fitnah Kedua awal, meskipun Ibnu Ibad dalam literatur Ibadi tidak begitu menonjol dan Jabir dinyatakan sebagai pemimpin gerakan Ibadiyah setelah Abu Bilal Mirdas.

Sejarawan modern menganggap Ibnu Saffar sebagai tokoh legenda, dan menegaskan bahwa sekte Sufriyah dan Ibadiyah tidak ada selama abad ketujuh. Para heresiografer, yang tujuannya adalah untuk mengkategorikan keyakinan yang berbeda dari Khawarij, kemungkinan besar menciptakan istilah Sufriyah untuk mengakomodasi kelompok-kelompok yang tidak cocok dikategorikan sebagai Ibadiyah, Najdah, maupun Azariqah. Sejarawan modern berpendapat bahwa satu-satunya aliran Khawarij yang moderat dan eksis pada abad ketujuh adalah "Sufri". Menurut sejarawan Keith Lewinstein, istilah tersebut mungkin berasal dari kaum Khawarij awal yang saleh karena penampilan kuning pucat mereka. Penampilan kuning tersebut disebut sebagai sufra dan disebabkan oleh ibadah yang berlebihan. Kaum moderat Khawarij mengutuk militansi Azariqah dan Najdah, tetapi mereka sendiri sebenarnya tidak memiliki seperangkat doktrin yang konkret. Jabir dan Abu Ubaidah mungkin merupakan tokoh terkemuka dalam gerakan moderat. Kaum moderat yang awalnya disebut Sufri semakin terpecah menjadi Sufriyah dan Ibadiyah. Kedua kelompok tersebut sejatinya hadir hanya pada abad kedelapan, yang mana perbedaan utama di antara keduanya hanyalah terletak pada afiliasi kesukuan daripada perbedaan doktrinal .

Selama Fitnah Kedua, kaum Khawarij moderat tetap tidak aktif. Namun, pada pertengahan tahun 690-an mereka juga memulai kegiatan militan sebagai tanggapan atas penganiayaan oleh Hajjaj. Pemberontakan pertama mereka dipimpin pada tahun 695 oleh Ibnu Musarrih, dan berakhir pada kekalahan dan kematian Ibnu Musarrih. Setelah itu, kelompok Khawarij ini menjadi ancaman besar bagi Kufah dan pinggirannya di bawah pimpinan Syabib. Dengan pasukan kecil yang terdiri dari beberapa ratus prajurit, Syabib mengalahkan beberapa ribu pasukan Umayyah pada tahun 695–696, menjarah perbendaharaan Kufah dan menduduki al-Mada'in. Dari markasnya di al-Mada'in, Syabib bergerak untuk merebut Kufah. Hajjaj telah meminta pasukan Suriah dari Abdul Malik, yang mengirim 4.000 tentara kuat yang mengalahkan Syabib di luar Kufah. Shabib tenggelam di sungai selama pelariannya, kelompoknya dihancurkan, tetapi kaum Khawarij terus mempertahankan keberadaannya di Al-Jazirah.