Sekten besto hovedsakelig av medlemmer av Banu Tamim stammen fra najd, og ble dannet i de urolige årene etter profeten Muhammeds død, da det var stadige kamper om politisk hegemoni. Mordet på den tredje kalifen Uthman i 656 ble fulgt av en maktkamp mellom Ali og Uthmans slektning Mu'awiya. Tilhengere fra begge siden møttes i 657 i slaget ved Siffin, der omkring 12 000 Kharijitter deltok i Alis hær. Etterhvert forlot imidlertid hæren for deretter å vende seg mot begge de stridende partene. De ble senere nedkjempet av Ali i slaget om Naharwan. Sekten overlevde imidlertid nederlaget, og et medlem sto bak mordet på Ali år 661.