Al in de tijd van de profeet Mohammed werd er gesproken over deze groepering. Na de moord op Oethman ibn Affan in 656 en de daaropvolgende machtsstrijd tussen Ali en Moe'awija I of wat later zal uitmonden in het conflict tussen Sjiisme en Soennisme, scheurden ze zich af en werden zij een soort derde partij.