Hij was geen aanhanger van noch Ali, noch van Moe'awija I tijdens de Eerste Fitna (Arabische burgeroorlog) (656-661). Na de Slag bij Karbala (680) waren de Aliden (aanhangers van Ali) zo goed als uitgeschakeld, dit maakte de weg vrij om een stap naar voor te zetten. al-Zoebair had de steun van de Ansaar, zijn thuisbasis was Hidjaz, waar de steden Mekka en Medina zich bevinden. De thuisbasis van de Ommajjaden was Damascus in Syrië. Kalief Yazid I stuurde een leger op hem af. Tijdens de belegering van Mekka (683) werd de Ka'aba beschadigd. In datzelfde jaar stierf Yazid en riep al-Zoebair zichzelf uit tot kalief, het begin van de Tweede Fitna. Al-Zoebair liet de Ka'aba herstellen.