反对者纷纷宣布支持他为哈里发。683年叶齐德一世死后，包括伊拉克、南阿拉比亚、埃及和叙利亚部分地区的穆斯林承认阿卜杜拉·伊本·祖拜尔是真正的哈里发，他实际在麦加建立了独立的统治。阿卜杜拉·伊本·祖拜尔长期占领伊斯兰教第一大圣地麦加，以至数位哈里发在耶路撒冷建造圆顶清真寺，以抵消麦加天房被叛乱者占据的影响。692年，哈里发阿卜杜勒·马利克派遣大军讨伐阿卜杜拉·伊本·祖拜尔。哈里发的军队包围了反对者的藏身之地，冒着破坏圣寺的危险发动强攻。阿卜杜拉·伊本·祖拜尔在母亲的感召下奋勇作战，但最终阵亡。