埃及的宗教刺杀团刺杀之后，穆阿维亚坚决反对先知穆圣的侄子兼女婿阿里·伊本·艾比·塔里卜继任为哈里发。他公开展示堂叔奥斯曼和其妻子的血衣，暗示奥斯曼遇刺，实为阿里所指使。双方矛盾尖锐，终于在657年爆发了绥芬之战。在这场战役中，穆阿维亚命令士兵把许多本《古兰经》挑在枪尖上，要求阿里接受真主安拉的裁决。阿里无奈地接受了这一要求，而裁决结果是“双方均放弃哈里发职位”。当然，穆阿维亚可能在其中作了手脚；阿里的追随者因之发生分裂。661年，分裂出的一派哈瓦利吉派刺杀了阿里。穆阿维亚没有了竞争对手，他在哈瓦利吉派的支持