Senere ble ʿAlī utfordret av Muʿāwiyah ibn ʾAbī Sufyān, som var Levantens guvernør og ʿUṯmāns fetter, og som nektet å underkaste seg ʿAlī og oppfordret til hevn for ʿUṯmān. ʿAlī innledet forhandlinger med håp om å få tilbake hans troskap, men Muʿāwiyah insisterte på at Levanten skulle bli selvstyrt under hans styre. Deretter mobiliserte han sine levantinske støttespillere og nektet å underkaste seg ʿAlī med begrunnelsen at han ikke hadde deltatt i valget av ham som kalif. De to hærene slo leir nær Ṣiffīn i Syria for mer enn ett hundre dager, hvorav forhandlinger opptok mesteparten av tida. Selv om ʿAlī flere ganger sendte brev til Muʿāwiyah, klarte han ikke å overtale ham til å gi seg eller å anerkjenne ʿAlī som kalif. Trefninger mellom de to sidene førte til slaget ved Ṣiffīn i 657. Etter en uke med kamper ble det utkjempet et voldelig slag kjent som "ropsnatta," hvor Muʿāwiyahs hær var nær ved å bli beseira da ʿAmr ibn al-ʿĀṣ rådet ham til å få sine soldater til å binde muṣḥaf (tynne pergamentbiter med vers fra Qur'anen på seg) på deres spydspisser for å skape uenighet og forvirring i ʿAlīs armé. Likevel endte ʿAlī opp som slagets seierherre. Dette skal ha vært det første slaget ʿAlīs sønn al-ʿAbbās tok del i.