Jabarkan Khalifah dari Ali bin Abi Thalib

Setelah Utsman terbunuh oleh para pemberontak Mesir pada tahun 656, kandidat potensial untuk mengisi jabatan khalifah adalah Ali dan Thalhah. Bani Umayyah melarikan diri dari Madinah, kota dikuasai oleh pemberontak dan kaum Anshar. Talhah mendapatkan dukungan dari penduduk Mesir; sementara penduduk Basra dan Kufah—yang mendukung pendapat Ali untuk menghindari kekerasan—serta sebagian besar kaum Anshar mendukung Ali. Beberapa penulis juga menuliskan bahwa (sebagian besar) kaum Muhajirin mendukung Ali. Para kepala suku utama juga mendukung Ali pada saat itu. Kelompok-kelompok tersebut menawarkan Ali menjadi khalifah, tetapi ia menolaknya, mengatakan bahwa ia lebih suka menjadi seorang wazir (menteri).

Sebagai Khalifah ke-4 yang memerintah selama sekitar 5 tahun. Masa pemerintahannya mewarisi kekacauan yang terjadi saat masa pemerintah Khalifah sebelumnya, Utsman bin Affan. Untuk pertama kalinya perang saudara antara umat Muslim terjadi saat masa pemerintahannya, Pertempuran Basra. 20.000 pasukan pimpinan Ali melawan 30.000 pasukan pimpinan Zubair bin Awwam, Talhah bin Ubaidillah, dan Ummul mu'minin Aisyah binti Abu Bakar, Istri Muhammad. Perang tersebut dimenangkan oleh pihak Ali.

Peristiwa pembunuhan Khalifah Utsman bin Affan yang menurut berbagai kalangan waktu itu kurang dapat diselesaikan karena fitnah yang sudah telanjur meluas dan sudah diisyaratkan (akan terjadi) oleh Muhammad ketika dia masih hidup, dan diperparah oleh hasutan-hasutan para pembangkang yang ada sejak zaman Utsman bin Affan, menyebabkan perpecahan di kalangan kaum muslim sehingga menyebabkan perang tersebut. Tidak hanya selesai di situ, konflik berkepanjangan terjadi hingga akhir pemerintahannya. Pertempuran Shiffin yang melemahkan kekhalifannya juga berawal dari masalah tersebut. Ali bin Abi Thalib, seseorang yang memiliki kecakapan dalam bidang militer dan strategi perang, mengalami kesulitan dalam administrasi negara karena kekacauan luar biasa yang ditinggalkan pemerintahan sebelumya.