মুসলিম উম্মাহর উপর আলীর খিলাফতকাল ছিল প্রায়শই কলহপূর্ণ এবং তাঁর বিরুদ্ধে অনেক যুদ্ধ পরিচালনা করা হয়। ফলে তাঁকে তাঁর ক্ষমতা টিকিয়ে রাখতে যারা তাঁর প্রতি আনুগত্য প্রকাশপূর্বক বিশ্বাসঘাতকতা করেছিল বা তাঁর পদচ্যুত করতে চেয়েছিল তাদের বিরুদ্ধে লড়তে হয়। বাদানুবাদের এক পর্যায়ে প্রথম ফিতনা সংঘটিত হয় যা ছিল ইসলামি খিলাফতের অভ্যন্তরীণ প্রথম বৃহৎ গৃহযুদ্ধ। আলীর রাজনৈতিক পূর্বসূরি উসমান ইবন আফফানের গুপ্তহত্যাকে কেন্দ্র করে আলীর বিরুদ্ধে একাধিক বিদ্রোহ এই ফিতনার সূত্রপাত ঘটায়। উসমানের শাসনামলে যেসব বিদ্রোহী তাঁকে স্বজনপ্রীতির দায়ে অভিযুক্ত করেছিল তারা আলী ইবনে আবী তালিবের খিলাফত মেনে নেয়ে, কিন্তু পরবর্তীকালে তারাই আলীর বিরুদ্ধে যুদ্ধে নামে। আলী ৬৫৬ খ্রিষ্টাব্দ থেকে ৬৬১ খ্রিষ্টাব্দ পর্যন্ত শাসনকার্য পরিচালনা করেন। তিনি নামাজে সেজদারত অবস্থায় আততায়ীর গুপ্তঘাতের শিকার হন এবং পরবর্তীকালে মৃত্যুবরণ করেন। আলীর প্রধান প্রতিদ্বন্দ্বী মুয়াবিয়া ইবনে আবু সুফিয়ান এরপর খিলাফতের দাবি করেন।