Jabarkan Khalifah utama dari Khalifah

Segera setelah kematian Muhammad pada 632, Abu Bakar dibaiat sebagai pemimpin umat Islam di Masjid Nabawi. Dikenal dengan sebutan Ash-Shiddiq (, "Tepercaya"), Abu Bakar termasuk salah satu pemeluk Islam awal dan melalui putrinya, 'Aisyah. Masa kekuasaannya yang singkat dikerahkan untuk menumpas pemberontakan dari berbagai suku Arab yang merasa tidak punya tanggung jawab kesetiaan lagi pada pihak Madinah sepeninggal Muhammad. Abu Bakar sangat menjaga agar kebijakan yang dia ambil tidak berbeda dengan Muhammad.

Setelah Abu Bakar meninggal dunia pada 634 dengan meninggalkan keadaan kekhalifahan yang mulai stabil, 'Umar bin Khattab dibaiat sebagai khalifah kedua. Sebagaimana Abu Bakar, 'Umar juga merupakan mertua Muhammad melalui Hafshah. Di masanya, 'Umar melakukan berbagai pembaharuan dan perluasan. Tapal batas kekhalifahan meluas keluar dari semenanjung Arabia, mengakhiri riwayat Kekaisaran Sasaniyah dan mengambil alih dua pertiga wilayah Kekaisaran Romawi Timur. Segala capaiannya menjadikan 'Umar sebagai salah satu khalifah paling berpengaruh sepanjang sejarah.

'Utsman bin 'Affan meneruskan tampuk kekhalifahan sepeninggal 'Umar dan berbeda dengan pendahulunya, 'Utsman lebih memberikan kekuasaan otonomi yang lebih longgar pada bawahannya. Hal ini menjadikan perluasan wilayah kekhalifahan dapat dilangsungkan secara lebih mandiri, sehingga dapat mencapai wilayah yang lebih jauh. Pada masanya, kekhalifahan sudah mencapai sebagian wilayah Khorasan Raya (kawasan Asia Tengah) di batas timur. Di masanya, masyarakat menjadi lebih makmur dalam masalah ekonomi dan menikmati kebebasan yang lebih besar di bidang politik. Namun 'Utsman juga dikritik dengan dalih Nepotisme, karena lebih mendahulukan keluarga besarnya untuk mengisi berbagai kedudukan penting, menjadikan munculnya gelombang demonstrasi besar-besaran yang berujung pada pengepungan rumahnya pada tahun 656. 'Utsman yang tidak ingin menjadi penyebab perang saudara menolak bantuan militer dari kerabat dan pihak lain, menjadikannya terbunuh di akhir pengepungan.

'Ali mewarisi kedudukan khalifah setelahnya. Masa kekuasaannya merupakan salah satu masa-masa tersulit dalam sejarah Islam lantaran pada masa kekuasaannya terjadi perang saudara Islam pertama yang berawal dari terbunuhnya 'Utsman. 'Ali dibunuh kelompok Khawarij dan putranya, Hasan, diangkat menjadi khalifah oleh sekelompok Muslim pada 661. Namun beberapa bulan setelahnya, Hasan menyerahkan tampuk kekhalifahan kepada Mu'awiyah demi menghindari perang saudara lebih lanjut.

Di wilayah yang dulu dikuasai Kekaisaran Sasaniyah dan Romawi, khalifah menurunkan pajak dan memberikan kelonggaran otonomi melalui gubernur pilihan mereka. Berkebalikan dengan Romawi, khalifah memberikan kebebasan beragama yang lebih luas dan memberikan masyarakat non-Muslim hak otonomi untuk mengatur urusan mereka sendiri. Segala kebijakan ini mengangkat moral dan kepercayaan masyarakat yang selama ini terbebani dengan pajak tinggi dan segala kekacauan yang diakibatkan Perang Romawi-Persia yang berturut-turut.

Kerap dipandang sebagai bentuk ideal kekhalifahan oleh banyak umat Islam, khalifah pada masa ini memegang peran sebagai pemimpin umat Islam dalam urusan dunia dan agama. Tidak hanya dalam urusan kenegaraan, para khalifah juga merupakan pengambil keputusan dalam berbagai urusan yang berkaitan dengan ibadah. Kekhalifahan sendiri cenderung berwujud negara kesatuan pada masa ini dan para gubernur secara hierarkis berada di bawah khalifah.