Jabarkan Masa Khulafaur Rasyidin dari Marwan bin al-Hakam

Marwan turut serta dalam pemerintahan Khalifah 'Utsman bin 'Affan (berkuasa 644—656 M), yang juga merupakan sepupunya. Ia turut serta dalam perang melawan Kekaisaran Romawi Timur di Ifriqiyah (Afrika Utara bagian tengah), dan mendapat harta rampasan perang yang cukup banyak. Inilah modal awal kekayaan Marwan, dan sebagian ia investasikan dalam tanah dan bangunan di Madinah, ibu kota kekhalifahan. Pada tanggal yang tidak diketahui pasti, ia ditunjuk menjadi wali negeri (gubernur) di Fars. Setelah itu, ia kembali ke Madinah untuk menjadi katib (sekretaris atau juru tulis khalifah) dan kemungkinan juga sebagai bendahara baitul mal. Sejarawan Clifford E. Bosworth menyebut bahwa karena kedudukannya ini Marwan "tak diragukan lagi membantu" dalam penyusunan mushaf Al-Qur'an pada masa Utsman.

Menurut sejarawan Hugh N. Kennedy, Marwan adalah "tangan kanan" Utsman. Menurut riwayat-riwayat Muslim, anggota Quraisy yang sebelumnya mendukung Utsman perlahan-lahan menarik dukungannya akibat kedekatannya dengan Marwan, yang dianggap sebagai penyebab keputusan-keputusan kontroversial Utsman. Sejarawan Fred Donner meragukan riwayat-riwayat ini karena ia menganggap tidak mungkin Utsman dipengaruhi begitu saja oleh Marwan yang jauh lebih muda dan karena tidak adanya tuduhan yang bersifat spesifik terhadap Marwan. Donner juga menduga bahwa ada kemungkinan "upaya dari tradisi Muslim zaman selanjutnya untuk menyelamatkan reputasi Utsman sebagai salah satu Khulafaur Rasyidin dengan menjadikan Marwan ... kambing hitam atas peristiwa-peristiwa memilukan pada akhir dua belas tahun pemerintahan Utsman."

Kekisruhan terjadi pada tahun-tahun akhir pemerintahan Utsman akibat kebijakannya yang dianggap memihak kerabat sendiri, serta pengambilalihan tanah oleh negara di Irak. Hal ini memicu perlawanan dari kalangan Quraisy dan dari pihak-pihak yang dirugikan di Mesir dan Kufah. Pada awal 656, para pemberontak dari Mesir dan Kufah memasuki Madinah untuk menekan Utsman agar ia membatalkan kebijakannya. Marwan menyarankan tindakan keras terhadap mereka, tetapi Utsman memilih menghindari pertumpahan darah dan membuat perjanjian dengan kelompok Mesir yang merupakan kelompok penentang paling besar dan aktif. Saat dalam perjalanan kembali ke Mesir, kelompok ini menemukan surat atas nama Utsman yang berisi perintah agar wali negeri Mesir, Abdullah bin Sa'ad, melakukan tindakan keras terhadap para pemberontak. Alhasil, kelompok ini kembali ke Madinah dan mengepung kediaman Utsman pada Juni 656. Utsman menyatakan bahwa ia tidak tahu tentang surat tersebut; terdapat kemungkinan bahwa Marwanlah yang menulisnya tanpa sepengetahuan Utsman. Sang khalifah memerintahkan agar para pengikutnya tidak ikut melawan para pengepung karena hanya ialah yang menjadi sasaran kemarahan mereka. Bertentangan dengan perintah ini, Marwan aktif melindungi Utsman dan sempat terluka parah di lehernya saat ia menantang para pengepung di pintu kediaman Utsman. Menurut sumber tradisional, ia selamat karena campur tangan ibu susunya, Fatimah binti Aus. Fatimah memasang badan untuk melindungi Marwan yang sudah tidak berdaya dan menyebut bahwa ia telah mati sehingga penyerangnya, Ubaid bin Rifa'ah, pergi. Marwan lalu dibawa ke rumah Fatimah oleh ibu susunya itu dengan bantuan pelayan Marwan yang bernama Abu Hafsah. Tak lama kemudian, Utsman dibunuh oleh para pemberontak.

Ali bin Abi Thalib terpilih menjadi khalifah menggantikan Utsman, tetapi terjadi perlawanan oleh pihak-pihak yang ingin agar Ali mengambil tindakan tegas mengukum para pembunuh Utsman. Hal ini memicu Perang Saudara Islam I, dan pihak penentang Ali dipimpin oleh Aisyah, salah seorang ummul mu'minin atau istri Muhammad. Marwan awalnya berada di pihak Aisyah, dan ikut bertempur dalam Pertempuran Jamal pada Desember 656. Dalam pertempuran ini, ia membunuh Thalhah bin Ubaidillah yang juga berada di pihak Aisyah tetapi menurut Marwan merupakan salah satu dalang pembunuhan Utsman. Saat pasukan Aisyah sedang dipukul mundur dalam pertempuran jarak dekat dengan pasukan Ali, Marwan memanah Thalhah hingga mengenai pembuluh darah di bawah lututnya. Menurut sejarawan Wilferd Madelung, Marwan sengaja melakukan ini ketika posisi kubu Aisyah sudah di ambang kekalahan sehingga Aisyah tidak dapat menindaknya atas perbuatan ini. Pertempuran ini berakhir dengan kemenangan Ali, dan Marwan pun menyatakan baiat kepada sang khalifah. Setelah Marwan dimaafkan oleh Ali, ia berangkat ke Syam yang dikuasai oleh Muawiyah bin Abi Sufyan, wali negeri Syam yang menolak untuk berbaiat kepada Ali, dan merupakan kerabatnya dari Banu Umayyah. Marwan berada di pihak Muawiyah saat bertempur melawan Ali dalam Pertempuran Shiffin dekat Ar-Raqqah pada tahun 657. Pertempuran ini berakhir tanpa pemenang yang jelas, dan diikuti dengan sebuah tahkim (arbitrase) yang juga gagal menghentikan perselisihan antara kedua pihak.