Mihail Muravjovin isoisä oli Mihail Muravjov-Vilenski, joka kukisti ankarilla otteilla vuoden 1863 Puolan kapinan Liettuassa. Muravjovin isä oli Grodnon alueen kuvernööri. Muravjov työskenteli Venäjän ulkoministeriössä vuodesta 1864 ja toimi muutaman vuoden Venäjän lähettiläänä Tanskassa ennen nimitystään ulkoministeriksi.