Mark Rutte kommer fra en kristen familie i Haag. Han er ugift og tilhører den protestantiske kirke i Nederland. Rutte var gymnasiast og spesialiserte seg på kunstfag 1979–1985. Skjønt hans opprinnelige ambisjon var å studere ved et musikkonservatorium og bli konsertpianist, begynte han å studere historie ved Universitetet i Leiden, hvor han tok mastergrad i 1992.