Ghalibaf innehar en doktorsgrad i politisk geografi från Tarbiat Modares universitetet i Teheran. Han är också utbildad Airbus-pilot och började sin mililtära karriär under Iran–Irak-kriget 1980 . År 1982 blev han befälhavare för Imam Redha-styrkorna, och för Nasr-trupperna 1983-1984. Efter kriget blev han administrativ direktör för Khatan al-Anbia, en ingenjörsfirma som kontrolleras av Irans revolutionsgarde, och 1996 blev han utnämnd till chef för Den islamiska republiken Irans flygvapen av Irans högste ledare Ali Khamenei. Fyra år senare blev han chef för den iranska polisen efter att den tidigare chefen blev avsatt eftet studentdemonstrationerna i juli 1999. Ghalibaf utsågs också till representant i kampanjen för att bekämpa smuggling av president Khatami 2002. Han ställde upp som kandiat i det iranska presidentvalet 2005 men blev besegrad. Två månader senare blev han utnämnd till borgmästare i Teheran.