Gerasimov var kadett vid Suvorovskolan i Kazan (1971–1973) för att fortsätta vid hemstadens militärhögskola för pansartrupperna (Казанское высшее военное командное училище (КВВКУ)) (1973–1977). Han vidareutbildade sig i sitt värv vid Malinovski-militärakademin för pansartrupper i Moskva (1984–1987), och sedan Ryska federationens generalstabsakademi (Военная академия Генерального штаба Вооруженных Сил Российской Федерации) (1995-1997). Mellan dessa skolor tjänstgjorde Gerasimov på olika platser i Sovjetunionen, och när den föll i Rysslands armé. Gerasimov blev 1999 stabschef vid 58:e armén i Norra Kaukasus militärdistrikt. Strax därefter bröt Andra Tjetjenienkriget ut och Gerasimov deltog däri. Han utnämndes till chef för 58:e armén 2001.