事学院以及总参谋部学院毕业。在苏联入侵阿富汗期间，格罗莫夫进行了三次战役（1980 - 1982年，1985 - 1986年，1987年至1989年），他最有名的是身为第40军团指挥官。也是最后一位撒出阿富汗的苏联军人。他后来获得了最高的军事荣誉：苏联英雄金星章，因他帮助苏联军队从霍斯特撤出。在阿富汗战争结束后，他被苏联共产党选为1991年俄罗斯总统选举的副总统候选人。他后来担任俄罗斯联邦第一副国防部长。1994年，格罗莫夫从俄罗斯军队退役，他很快就被任命为内政部副部长。他于1995年当选为国家杜马