司令；1960年─1967年，任华沙公约组织联合武装部队总司令，兼任苏联国防部第一副部长。因为和勃列日涅夫在战争时期结下的友谊（他担任第18集团军司令时，勃烈日涅夫为集团军政治部主任)，1967年4月12日起，接替去世的罗季翁·雅科夫列维奇·马利诺夫斯基元帅，任苏联国防部长，直到1976年于任内逝世。担任国防部长期间，格列奇科为进一步加强苏联军事防御能力做了大量工作。他尤其重视军事科学，致力于苏军的现代化建设，不遗余力的扩张苏联武力。格列奇科最着名的想法便是他认为第三次世界大战总会在某个阶段升级为核战争