并为此与美国总统约翰·肯尼迪谈判。他也曾参与部分限武条约的谈判，包括《反弹道导弹条约》、《部分禁止核试验条约》、战略武器限制谈判、《中程核力量条约》、《削减战略武器条约》等。在勃列日涅夫时期，葛罗米柯协助构筑了大国之间的缓和政策。1985年，爱德华·谢瓦尔德纳泽接替葛罗米柯出任外长。同年葛罗米柯出任苏联最高苏维埃主席团主席，三年后下台。1989年葛罗米柯在莫斯科逝世。