在契尔年科就任总书记后的1984年9月被解职，调任西部战区总司令。1988年8月至1992年1月，任国防部总监察组总监。1990年至1991年8月，任全苏退伍军人、劳工、武装部队和执法机构公共理事会主席。1992年1月，任俄罗斯联邦国防部顾问、独立国家联合体联合武装力量总参谋长顾问。奥加尔科夫是苏共中央候补委员（1966年－1971年）、中央委员（1971年－1991年），第七至十一届最高苏维埃民族院代表（1966年－1989年）。获列宁勋章2枚，十月革命勋章、红旗勋章、一级苏沃洛夫勋章各1枚，