1957年10月28日什捷缅科随着朱可夫倒台被降为中将，赋闲1959年什捷缅科任伏尔加沿岸军区第一副司令，。1961年6月任外高加索军区第1副司令，1962年7月任苏联陆军参谋长，1964年4月任苏军总参谋部动员部部长，晋升上将军衔，1968年8月任华沙条约组织武装部队总参谋长，晋升大将军衔，组织制订了突袭占领捷克斯洛伐克作战计划。什捷缅科曾3次被提名授予苏联元帅军衔，但未获晋升，1952年苏共19大当选中央候补委员。着有《新的法律和兵役》，莫斯科1968年版；《关于普遍义务兵役制》，莫斯科1968