Con al ascenso de Nikita Jrushchov, vuelve a ser nombrado subjefe de Vasilevski en 1954, siendo el primer paso previo para ser nombrado Jefe de Estado Mayor del Pacto de Varsovia al año siguiente, 1955, cargo que mantuvo hasta su fallecimiento en 1962.