V rokoch 1945-1946 velil Strednej skupine armád, v rokoch 1946-1950 a 1955-1956 bol veliteľom pozemných vojsk Sovietskeho zväzu. Po Stalinovej smrti najprv predsedal súdu s Berijom, neskôr sa roku 1956 stal 1. námestníkom ministerstva obrany a súčasne bol od roku 1955 do roku 1960 hlavným veliteľom spoločných vojsk Varšavskej zmluvy. Velil i zásahu sovietskych vojsk proti Maďarskému povstaniu. Následne sa dobrovoľne vzdal svojich dovtedajších funkcií a bol menovaný za vrchného inšpektora ministerstva obrany, išlo o ľahkú funkciu, ktorá vlastne znamenala jeho dobrovoľný odchod na dôchodok. Od augusta 1961 do apríla 1962 krátko velil Skupine sovietskych vojsk v Nemecku. Následne odišiel na dôchodok.