Dopo la guerra, in qualità di Comandante supremo del Patto di Varsavia guidò le truppe sovietiche nella repressione della Rivoluzione ungherese del 1956. Dopo aver lasciato il comando del Patto di Varsavia nel 1960, l'anno seguente fu inviato nuovamente in Germania, dove era in corso la pericolosa Crisi di Berlino del 1961, per assumere il comando del Gruppo di forze sovietiche schierate in territorio tedesco.