En , il commande la 5e armée de choc du Front d'Ukraine, puis du Front Biélorusse en . Il obtient de grands succès dans les opérations offensives des armées soviétiques : libération de Chișinău (Offensive de Jassy–Kishinev), pour laquelle il est promu Colonel Général et reçoit l'Ordre de Lénine ; franchissement des défenses allemandes dans la région Vistule-Oder ; opérations à la périphérie de Berlin (Bataille de Seelow). Sous son commandement, la de choc est la première armée soviétique à atteindre les faubourgs de Berlin. Elle a pour mission particulière de s'emparer des bâtiments gouvernementaux situés dans le centre-ville, y compris la Chancellerie du Reich et le bunker d'Hitler. Son armée entre dans Berlin (Marzahn) le . Le , il encercle avec ses soldats le quartier général de la Gestapo dans la rue du prince Albert.