Στις αρχές του 1944 έσπασε οριστικά την πολιορκία του Λένινγκραντ και τέθηκε επικεφαλής της «Επιχείρησης Μπαγκρατιόν», της μεγαλύτερης ίσως επιχείρησης του πολέμου, που διέλυσε την γερμανική "Ομάδα Στρατιών Κέντρου" κι επέτρεψε στον Κόκκινο Στρατό να προελάσει ως την Πολωνία. Μαζί με άλλους σοβιετικούς στρατηγούς ηγήθηκε της τελικής επίθεσης κατά της Γερμανίας το χειμώνα του 1944 - 1945, και μετά από σχεδόν δεκατέσσερις μήνες προέλασης σε όλη την ανατολική και τμήμα της κεντρικής Ευρώπης τα στρατεύματά του μπήκαν στο Βερολίνο τον Απρίλιο του 1945. Τον Ιούνιο διορίσθηκε πρώτος στρατιωτικός διοικητής της ρωσικής ζώνης κατοχής, δηλαδή του κομματιού που στη συνέχεια αποτέλεσε τη Γερμανική Λαοκρατική Δημοκρατία.