Durant l'Operació Bagration, la contraofensiva general a Bielorrúsia, Vasilevski coordinà les ofensives del 1r Front Bàltic i el 3r Front de Bielorúsia. Quan les forces soviètiques van entrar als països bàltics, Vassilevski assumí la total responsabilitat per tot als fronts bàlitcs. El 29 de juliol de 1944 va ser nomenat Heroi de la Unió Soviètica pels seus èxits militars. Al febrer de 1945, Vasilevski va tornar a ser nomenat comandant del 3r. Front de Bielosrúsia per comandat l'Ofensiva de Prússia Oriental, deixant el càrrec de Cap d'Estat Major General a Aleksei Antónov. Com a comandant de front, Vasilevski organitzà els atacs sobre Königsberg i Pillau. També negocià la rendició de la guarnició de Königsberg amb el seu comandant, Otto Lasch. Després de la guerra, Lasch reclamà que Vassilevski no havia respectat les garanties fetes durant la capitulació de la ciutat: Vasilevski prometé que els soldats alemanys no serien executats, que els presoners, els ferits i la població civil serien tractats decentment, i que els presoners tornarien a Alemanya just després de la guerra. En canvi, Lasch romangué a la presó durant 10 anys i no pogué tornar a Alemanya fins al 1955, igual que molts altres soldats i oficials de la Wehrmacht, mentre que tota la població alemanya va ser expulsada de la Prússia Oriental. Pel seu èxit brillant a Königsberg i a la Prússia Oriental en conjunt, Vasilevski va rebre la seva segona Orde de la Victòria