Durante la Operación Bagratión, Vasilevski coordinó las ofensivas del 1º Frente Báltico y el 3º Frente Bielorruso. Cuando las fuerzas soviéticas entraron en los estados bálticos, Vasilevski asumió la completa responsabilidad de todos los frentes del Báltico, desechando el 3º Frente Bielorruso. El 29 de julio de 1944, recibió la Estrella de Oro de Héroe de la Unión Soviética por sus éxitos militares. En febrero de 1945, Vasilevski fue nombrado nuevo comandante del 3º Frente Bielorruso, tras la muerte del General de Ejército Iván Cherniajovski a causa de la metralla alemana, para dirigir la Operación de Prusia Oriental, dejando el cargo de General Jefe de Personal a Alekséi Antónov. Como comandante del 3º Frente Bielorruso, Vasilevski llevó a cabo la operación contra Prusia Oriental y organizó los ataques contra Königsberg y Pillau (Baltiysk). Tras la captura de Königsberg negoció la rendición de la guarnición con su comandante, Otto Lasch. Después de la guerra, Lasch alegó que Vasilevski no había respetado las garantías formuladas durante la capitulación de la ciudad. De hecho, Vasilevski prometió que los soldados alemanes no serían ejecutados, que los prisioneros, los civiles y los heridos serían tratados decentemente, y que todos los prisioneros regresarían a Alemania tras el final de la guerra. Sin embargo, Lasch permaneció en prisión durante diez años y regresó a Alemania en 1955, al igual que muchos de los soldados y oficiales de la Wehrmacht que fueron hechos prisioneros. Mientras que todos los habitantes alemanes fueron expulsados de Prusia Oriental. Tras los brillantes éxitos en Königsberg y en Prusia Oriental, se le otorgó a Vasilevski su segunda Orden de la Victoria.