Pada permulaan serangan balas Soviet tahun 1943 ketika Perang Dunia II, Vasilevsky menyelaras dan melaksanakan serangan Tentera Merah keatas hulu Sungai Don, di Lembah Donets, Krimea, Belarus dan Negara-negara Baltik, mengakhiri perang dengan penawanan bandar Königsberg pada April 1945. Pada Julai 1945, beliau telah dilantik sebagai Panglima Tertinggi Angkatan Bersenjata Soviet di Timur Jauh, melaksanakan Operasi Serangan Strategik Manchuria dan kemudiannya menerima Penyerahan kalah Jepun. Selepas perang, beliau menjadi Menteri Pertahanan Soviet, jawatan yang disandangnya sehingga kematian Stalin pada tahun 1953. Dengan kebangkitan Nikita Khrushchev, Vasilevsky mula hilang kuasa dan akhirnya dipencenkan. Selepas kematiannya, beliau telah disemadikan di Tembok Kremlin Necropolis sebagai mengiktiraf jasa bakti lampaunya dan sumbangan kepada negara.