En enero de 1945, Kónev, junto con Zhúkov, comandó los ejércitos soviéticos que lanzaron la Ofensiva del Vístula-Óder en el oeste de Polonia, empujando a las fuerzas alemanas desde el Vístula hasta el río Óder. En el sur de Polonia, sus ejércitos se apoderaron de Cracovia, impidiendo con su rápida acción la destrucción de la ciudad tal y como había ordenado Hitler.