În ianuarie 1945, Konev, alături de Gheorghi Jukov, au comandat forțele sovietice care au participat la masiva ofensivă de iarnă din vestul Poloniei, împingându-i de pe aliniamentul râului Vistula pe cel al râului Oder. În Polonia de sud, forțele lui Konev au eliberat Cracovia. În aprilie, forțele sovietice de sub comanda lui Konev și a lui Jukov au forțat Oderul și au atacat pe direcția Berlinului. Forțelele lui Konev au reușit să intre primele în Berlin, dar Stalin i-a oferit lui Jukov onoarea de a cuceri Reichstagul și a înălța steagul sovietic peste Berlin. Konev a primit ordinul să-și îndrepte armatele spre sud-vest, unde a făcut joncțiunea cu Armata Statelor Unite la Torgau și a participat la înfrângerea unităților fanatice ale SS-ului la finalul insurecției din Praga, intrând în oraș ca eliberator.