Od května 1944 velel Ivan Koněv vojskům 1. ukrajinského frontu, velel Karpatsko-dukelské operaci sovětských a československých vojsk, která měla pomoci Slovenskému národnímu povstání, podílel se na osvobození jižního Polska, kde Němci zřídili tzv. Generální gouvernement, a na dobytí Slezska a Saska při Viselsko-oderské operaci, kterou Sověti zahájili na žádost Churchilla o týden dřív, než plánovali, aby ulehčili Spojencům v Ardenách. 27. ledna 1945 osvobodil koncentrační tábor Osvětim. 25. dubna 1945 se vojáci Koněvova 1. ukrajinského frontu setkali na Labi s vojáky amerického generála Omara Bradleyho. Koněvova vojska se účastnila závěrečného útoku na Berlín (útočila jako první a tvořila jižní křídlo sovětského úderného uskupení). Když byli vojáci Rudé armády pouhé 2 kilometry od Hitlerova bunkru v centru Berlína, říšský kancléř Hitler spáchal sebevraždu. S maršálem G. K. Žukovem dne 8. května 1945 přijal německou bezpodmínečnou kapitulaci.