През 1944 г. командваната от Конев армия настъпва от Украйна и Беларус към Полша, а по-късно и Чехословакия. До юли същата година, ръководейки Лвовско-Сандомежката операция, той достига река Висла в Централна Полша и е награден със званието Герой на Съветския съюз. През септември 1944 г. командваните от него части, вече преименувани в 4-ти Украински фронт, напредват през Словакия и помагат на словашките партизани и тяхното въстание срещу германската окупация.