El 6 de agosto fue nombrado comandante del 4.º Frente Ucraniano, este frente fue creado a partir del ala izquierda del 1er Frente Ucraniano, específicamente del 1er Ejército de Guardias, el 18.º Ejército y el 8.º Ejército Aéreo. Su tarea consistía en luchar en los Cárpatos; para ello, parte de las unidades del frente se sometieron a un entrenamiento especial de montaña. Con este frente participó en la Ofensiva de los Cárpatos Orientales (8 de septiembre - 28 de octubre de 1944) que supuso la liberación de la Rutenia subcarpática (actualmente óblast de Zakarpatia, en Ucrania) y parte del este de Eslovaquia, en la Ofensiva de los Cárpatos Occidentales (enero-febrero de 1945), y en la Ofensiva de Moravia-Ostrava (marzo-mayo de 1945), tras estas ofensivas las tropas de su frente habían liberado prácticamente toda Checoslovaquia y se encontraban en una posición muy ventajosa para liberar Praga. El 26 de octubre de 1944, Iván Efimovich Petrov es nuevamente ascendido a general de ejército.