Durante la Segunda Guerra Mundial, Petrov, participó en la Batalla de Odesa, en la Batalla de Sebastopol, en la Defensa del Cáucaso, en la Operación Kerch-Eltigen. En agosto de 1944 fue nombrado comandante del 4.º Frente Ucraniano, y en abril-junio de 1945, ocupó el puesto de jefe del Estado Mayor del 1er Frente Ucraniano. El 29 de mayo de 1945 se le concedió el título honorífico de Héroe de la Unión Soviética.