II maailmansodassa Rodimtsev taisteli Stalingradin taistelussa, jossa hän komensi 13. kaartin kivääridivisioonaa. Vuodesta 1943 Rodimtsev komensi 32. kaartin jalkaväkiryhmää, joka otti osaa Tšekkoslovakian pääkaupungin Prahan valtaukseen. Toisen kerran hän sai Neuvostoliiton sankarin arvonimen 2. kesäkuuta 1945, kun hänen joukkonsa saavuttivat Oderjoen Puolassa, "sankarillisuudesta ja rohkeudesta". Rodimtsev oli hyvin suosittu joukkojensa keskuudessa ja tunnettiin rohkeudestaan.