W 1927 wstąpił do Armii Czerwonej. W latach 1936–1937 walczył w hiszpańskiej wojnie domowej po stronie Republiki, gdzie był jednym z najważniejszych radzieckich oficerów. W 1941 dowodził brygadą powietrznodesantową przeznaczoną do działań na granicy z Rumunią. W trakcie II wojny światowej odegrał ważną rolę w bitwie stalingradzkiej, która przyniosła mu drugi tytuł Bohatera Związku Radzieckiego. Dowodził 13 Gwardyjską Dywizją Strzelecką. Dywizja dostała niemal samobójcze zadanie odparcia Niemców między Kurhanem Mamaja i rzeką Carycą. Rodimcew był bardzo popularny wśród swoich żołnierzy i znany ze swej odwagi.