20 sierpnia 1941 został dowódcą 25 Czapajewskiej Dywizji Piechoty, z którą uczestniczył w obronie Odessy, a 5 października 1941 objął dowództwo Samodzielnej Armii Nadmorskiej i kierował ewakuacją wojsk radzieckich z Odessy na Krym. Był jednym z dowódców obrony Sewastopola. Od listopada do grudnia 1941 wojska radzieckie pod dowództwem Iwana Pietrowa, wraz z marynarzami Floty Czarnomorskiej, odparły dwa natarcia 11 Armii Niemieckiej pod dowództwem gen. Ericha von Mansteina. W okresie czerwiec – lipiec 1942, przez 4 tygodnie, odpierał kolejne natarcia przewyższających sił niemieckich. Po upadku miasta razem z innymi dowódcami radzieckimi, został ewakuowany na okręt podwodny, gdzie przeżywając porażkę, próbował popełnić samobójstwo.