ב-20 באוגוסט 1941 לאחר מבצע ברברוסה, קיבל פטרוב את הפיקוד על דיוויזיית הרובאים ה-25, והגן עמה על העיר אודסה מפני צבא רומניה במהלך המצור על אודסה. ב-5 באוקטובר של אותה שנה קיבל את הפיקוד על ארמיית החוף העצמאית, והוביל את הפינוי דרך הים של הכוחות הסובייטיים מאודסה לחצי האי קרים. הוא לחם במסגרת המצור על סבסטופול (1941–1942), ועם נפילת העיר ביולי 1942 ניסה להתאבד בירייה, אולם מקורביו מנעו ממנו לעשות זאת. באוגוסט של אותה שנה קיבל פיקוד על הארמייה ה-44, ובאוקטובר קיבל פיקוד על קבוצת כוחות הים השחור ולחם עמה במהלך הקרב על קווקז. על פעולותיו בקווקז הועלה לדרגת גנרל לייטננט.