פטרוב נולד ב-15 בינואר 1898 בזלוסטיה שבאימפריה הרוסית למשפחת איכרים. הוא עבר לפטרוגרד בגיל צעיר, ועבד במפעל מתכת. בפטרוגרד הוא נפגש עם רעיונות המפלגה הבולשביקית וב-1917 השתתף בהסתערות על ארמון החורף במהלך מהפכת אוקטובר. ב-1918 התגייס לצבא האדום ולחם במסגרתו במלחמת האזרחים ברוסיה. ב-1920 נעשה חבר במפלגה הקומוניסטית של ברית המועצות. באותה שנה הועבר למרכז אסיה, והשתתף בדיכוי המרד הבסמאצ'י - מרד מוסלמי כנגד הרוסים שהחל עוד ב-1916. מאוחר יותר השתתף בדיכוי מרד טמבוב, ואף למד בבית הספר הצבאי בטמבוב עד 1923. ב-1932 הוא סיים קורס שריון, ושימש כמפקד גדוד בבריגדה הממוכנת הראשונה. באוקטובר 1936 התנדב להילחם במלחמת האזרחים הספרדית במסגרת הבריגדות הבינלאומיות. הוא לחם במלחמה עד יוני 1937 כחלק מבריגדת טנקים סובייטיים בפיקודו של דמיטרי פבלוב. ב-2 בינואר 1937 הוא קיבל את עיטור הכוכב האדום.