Ông sinh năm 1896 tại Trubchevsk, bắt đầu nghĩa vụ quân sự trong Hồng quân năm 1918. Cùng trong năm này, ông gia nhập Đảng Bolshevik. Petrov đã chiến đấu trong cuộc Nội chiến Nga gần Samara, Chiến tranh Nga - Ba Lan năm 1920 và cuộc nổi loạn Basmachi năm 1922. Vào cuối những năm 1920 và 1930, Petrov phục vụ ở Trung Á. Ông từng theo học 2 khóa huấn luyện "Vystrel" của Hồng quân vào năm 1926 và 1931.