Lahir di Trubchevsk pada 1896, ia memulai penugasan militer dalam Tentara Merah pada 1918, tahun saat ia juga masuk Partai Bolshevik. Petrov berjuang dalam Perang Saudara Rusia di dekat Samara, Perang Polandia-Soviet pada tahun 1920 dan Pemberontakan Basmachi pada 1922. Pada akhir 1920an dan 1930an, Petrov bertugas di Asia Tengah.