Nach dem Bürgerkrieg blieb er in der Armee und war bereits zu diesem Zeitpunkt (1920) der Kommunistischen Partei Russlands beigetreten. Er wurde nach Mittelasien versetzt, wo er gegen Basmatschi, muslimische Aufständische gegen die Bolschewiki, eingesetzt wurde. Später kam er auch im Kaukasus zum Einsatz sowie bei der Niederschlagung des Bauernaufstandes von Tambow. Im Jahr 1923 besuchte er die Infanterie-Schule in Tambow und anschließend die Polit-Schule in Transkaukasien. Er wurde 1932 zur Panzerwaffe versetzt. Zunächst besuchte er 1932 einen Panzer-Ausbildungs-Kurs für Offiziere in Leningrad. Danach kommandierte er das Ausbildungs-Bataillon der 1. Mechanisierten Brigade. Von Oktober 1936 bis Juni 1937 hatte er Gelegenheit praktische Erfahrungen zu sammeln, da er in diesem Zeitraum zu der Gruppe sowjetischer Militärberater im Spanischen Bürgerkrieg gehörte. Er befehligte dort ein Panzer-Bataillon im Rang eines Majors. In Anerkennung seiner Leistungen auf der Seite der Republikaner erhielt er am 21. Juni 1937 den Titel Held der Sowjetunion. Petrow soll auch später während des Zweiten Weltkriegs noch oft auf Spanisch geflucht haben.