Pavlov liittyi Venäjän keisarilliseen armeijaan vuonna 1914 ja osallistui ensimmäiseen maailmansotaan. Hän jäi vuonna 1916 saksalaisten sotavangiksi ja palasi Venäjälle tammikuussa 1919. Hän liittyi samana vuonna kommunistiseen puolueeseen ja puna-armeijaan, jonka riveissä hän osallistui Venäjän sisällissotaan. Pavlov palveli muun muassa Turkestanissa ja suoritti Omskin sotakoulun vuonna 1922 sekä Frunzen sotilasakatemian vuonna 1928. Hän osallistui vuoden 1929 Kiinan–Neuvostoliiton rajasotaan ja toimi sen jälkeen rykmentinkomentajana. Vuosina 1936–1937 hän komensi Espanjan sisällissotaan osallistuneiden kansainvälisten prikaatien panssariprikaatia, joka osallistui Madridin puolustukseen. Hänelle myönnettiin 1937 Neuvostoliiton sankarin arvonimi. Marraskuusta 1937 alkaen hän oli puna-armeijan moottori- ja panssariosaston johtaja, ja vuonna 1938 hänestä tuli ylimmän sotaneuvoston jäsen.