Pavlov begynte sin politiske karriere på finansministeriet i 1959. Senere, i Bresjnev-eraen, ble han sjef for statlige planleggingsorganet Gosplan, og han ble finansminister i Nikolaj Ryzjkovs andre regjering. Han gikk videre til å etterfølge Ryzjkov som regjeringssjef med den nyopprettede tittelen , og ble de facto ordfører for det likeledes nyopprettede .