Roku 1952 se stal členem Ústředního výboru KSSS. Již předtím vykonával funkci prvního tajemníka ÚV KS Moldávie. Na XIX. sjezdu KSSS v roce 1952]se stal tajemníkem ÚV a kandidátem prezidia ÚV. Po Stalinově smrti byl z funkcí odvolán a přesunut do Hlavní politické správy Rudé armády a námořnictva. Kariéru mu zachránil mocenský vzestup N. S. Chruščova. V letech 1954–1956 vykonával funkci prvního tajemníka ÚV KS Kazachstánu a vedl kampaň na zúrodnění celin. Na XX. sjezdu KSSS byl opět zvolen tajemníkem ÚV KSSS a stal se kandidátem politbyra ÚV KSSS. Poté zodpovídal za resort zbrojního průmyslu a kosmonautiky. O rok později, po porážce tzv. protistranické Molotovovy frakce a dalších byl již plnoprávným členem politbyra. O čtyři roky později, roku 1960, byl zvolen resp. jmenován předsedou prezidia Nejvyššího sovětu SSSR.