Välittömästi sodan ja vapauttamisensa jälkeen Novotný nousi kommunistipuolueen Prahan komitean pääsihteeriksi, jossa toimessa hän oli vuoteen 1951. Vuonna 1946 hänet valittiin ensi kertaa puolueen keskuskomiteaan. Prahan puoluejohtajana hän otti merkittävästi osaa helmikuun 1948 kommunistiseen vallankaappaukseen, jota puolue kutsui nimellä Voittoisa helmikuu. Puolueen puhdistukset ja varapääministeri Slánskýn näytösoikeudenkäynti ja likvidointi vahvistivat hänen asemiaan; syyskuussa 1951 hänet valittiin toimeenpanevaan komiteaan ja joulukuussa 1951 sihteeristöön ja keskuskomitean presidiumiin. Syyskuussa 1953 hänestä tuli puolueen keskuskomitean ensimmäinen sihteeri.