Hän erosi tammikuussa 1968 ensimmäisen sihteerin asemasta. Hänen seuraajakseen nousi Alexander Dubček. Prahan kevään aikana Novotný pakotettiin eroon presidentin asemasta maaliskuussa ja erotettiin toukokuussa keskuskomiteasta ja koko puolueesta. Hänen jäsenyytensä palautettiin Neuvostoliitolle uskollisten saatua puolueen otteeseensa vuonna 1971 keskuskomitean salaisella päätöksellä. Paluuseen huipulle hän ei kuitenkaan pystynyt. Novotný kuoli 1975 Prahassa.