I 1968 deltok han aktivt under Prahavåren, ble stedfortredende regjeringssjef i april 1968, og mot slutten av august 1968 førstesekretær for sentralkomiteen for Slovakias kommunistiske parti. Etter avsettelsen av Alexander Dubček ble han etter påtrykk fra Sovjetunionen i april 1969 valgt til førstesekretær for sentralkomiteen for det tsjekkoslovakiske kommunistiske parti, og litt etter litt omgjorde han reformene som var sprunget ut av Prahavåren.