Néhány nappal Brezsnyev halála után, 1982. november 10-én, mindenki meglepetésére Andropovot választották az SZKP főtitkárává, a biztos befutónak tartott Konsztantyin Csernyenko helyett. Ő volt az első olyan KGB-elnök, akiből pártfőtitkár lett. A Nyugat tartózkodással fogadta megválasztását, tekintettel a KGB élén végzett tevékenységére, valamint 1956-os magyarországi szerepére.