Jakovlev nimitettiin Neuvostoliiton kommunistisen puolueen poliittisen toimikunnan, politbyroon jäseneksi vuonna 1987, mutta perestroikan edetessä lähinnä Jegor Ligatšovin ja muiden konservatiivien lujittaessa otettaan puolueen johdossa Jakovlevin asema tuli kriittiseksi. Kaksi päivää ennen poikkeustilakomitean elokuussa 1991 suorittamaa vallankaappausyritystä Jakovlev erotettiin politbyroosta.