I årene etter fallet av Sovjetunionen skrev Jakovlev flere bøker og han foreleste om historie, politikk og økonomi. Han fungerte som leder av den russiske sosialdemokratiske partiet, som på midten av 1990-tallet ble en del av en valgblokk som senere ble omorganisert til Unionen av høyrekrefter. I 2002, var han konstituert som leder av komiteen for rehabilitering av ofre for politisk undertrykkelse, var han tilstede ved kunngjøringen av utgivelsen av navn og korte biografier om ofrene for de sovjetiske utrenskningene. I hans senere liv, grunnla han og ledet den internasjonale Democracy Foundation. Han forfektet at russiske myndigheter skulle ta ansvar for de siste forbrytelser av kommunismen og han var kritisk til president Putins restriksjoner angående demokrati og ytringsfrihet.