В 1989 году был избран народным депутатом СССР. На II съезде народных депутатов СССР в декабре 1989 года Яковлев сделал доклад о последствиях подписания в 1939 году Договора о ненападении между СССР и Германией («пакта Молотова — Риббентропа») и секретных протоколов к нему. Съезд принял резолюцию (после повторного голосования), впервые признававшую наличие секретных протоколов к пакту (оригиналы были найдены только осенью 1992 года) и осудившую их подписание.