I 1978 ble han rehabilitert og i 1982 gjort til medlem av Politbyrået. Yang tilhørte den såkalte første ledelsesgenerasjon. Som president spilte han en nøkkelrolle sammen med Deng Xiaoping ved den militære undertrykkelsen av de pro-demokratiske demonstrantene i juni 1989 på Den himmelske freds plass i Beijing. Hans fetter Yang Jianhua kommanderte den svært disiplinerte 27. armé som ble kalt inn fra provinsen Hebei for å slå ned demonstrasjonene.