I 1983 ble Rüütel valgt til formann i presidiet i det øverste sovjet i Den estiske sosialistiske sovjetrepublikk. Utover på 1980-tallet stilte han seg i spissen for de som ville reformere kommuniststaten innenfra og hevde estlendernes rett til selvstyre fra Moskva. I 1990, da Estland erklærte sin uavhengighet og innledet en overgangsperiode til nasjonalt, demokratisk styre, ble han valgt til formann i Republikken Estlands øverste råd, en posisjon han hadde til oktober 1992. Han ledet dermed Estland ut av Sovjetunionen og til internasjonal anerkjennelse som suveren stat.