1989年の完全失脚後、チーホノフはゴルバチョフに対してチェルネンコ後継を選出する政治局会議でゴルバチョフ支持に回った（実際にはゴルバチョフの後継の選出阻止を企てていたにも関わらず）のは間違いだったとする、嫌味を込めた書簡を送った。しかしその考えは、後のソ連崩壊前後の時期において国民の同感を得ることになる。引退後はダーチャに隔離されながら余生を過ごし、晩年は公の場に姿を現すことはなかった。彼の妻は亡くなり、子供もいなかった。1991年のソ連崩壊後は年金生活に入り、1997年6月1日に92歳で死去した。