Während des Putschversuches einer konservativen Führungsgruppe aus Partei und Regierung gegen Gorbatschow im August 1991 kehrte er aus seinem Urlaub in Sotschi zurück und bot den Putschisten seine Unterstützung an. Nach dem Scheitern des Putsches, bei dem er allerdings keine Rolle gespielt hatte, beging er in seinem Arbeitszimmer im Kreml Suizid. In einem von mehreren Abschiedsbriefen erklärte er, dass er nicht mit dem Zerfall des Systems, dem er gedient habe, leben könne.