Durante il fallito colpo di Stato dell'agosto del 1991, Krjučkov fu tra i promotori del Comitato di Stato sullo stato di emergenza, responsabile dell'arresto del presidente dell'URSS Michail Gorbačëv. Dopo la sconfitta del Comitato, Krjučkov fu imprigionato per la sua partecipazione al "golpe". Tuttavia, nel 1994, la Duma ne dispose la liberazione mediante l'approvazione di un'amnistia. Krjučkov era stato sostituito, come presidente del KGB, da Leonid Šebaršin.