Tidlig i 1991 støttet han hardlinere og sendte stridsvogner inn i Litauen i et forsøk på stanse oppløsning av unionen. Etter et mislykket kuppforsøk fra kommunistpartiets harde kjerne, og et vellykket motkupp fra reformfløyen under Boris Jeltsin, var Gorbatsjov politisk svekket og måtte være passiv tilskuer til at Sovjetunionen gikk i oppløsning. Da Gorbatsjov returnerte til Moskva etter å ha vært i husarrest på Krim valgte han å se til sin syke kone i stedet for å opptre offentlig. Denne prioriteringen av familie og privatliv gikk helt på tvers av tradisjonen i Russland og Sovjetunionen. Jeltsin konspirerte med lederne i den hviterussiske og den ukrainske ledelsen om en nytt statsforbund til erstatning for Sovjetunionen. Den 25. desember 1991 trakk han seg formelt tilbake fra presidentstillingen for en stat som noen uker tidligere var blitt oppløst.