Přes pokusy o ozdravení sovětského socialismu demokratizace Sovětského svazu a východní Evropy oslabila moc KSSS i Gorbačova samotného. Jím provedené uvolnění cenzury a pokusy o větší politickou otevřenost měly za neočekávaný důsledek znovuprobuzení dlouho potlačovaného nacionalismu a protiruských nálad v sovětských republikách. Volání po větší nezávislosti na Moskvě se zvětšovalo, zvlášť v pobaltských republikách Litvě, Lotyšsku a Estonsku, které Sovětský svaz anektoval v roce 1940. Národní cítění se objevilo i v dalších sovětských republikách: Gruzii, Ukrajině, Arménii a Ázerbájdžánu. Nechtěně tak uvolnil síly, které hrozily zánikem Sovětského svazu. Reagoval na to tím, že navrhl novou smlouvu o unii, která by byla dobrovolnou federací demokratizujícího se SSSR. Tato nová smlouva byla podporována hlavně středoasijskými republikami, které potřebovaly ekonomickou sílu a sovětské trhy k vlastní prosperitě. Nejradikálnější reformisté, jako prezident Ruské republiky Boris Jelcin, byli stále více přesvědčeni, že reformy jsou polovičaté. Naproti tomu konzervativci, stále silní v KSSS a vojenském vedení, byli proti čemukoliv, co by mohlo vést k rozpadu Sovětského svazu. V předvečer podepsání dohody konzervativci zasáhli a v sovětských nejvyšších sférách vyvolali Srpnový puč, jako pokus o odstranění Gorbačova a zabránění mu v podpisu nové federální smlouvy. Během této doby strávil tři dny (19.–21. srpna) v domácím vězení na chatě (na dače), než byl osvobozen a vrátil se k moci. Avšak po svém návratu zjistil, že ani unie ani ruské vládní síly nejsou vůči němu loajální a jsou nakloněny spíše Borisi Jelcinovi. Následně vyloučil z politbyra množství osob, někteří z nich byli i uvězněni. Mezi těmito uvězněnými byl i „Gang osmi“, který vedl neúspěšný puč.