1980年代末，当苏联的危机越来越明显时，谢瓦尔德纳泽与戈尔巴乔夫之间的政治分歧开始越来越大。戈尔巴乔夫试图维持社会主义政府和苏联的统一，而谢瓦尔德纳泽则主张继续政治和经济的开放。1990年12月谢瓦尔德纳泽反对戈尔巴乔夫的政策而辞职，他在苏维埃议会中警告说：“改革者走了或者躲起来了，独裁来了。”数月之后一次一些共产党强硬派试图政变失敗导致了苏联的最终瓦解。1991年11月谢瓦尔德纳泽再任苏联外长，但一个月后苏联正式解体，他与戈尔巴乔夫一起辞职。