KGB ble oppløst da dets sjef, generaloberst Vladimir Krusjkov, brukte KGBs ressurser til å støtte kuppforsøket mot Mikhail Gorbatsjov i august 1991. 23. august 1991 ble Krusjkov arrestert og general Vadim Bakatin ble utnevnt til KGBs formann med mandat til å oppløse Sovjetunionens KGB. 6. november 1991 opphørte KGB offisielt å eksistere. Organisasjonen ble delt i to; FSB fikk ansvaret for indre sikkerhet og SVR for etterretning i utlandet. Federalnaya Sluzhba Bezopasnosti (FSB) er i sine funksjoner i dag svært likt det sovjetiske KGB.