内務人民委員部
NKVDの一部門である秘密警察の起源は、1917年にウラジーミル・レーニンによって設立されたチェーカーまで遡る。これは1922年に、GPUとなり、1924年にはOGPU(ロシア語版)に改組され、1934年に内務人民委員部の一部となった。
1934年、ゲンリフ・ヤゴーダが長官職に就き、党や軍内部の粛清にあたるが4年で更迭されヤゴーダ以下部下の大半が粛清された。後任にニコライ・エジョフが就任し、「エジョフ時代(エジョフシチナ)」と呼ばれる恐怖体制を敷いた。この時代に粛清は一般市民にまで拡大し、密告の推奨により市民が相互監視の生活を強いられた。また、当のNKVD関係者にも絶えずスパイの嫌疑がかけられるなど処罰の手は厳しく、外事活動に関わったものはほとんどラーゲリに送り込まれた。特に1938年の大粛清時には外事担当の大幅入れ替えがあり、1940年2月にはエジョフ自身が見せしめの即決裁判で処刑されるという異常事態に至った。