937年，斯卢茨基的上司亨里希·雅戈达被逮捕，随即亚果达的位置被尼古拉·叶若夫取代。叶若夫对亚果达在契卡中的旧部进行清洗，斯卢茨基幸免于难。但他在次年突然死在叶若夫副手米哈伊尔·弗里诺夫斯基的家中。在1939年叶若夫被捕后，叶若夫承认自己指使副手列昂尼德·扎科夫斯基将斯卢茨基用氰化钾毒死。1939年被认定为阶级敌人，开除出党。不久恢复名誉。葬于莫斯科新圣女修道院。