937年8月，他在大清洗中被捕，送到新西伯利亚。他被控以“组织反革命团伙”罪行，在1938年1月14日被处决。讽刺地是，击败他的红军首领伊凡·斯特罗德也在不久后的2月4日被控以“阶级敌人”的罪名遭处决。1989年，阿纳托利·佩佩利亚耶夫获得苏联政府的平反。