专案组最初始于1966年12月18日成立的王光美专案组。1967年3月下旬，毛泽东授意康生把该小组的火力集中到刘少奇身上。之后中央专案审查小组扩大，分成了两个独立的办公室。第一办公室的主任是汪东兴，它联系中央办公厅，继续负责文革初始阶段的大部分专案，包括彭真、安子文、刘仁、周扬。第二办公室的主任是杨成武，它联系中央军委，负责解放军高级将领包括贺龙元帅的专案。1968年3月，杨成武被清洗后，黄永胜将军接替了总参谋长和二办主任的职务。1968年，又成立了以谢富治为首的第三办公室，联系的是公安部，最初任务是调查五