组都在中南海居仁堂后楼办公而得名。“后楼”的前身是中央办公厅第一办公室，这是中华人民共和国成立后第一次在中央办公厅下设立的直接为中央服务的调查研究、文件起草的秘书性工作机构。1952年，毛泽东提出加强中共中央办事机构问题，根据毛泽东的提议，刘少奇多次同安子文和杨尚昆商谈，提出在中央办公厅内设一个机构作为中央书记处日常工作的参谋和助手。乃成立了由杨尚昆兼主任的中央办公厅第一办公室。1955年初，随着大行政区撤销，为加强中央办事机构，中央书记处决定成立四个办公室，中央办公厅第一办公室原任务不变，人员略加充实升格