机关仅设一个综合性的办公室承办日常工作。1951年9月，中共中央直属机关第一次代表大会，正式选举中直机关第一届党委，杨尚昆任书记，曾三、邓典桃为副书记。此后，在第二、第三、第四、第五、第六次中直党的代表大会上，杨尚昆均当选为中直机关党委书记（按照中共八大党章规定，第六届中直机关党委设书记处，杨尚昆任党委第一书记），一直任至1961年11月。1957年，在整风反右运动中，中共中央办公厅秘书室群众戚本禹、林克等人对该室负责人何载（同时兼任中南海党总支书记）进行揭发批判。当时中共中央办公厅不设一级党委，由中直