1927年，在《中国共产党第三次修正章程》决议案中，首次在党章中明确在机关内建立党的基层组织。1928年，按照中共六大精神，中央各工作部门逐渐恢复并健全，随之成立了中共中央直属支部，这是中国共产党历史上第一个机关党组织，由邓颖超任中共中央直属支部书记。第一次国共内战时期，随着各苏维埃政权的创建和发展，政权机关党的建设逐步展开。1931年11月，中华苏维埃共和国临时中央政府在瑞金成立。1933年初，临时中央迁入瑞金，临时中央和临时政府均设有较健全的工作部门，党政机关中逐步建立党组织。抗日战争时期，随着中国共产党领导下的各抗日根据地政权的创建和发展，机关党的建设不断发展，按照抗日民主政权“三三制”的要求，机关党组织大批吸收知识分子入党。1945年，中共七大党章对机关党的基层组织建设作了规定，在中国共产党的历史上首次明确规定各级党政机关都要设立机关基层党组织。此后，按照中共七大党章规定，在各根据地党政机关内普遍建立了机关基层党组织。第二次国共内战时期，机关党组织普遍开展了以“三查”（查阶级、查思想、查作风）和“三整”（整顿组织、整顿思想、整顿作风）为主要内容的整党运动。