单位进北平（同年改称北京），接收中国国民党的华北教育机构。调入北京后，皇甫束玉一直在教育部及其下属单位工作。1954年，任中华人民共和国教育部办公厅副主任，任命书由国务院总理周恩来签发。当时皇甫束玉是司局级干部，这一级别一直保持到离休。当时的教育部部长杨秀峰是皇甫束玉的老上级，皇甫束玉的工作之一是为杨秀峰起草讲稿。1961年2月，中共中央书记处发出大抓高校教材建设工作的指示，要求“从无到有，课前到书，人手一册，印刷清楚”。教育部部长杨秀峰向中央保证1961年秋季供书。1961年，教育部副部长黄辛白偏重抓教材