白历任中国共青团皖北工委学生部部长、华东工委统战部部长。1951年秋，和钱正英在上海结婚。1952年10月，调任上海交通大学副教务长。1953年11月起，历任中央人民政府高等教育部、中华人民共和国教育部的工业教育司、高教一司的副司长、司长。还曾兼任高等教育出版社社长。1965年7月任中华人民共和国高等教育部副部长。1966年文化大革命爆发后，黄辛白被打倒，关进牛棚。1969年，下放安徽凤阳五七干校劳动。1971年12月，重新走上领导岗位，任北京大学革命委员会副主任兼党委副书记。任内为贯彻国务院总理周恩来关于