臧伯平出生于1913年6月，曾就读于保定第二师范、北京民国大学国文系，早年即加入中国共产主义青年团，随后转为中国共产党党员。历任河北省建屏县、灵寿县县长，晋察冀边区第四专员公署、第十一专员公署专员、地委常委，石家庄市建设局局长、市政府秘书长等职。在中华人民共和国成立后，开始担任石家庄市副市长、市长，河北省建工局局长，第二机械工业部七局局长等职位。1958年，臧伯平开始担任北京航空学院党委第二书记，1964年来到南开大学，担任副校长、党委书记。1966年“文革”开始，十年动乱中，他受到无理的批判斗争，