张子善的原名是张三更,河北省深县尚村人。幼年家境贫寒,父亲早逝,母亲多病,大哥到东北靠出卖劳动力为生,二哥在家当雇工。张子善在哥仨中最聪明,14岁到安平县城上高小。在同学中,他显得很成熟,一副大人模样,懂事多,思维快,学习非常勤奋刻苦。16岁时,考入安平县乡村简易师范。
“九一八”事变后,学生纷纷上街游行,宣传抗日救亡,张子善是组织者之一,而且带头卧轨以示抗议。1933年10月,19岁的张子善在乡村简易师范加入了中国共产党。1934年张子善因叛徒出卖而被捕,被关押在安平监狱,受到严刑拷打。后来,张子善由安平解到天津监狱被判五年徒刑。
1937年“七七”事变时,犯人砸了监狱,张子善趁乱越狱。之后他一边教书,一边寻找党组织,终于找到曾在一起坐过监狱的冀中二地委组织部长,重新接上了组织关系。1945年任中共冀中八地委组织部长,开始与刘青山一起工作。1948年任中共冀中十地委第二副书记兼宣传部长。冀中十地委管辖的地区是地处京,津,保定之间的三角地区,周围是敌重兵屯集的大城市,条件很艰苦,但张子善表现非常出色,尤其在平津战役期间,组织了几十万民工支前,送给养,运伤员,协助保障了平津战役几十万参战部队的后勤。当时因为部队多,靠人背运粮供应不及,张子善组织群众凿开冰冻的大清河,以船运粮,受到平津战役前委的表彰。1949年8月,张子善任中共天津地委副书记、天津区行政督察专员公署专员。