于山东省文登县铺集乡南长岚村的一个农民家庭。由于家庭贫困，直到1918年，已经14岁的张连珠才进私塾读书，1924年又因父亲染病被迫退学。1929年，张连珠在他父亲病愈后考入牟平县立小学。1931年，他完小毕业，考入牟平中学附设的师范班。同年，因频繁参加反帝、反封建、抗日游行等活动而被学校开除。张连珠被开除回家后先是务农，后到小学任教。1932年5月，张连珠经刘经三介绍加入中国共产党。1932年冬，中共牟平县委成立，他任牟平县第九区委委员，1933年春，改任第九区委书记，并奉命到文登县活动。1933年秋