Zhang Hanmin ble født i 1926 i landsbyen Xiabajiazi, som er «katolisismens vugge» i Jinan-området. Han begynte sin presteutdannelse i 1949, med studier i Jilin og Beijing, men den ble avbrutt i 1954. Maoismen satte en stopp for den videre vei til prestekallet. Mellom 1954 og 1983 underviste han fremmedspråk, ettersom han kunne latin, engelsk, japansk, russisk og fransk.