Zhang studerte filosofi i Tyskland fra 1922 til 1926 og ble medlem av det kinesiske kommunistiske parti etter at han var blitt nær venn av Zhu De. Han forlot kommunistpartiet i 1927 og grunnla sammen med andre to andre politiske partier, som fremdeles er blant blant landets tillatte blokkpartier. Før grunnleggelsen av Folkerepublikken Kina var han dekan for en lærehøyskole i provinsen Anhui og senere engelskprofessor ved Sun-Yat-sen-universitetet i Guangzhou.