A seguito della propria elezione nell’Ufficio politico del PCC al IX Congresso nazionale nell’aprile 1969, Zhang fu, insieme a Yao, il principale teorico del PCC e la penna di importanti documenti quali i rapporti politici al IX Congresso e al X Congresso del PCC e la Costituzione della RPC del 1975. Il gruppo di Jiang Qing, Zhang e Yao fu oggetto di un attacco da parte della fazione di Chen Boda e Lin Biao nell’agosto-settembre 1970, ma ne uscì vittorioso grazie all’appoggio di Mao; Zhang stesso fu tra i nove massimi dirigenti eletti nel Comitato permanente dell’Ufficio politico dopo il X Congresso nel 1973. Dal 1970 fu anche membro del Gruppo dirigente per l’organizzazione e la propaganda diretto da Kang Sheng, dal quale prese in mano la gestione organizzativa del partito. Nel gennaio 1975 ricevette anche la carica di vice primo ministro, benché secondo di rango rispetto a Deng Xiaoping, e di direttore del Dipartimento politico generale dell'Esercito popolare di liberazione (Deng fu parallelamente nominato capo di Stato maggiore).