Zhang spilte en svært fremtredende rolle under de stadige borgerkrigene som leder av Fengtianklikken. Slik samvirket han i 1920 med provinsguvernør Wu Peifu for å få slutt på det Japan-allierte Anfu-klubbens makt over sentralregjeringen i Beijing. Han kom deretter snart i konflikt med Wu Peifu – de kriget mot hverandre særlig heftig i 1922 og 1924 og innsatte det sistnevnte år, sammen med den fra Wu Peifu frafalne «kristne general» Feng Yuxiang, Duan Qirui til provisorisk president.