Zhang palveli Qing-dynastian loppuaikoina Yuan Shikain alaisena komentajana. Hän toimi 1911–1912 Liangjiangin maakunnan kenraalikuvernöörinä ja puolusti Xinhai-vallankumouksen aikana maakunnan pääkaupunkia Nanjingia vallankumouksellisilta. Tasavallan perustamisen jälkeen presidentiksi tullut Yuan Shikai nimitti Zhangin 1913 Jiangsun sotilaskuvernööriksi. Vuosina 1916–1917 hän oli Anhuin kuvernöörinä. Osoittaakseen uskollisuutensa Qing-dynastialle Zhang jatkoi perinteisen palmikon pitämistä.