Etter Qing-rikets nederlag i den første kinesisk-japanske krig 1894-95 ble han trukket med i Kang Youweis og Liang Qichaos reformbevegelse som tok sikte på å omdanne dynastiet til et konstitusjonelt monarki. Zhang engasjerte seg som forfatter av politiske skrifter. Han skrev for en rekke aviser, som Liang Qichaos (時務報) Men enkekeiserinne Cixis utrenskning av reformatorene i 1898 og Kinas ydmykelse etter Bokseropprøret i 1900/01 overbeviste Zhang om at monarkiet måtte styrtes og erstattes med en republikk. Han flyktet til det da japanske Taiwan ved hjelp av en japansk venn, og virket som journalist for (台灣日日新報) og skrev (清議報) utgitt i Japan av Liang Qichao. Zhang dro videre til selve Japan og ble presentert for Sun Yat-sen av Liang Qichao.