Under Xinhairevolutionen 1911 deltog Zhang på revolutionärernas sida och efter Republikens seger fick Zhang sin första officiella militära kommission. Han tjänade först under befälhavaren Feng Guozhang och deltog senare i olika militära kampanjer i Hubei och Manchuriet.