En septiembre de 1912, sus fuerzas crecieron y se convirtieron en la 27.ª División, acuartelada en Mukden. Para entonces Zhang había ascendido a teniente general. Otro de sus antiguos compañeros de los tiempos de bandidaje mandaba una segunda división, la 28.ª, destinada más al oeste. Fue afianzando su poder en la región, si bien este quedó limitado mientras vivió Yuan Shikai, que prefirió mantener gobernadores militares afines en la zona y no nombrar para este puesto a Zhang, a pesar de su influencia. Durante la fallida restauración monárquica en la persona de Yuan, Zhang logró deshacerse del gobernador militar fiel a este y obtener el puesto para sí en abril de 1916. Se nombró así a Zhang al tiempo gobernador civil y militar de la provincia de Fengtian, la primera de las tres del noreste que controló. Una vez que dominó esta provincia, se dedicó a extender su poder a las otras dos provincias manchúes. En septiembre de 1917, logró el nombramiento de uno de sus partidarios para el Gobierno de Heilongjiang, gracias al desafortunado apoyo del anterior gobernador militar de la provincia al fracasado intento de restauración de los Qing. Lo mismo sucedió en Jilin dos años más tarde, en julio de 1919. En este último caso una escaramuza entre tropas chinas y japonesas que causó varias víctimas llevó a Tokio a exigir el relevo del anterior gobernador militar y la provincia acabó sometida a Zhang.