Après la révolution Xinhai il rejoint le gouvernement de Beiyang dirigé par Yuan Shikai et devient secrétaire général du gouvernement établi à Canton (Guangdong), durant la période de la Première République en Chine. Il devient en 1914 rédacteur en chef du journal conservateur "Jiayin zazhi" (甲寅雜誌, "Revue du tigre"). Il défend durant toute sa vie l'écriture en chinois littéraire, contre l'écriture en chinois vernaculaire, polémiquant durant de nombreuses années avec Hu Shi. En 1920 il fait une avance de 20 000 yuan à Mao Zedong, lui aussi originaire du Hunan et qui vécut à Changsha, la ville natale de Zhang.