1911年辛亥革命爆发，袁世凯复出，张辞职，闲居济南，在济南名胜万竹园旧址上营建私宅。1912年1月他任帮办山东防务大臣，后改任安徽巡抚。1915年（民国4年）8月，他任察哈尔都统，12月袁世凯称帝时他获封一等男爵。1916年（民国5年）5月，他获封将军府“济武将军”署理山东军务。1916年（民国5年）6月袁世凯去世，7月他任山东督军。此后他为皖系军阀，曾列名督军团。1917年2月在南北战争中任北军第二军总司令、湘赣陆军检阅使。1918年被护理山东督军张树元排挤出山东。1918年（民国7年）2月，他任