配到荣禄武卫中军炮兵营担任领官。义和团事变时，曾受命带炮兵炮轰东交民巷。张要求荣禄发手令以兹证明，不果。张获荣暗示，命令炮兵故意偏离目标，放五六百炮，未伤洋人一人。后任陆军第一镇第一协协统、陆军第五镇代理统制、天津总兵、帮办直隶防务大臣。1911年辛亥革命爆发，袁世凯复出，张辞职，闲居济南，在济南名胜万竹园旧址上营建私宅。1912年1月他任帮办山东防务大臣，后改任安徽巡抚。1915年（民国4年）8月，他任察哈尔都统，12月袁世凯称帝时他获封一等男爵。1916年（民国5年）5月，他获封将军府“济武将军”署