3年应征加入清朝新军。1907年任新建北洋第一混成协哨官。1910年9月张之江任北洋军标骑兵营的排长。武昌起义后，受反清革命思想影响，参与滦州起义，失败出逃。民国成立后成为冯玉祥摩下，护国战争中奉冯玉祥之命，秘密与护国军司令第一总司令蔡锷议和。护国战争之后，冯玉祥任命张之江为骑兵营长。1918年，驻湖南常德，任团长。1921年6月，驻陕西，进昇旅长。1923年率沧州敢死大刀短枪队(由河北人马凤图为冯玉祥部队训练)，在冯军克奉系李景林部的“廊坊之战”中，一路攻克天津。规定西北军人均须通过练