。民国成立后成为冯玉祥摩下，护国战争中奉冯玉祥之命，秘密与护国军司令第一总司令蔡锷议和。护国战争之后，冯玉祥任命张之江为骑兵营长。1918年，驻湖南常德，任团长。1921年6月，驻陕西，进昇旅长。1923年率沧州敢死大刀短枪队(由河北人马凤图为冯玉祥部队训练)，在冯军克奉系李景林部的“廊坊之战”中，一路攻克天津。规定西北军人均须通过练拳、噼刀、刺枪、体操四项主要科目。1924年9月，冯玉祥的西北军改编为国民军，参加二次直奉战争，离京奔热河，去东北进攻奉系。后回京协助冯玉祥发动北京政变。在