京协助冯玉祥发动北京政变。在京郊南口大战中，任国民军总司令，缴讨军阀有功而进升陆军上将。据说他在南口指挥作战时，他的警卫余国栋曾教他学太极拳来舒缓身心。1924年10月25日 “北苑会议”后，张之江受命赴扬村，迎战吴佩孚直系军阀，将吴部击溃。在冯玉祥影响下成为基督徒，1925年捐三万银元印刷《圣经》，封面上有金字：“此乃天下之大经也。”宣道时常将《圣经》送与索取的听众。1925年12月，于廊坊车站参与劫持并杀害徐树铮。1926年中，冯玉祥下野后，张之江任察哈尔都统西北边防督办代理国民党总司令