部队教授武当剑法、武当太极拳、昆吾剑法，张骧伍、蒋馨发等人得以在此时跟随宋唯一学剑，宋唯一在同年底病故。1926年，张骧伍退出奉系军队，1928年，随张之江至南京，参与创建中央国术馆，与李景林一起任副馆长。对日抗战爆发，张骧伍重返行伍，受山东省主席韩复榘之命，任山东国民第五路军（胶东民团）总指挥，驻扎山东，负责查缉烟毒、清剿土匪，杀人不眨眼，有「张剥皮」、「张阎罗王」之称。后任牟平县长。1931年，李景林创办山东国术馆，邀请李书文前来，任总教习，李书文携徒弟前往。张骧伍对李书文执礼甚恭，在他面前表演