（民国15年）夏，他在同国民军的战斗中负伤，辞职归乡。伤愈后，张荫梧任教导团主军官。山西都督阎钖山易帜国民革命军后的1927年（民国16年）9月，张被提拔为国民革命军北方军第7军副军长兼左路军前敌总指挥，参加北伐。1928年奉军张作霖沿平汉线北撤，阎锡山出娘子关截击，打头阵的便是担任晋军张荫梧。张作霖部溃不成军，张荫梧乘胜追击，直至北平。1928年3月，他兼任国民政府军事委员会委员，6月任北平警备司令。10月，他任第42师师长。1929年张荫梧兼任博野“四存小学”校长的职务。1929年（民国18年）6月