军后的1927年（民国16年）9月，张被提拔为国民革命军北方军第7军副军长兼左路军前敌总指挥，参加北伐。1928年奉军张作霖沿平汉线北撤，阎锡山出娘子关截击，打头阵的便是担任晋军张荫梧。张作霖部溃不成军，张荫梧乘胜追击，直至北平。1928年3月，他兼任国民政府军事委员会委员，6月任北平警备司令。10月，他任第42师师长。1929年张荫梧兼任博野“四存小学”校长的职务。1929年（民国18年）6月他任北平特别市市长，任至1931年2月。1930年（民国19年）中原大战之际，他在反蒋介石一方的阎钖山手下任第