被任命为国民军第1军第3师师长。1926年（民国15年），他出任冯玉祥部队的总参赞。同年4月，国民军受北洋军压迫从北京撤退后，他任东路军第1军军长。南口大战中，在国民军整体处于不利状况的情况下，他同北洋军仍相持不下，十分善战。9月五原誓师后，他被任命为河南省的国民革命军第2集团军第6军军长。1927年（民国16年）中国国民党北伐期间，他被任命为刘镇华所率的第2集团军第2路副总指挥，进军山东省。同年5月，在山东省曹县郑部下师长姜明玉叛变，将郑金声逮捕并移交给支配山东省的张宗昌。同年11月6日，经张宗昌下