国民军整体处于不利状况的情况下，他同北洋军仍相持不下，十分善战。9月五原誓师后，他被任命为河南省的国民革命军第2集团军第6军军长。1927年（民国16年）中国国民党北伐期间，他被任命为刘镇华所率的第2集团军第2路副总指挥，进军山东省。同年5月，在山东省曹县郑部下师长姜明玉叛变，将郑金声逮捕并移交给支配山东省的张宗昌。同年11月6日，经张宗昌下令，郑金声在济南被枪杀。享年50岁。后来张宗昌于1932年（民国20年）9月被郑金声的侄子郑继成在济南站刺杀。