，七十岁时仍能练武。后随淮军袁甲三攻打捻军。改隶淮军，任把总，平定太平军、捻军有功，授予「力勇巴图鲁」勇名，与王孝祺、章高元并称「淮军后起三名将」。光绪十年（1884年）爆发中法战争，聂士成奉命率军赴台，授山西太原镇总兵。1894年甲午战争，聂士成随提督叶志超率武毅军援朝，驻军牙山。于辽东大高岭一带取得清军为数不多的几场胜利，以功授直隶提督。战后武毅军剩余部队驻扎芦台。聂士成按德国军法操练，并提拔当时的张作霖。1898年，清政府将北洋部队改为武卫军，聂士成所部武毅军马步三十营改制为武卫前军。