除东南道行台、使持节、徐州总管、三十二州诸军事、徐州刺史。与王轨擒陈将吴明彻、裴忌于吕梁，别破黄陵，略定淮南地。杨坚作相辅政，转亳州总管、二十四州诸军事。相州总管尉迟迥起兵反抗杨坚，杨坚以梁士彦为行军总管，随韦孝宽讨伐。至河阳，与尉迟迥军相对，令家僮梁默等数人为前锋，梁士彦以其徒继之，所当皆破。乘胜至草桥，尉迟迥军众复合，进战，大破之。及围邺城，攻北门而入，驰启西门，纳宇文忻之兵。尉迟迥被平定后，梁士彦获除授相州刺史。高祖以梁士彦为宿将，忌之，未几，征还京师，闲居无事。自恃元功，郁郁不得志，于是和宇