1925年，任孙传芳的五省联军第七军军长。1926年1月22日，孙传芳命郑俊彦解散清江浦的江苏陆军第三师马玉仁部。1926年，马玉仁任直鲁联军第十二军军长，授陆军上将衔。1927年6月，马玉仁被北伐军李宗仁部击败，马玉仁被俘，旋即获释。1930年，冯玉祥、阎锡山联合反蒋介石，任命马玉仁为第十六路军总指挥兼第二十七军军长。不久，马玉仁在战斗中负伤，到大连治伤时，被蒋介石的南京国民政府逮捕。不久，蒋介石同冯玉祥、阎锡山议和，并获张学良斡旋，马玉仁获赦免，回到家乡。1937年抗日战争爆发后，马玉仁在家乡盐