败北，马联甲转投直系。民国十一年（1922年），安徽督军张文生遭到駆逐，马联甲被任命为安徽督军（督理）。次年（1923年）10月15日，获将军府授“联威将军”。民国十三年（1924年）第二次直奉战争，直系败北，同年11月，马联甲在部下逼迫下下野，逃往南京。同年中，马联甲在南京逝世。享年61岁。