1917年，冯国璋代理大总统，任命李纯为江苏督军。同年7月，淮扬镇守使、第五混成旅旅长刘洵（冯国璋的外甥）调防南京，李纯命第一混成旅旅长马玉仁兼代淮扬镇守使。同年8月14日，冯国璋以代总统名义委任马玉仁署理淮扬镇守使。1920年7月，直系曹锟、吴佩孚在奉系张作霖的支持下，发动直皖战争，马玉仁随李纯站在直系一边。直系曹锟、吴佩孚为拉拢马玉仁，在调整江苏陆军编制时，命马玉仁代理第一、五混成旅合编而成的江苏陆军第二师师长。1922年2月，马玉仁奉命将江苏陆军第二师改为江苏陆军第三师，仍任师长，该师下辖第五