作战方针同其他干部意见不合，在该部改组为内蒙古自治军后改任总参谋长兼第3军司令官。1931年10月13日，甘珠尔扎布的第3军进攻通辽县城，由于未能得到第1军、第2军的协助，而被东北军骑兵第3旅反击击退。1932年3月满洲国成立后，内蒙古自治军被编入满洲国军，改编为兴安南分省警备军，甘珠尔扎布任参谋长。9月苏炳文反叛，兴安南警备军和关东军参加讨伐苏炳文的作战。满洲国时代，他历任兴安局警务科事务官、达尔罕王府兴安警察局局长、兴安南省警务庁长、兴安陆军军官学校校长。抗日战争中的1938年，八路军侵入河北省