文化促进会”（简称“维文会”）伊犁分会在伊犁成立，哈斯木江当选副会长。但是，当地政府于1937年逮捕了包括哈斯木江在内的伊犁维文会全体领导。起初，哈斯木江被关押在伊宁监狱，后来转押至迪化（今乌鲁木齐市）第二监狱。1943年，哈斯木江获得释放，但仍受盛世才当局监视。1944年从迪化回到伊宁以后，他参加了地下革命组织领导的游击队，成为“解放组织”领导成员之一。1944年三区革命爆发以后，他参与创建革命政权，获授上校军衔，出任三区革命南征军司令。1945年率南征军赴南疆参加领导武装斗争以及建设政权。南征军自阿