Chinese Workers' and Peasants' Red Army
1934년 중국공산당이 장제스의 중국국민당군과의 교전에서 패하고 루이진에서 옌안으로 2만 5천리를 이동할 때, 무정도 중국공산당 군사위원회 위원 자격으로 중국 홍군의 장정에 참여하였다. 홍군이 산하 팔로군의 포병장교로 일하면서 훗날 연안파가 되는 조선독립동맹 산하의 조선의용대의 사령관을 맡아서 항일운동을 벌였다. 그 후 팔로군 포병사령부 사령관까지 올라갔으며 연안파의 거물로 떠올랐다. 그는 팔로군에 있으면서 펑더화이(팽덕회)의 부관으로 근무하였는데, 결혼도 팽덕회가 주선하여 이루어졌다. 1936년 홍군의 군사훈련기관인 홍군육군대학 단기 간부과정을 수료하였다. 이후 홍군 특과학교 포병과 주임이 되었다가 포병과장, 특과학교 제2대 교장 등을 역임했다. 1937년 홍군 산하 팔로군 총사령부 작전과장이 되고, 1937년의 중일 전쟁에 중화인민지원군 팔로군 포병사령관으로 전쟁에 참전하였다. 1937년 말 팔로군 포병연대 연대장으로 승진했다가 뒤에 팔로군 포병사령관이 되었다. 1938년 1월 팔로군 포병사령관이 되고, 1940년 봄 팔로군과 화북 주둔 일본군이 교전하는 백단대전(百團大戰)에 팔로군 포병부대를 이끌고 참전하였다.