Chinese Workers' and Peasants' Red Army
이후 국공 내전 중 마오쩌둥 등 중국공산당의 홍군 대장정(大長征)에 참가하여 연안으로 간 그는 조선인 10여 명 가운데 유일하게 살아남아 중국혁명과 관련된 명성을 굳히게 되었다. 1937년 팔로군 총사령부 작전과장이 되고, 그해 말에는 중국 최초의 포병부대인 팔로군 포병단 단장이 되었다. 1930년 6월 중국공산당은 당 중앙소재지인 상해에서 쏘베트지역 대표대회를 소집하였다. 당시 대회에는 홍군 제5군 정치위원인 등대원(滕代远)이 참가하였고, 등대원과 무정은 친숙한 사이가 되었다. 그후 무정은 섬북에서 등대원의 여동생인 등기(腾绮)와 결혼하기도 하였다.