Kim ble politisk kommissær for en avdeling på rundt 160 mann. Kims viktigste mentor var Wei Zhengmin, som kom til å påvirke ham ideologisk. Koreanerne ble ikke bare forfulgt av japanske politistyrker, men ble også møtt med mistenksomhet av kinesiske kommunister. Kim vant kinesernes tillit og unngikk mistanker om å være japansk infiltratør. Han skal også ha skjermet en del av sine landsmenn. Kims avdeling gjorde i 1937 et anslag ved den mandsjurisk-koreanske grensen ved Pochon, men trengte aldri lengre inn i Korea.