Snart ble han med i den kommunistiske underkrunnsorganisasjonen . Hans politiske undergrunnsarbeid rettet mot det nasjonalistiske regjeringspartiet Kuomindang førte til at han i 1923 fikk sin første fengselsstraff.