Mens han arbeidet ved Nanyang tobakksfabrikk ble Gu Shunzhang aktiv i arbeiderbevegelsen, så i Shanghais fagbevegelse og til slutt i det kinesiske kommunistiske parti. I 1926 ble han sendt til Vladivostok i Sovjetunionen for opplæring i spionasje. Etter hjemkomsten deltok han i tre væpnede opprør i Shanghai.