Han bedrev i 1924–1925 universitetsstudier i Shanghai, der han kom i kontakt med flere radikale bevegelser. På denne tiden ble han medlem av Kinas kommunistiske parti og hjalp under de påfølgende år blant annet til med å organisere byens arbeidere i streiker. Etter Chiang Kai-sheks undertrykkelse av den kommunistiske bevegelse i 1927 ble han nødt til å forlate Shanghai og arbeidet i noen år underjordisk i Jiangsu-provinsen. I 1933 begav han seg til Moskva der han var medlem av det kinesiske kommunistpartiets delegasjon hos Komintern og fikk trening i sikkerhetssaker av NKVD. Mot slutten av 1936 skal han ha reist til Spania og engasjert seg i den spanske borgerkrig, men i 1937 var han atter i Moskva.