Будучи студентом Пекинского университета, присоединился к марксистской группе, во главе которой стоял Ли Дачжао. Был очень начитан, Чжан Готао называл его «книжным червём». В июле 1921 года был делегатом на учредительном съезде КПК. В свои 19 лет он был самым молодым участником съезда. Он выступил с предложением включить в партийную программу положение, что только диктатура пролетариата может спасти Китай. В 1922 году он принял участие в 4-м конгрессе Коминтерна. С 1923 по 1925 он был секретарем китайской молодёжной коммунистической организации («комсомола»). Начиная с 1926 года, провёл три года в Советском Союзе, где под фамилией «Ленский» учился в Международной ленинской школе и встал на платформу левой оппозиции.