Etter grunnskole og middelskole i Changsha reiste Li i 1919 til Frankrike som arbeidende student og der innledet han sin politiske virksomhet. Han ble grepet av marxismen og sluttet seg i 1922 til organisasjonen Kinas sosialistiske ungdom og året etter til Det kinesiske kommunistiske parti. i 1923 giftet han seg med Cai Chang, Cai Hesens søster. I 1925 dro han for å studere til Sovjetunionen, men vendte snart etter hjem til Kina for å delta på Nordekspedisjonen. Han gjorde tjeneste som leder for den politiske avdeling av Den nasjonale revolusjonshærs 2. armé og som fungerende kommunistisk partisekretær for provinsen Jiangxi. Det var i denne tiden han ble kjent med Mao Zedong.