Li ble tidlig et entusiastisk medlem av det kinesiske kommunistparti, og var blant deltakerne på «den lange marsjen» til Yan'an i 1930-årene. Etter noen år der ble han utsatt for politisk forfølgelse.