Liu se había formado como militar con el ejército del KMT en la Academia Militar de Whampoa junto a Chiang Kai-shek, pero pronto se había adherido a la causa comunista, trasladándose a su provincia natal de Shaanxi, donde formó un grupo armado que robaba a los poderosos para repartir el botín entre los más desfavorecidos.