Lin upseerikoulutus käynnistyi vuonna 1844 Zeng Guofanin johdolla, josta tuli hänen oppi-isänsä. Li läpäisi keisarillisen virkatutkinnon vuonna 1847. Taiping-kapinan puhjettua vuonna 1850 hän järjesti isänsä kanssa vapaaehtoisen sotilasjoukon, joka ajoi kapinalliset pois heidän kotimaakunnastaan. Kapinallisia vastaan taistellut Zeng kutsui Lin vuonna 1860 esikuntaansa, ja 1862 Listä tuli Jiangsun maakunnan vt. sotilaskuvernööri. Vuosina 1863–1864 Li tuki brittiläistä Charles Gordonia, jonka palkkasotureista kokoama ”aina voittoisa armeija” taisteli menestyksekkäästi Shanghain ympäristössä taiping-kapinallisia vastaan. Myöhemmin Gordonin armeija alistettiin Lille, jolla yhdessä Zengin kanssa oli merkittävä rooli taiping-kapinan lopullisessa kukistamisessa. Vuosina 1865–1870 Li toimi eri tehtävissä eripuolilla Kiinaa ja tukahdutti useita muita kapinaliikkeitä. Zeng ja Li nujersivat yhdessä muun muassa Nian-kapinan vuonna 1868.