Li gjorde sig bemärkt under Taipingupproret, då han i spetsen för ett litet krigaruppbåd fördrev de upproriska från sin födelseprovins Anhui samt sedan erhöll ett högt befäl och samverkade med major Charles George Gordons armé i dess segerrika strider 1863-64. Li hade 1861 utnämnts till provinsdomare i Zhejiang och blev 1864 guvernör över Jiangsu-provinsen, som just återerövrats från de upproriska.