人罗泽南很看重他。道光十八年（1838）开始参与团练乡民的工作。太平军事起，李续宾协助罗泽南办团练，“能以兵法约束子弟，明耻教战，训练尤精”，咸丰三年与罗援江忠源于南昌，以战功升知县，又与罗剿平江西南部土匪。咸丰四年（1854年）六月，湘军中营与右营攻打岳州，太平军退出岳州，罗泽南和塔齐布进城，唯有李续宾率领右营追击敌军，趁着大雨擒斩两千多人。塔齐布立马观战，赞道：“白旗无敌！”。李续宾与罗泽南一路收复武汉，合围九江，升任知府。后因九江久功不克，武汉再次被太平军占领，与罗泽南，刘蓉率军回援湖北。一路连胜