苦工人家庭。他自少年时起便在株萍铁路安源修车房任修车工人。1921年9月，他在安源组织湖南中华工会机械会安源分会。1922年1月，他和朱少连、李立三创办安源路矿工人补习学校暨国民学校。此后他还参与组织安源路矿工人俱乐部。1922年2月，李涤生加入中国共产党，他也是安源第一批参加中国共产党的工人之一。不久，他任中国劳动组合书记部长沙分部株萍铁路工运特派员。1922年春至1923年夏，他任中共粤汉铁路新河支部书记。1922年5月安源路矿工人俱乐部成立后，他任总代表。同年9月上旬，他出席了毛泽东在安源召开的中