早年就读于湖北铁路学校。1912年毕业后，他到株萍铁路实习，曾任火车司机。1921年，他任株萍铁路管理局行车部总司机，同年冬他在安源加入中国社会主义青年团。1922年1月，他帮助李立三办平民夜校。1922年2月，朱少连加入中国共产党。参与领导创建安源路矿工人俱乐部，被选为副主任（正主任是李立三）。同年9月，他同李立三、刘少奇共同领导安源路矿工人大罢工，他任罢工总指挥部副总指挥。同年10月，他任安源路矿工人俱乐部路局主任。同年11月他到长沙参加了粤汉铁路总工会成立大会，会后他提议成立湖南工团联合会筹备会议，他