生于湖南醴陵县城的芋园，书香门第。父亲李昌珪是前清秀才，与程潜、何健是同学，靠教私塾为生，长子早夭，次子李隆郅（即李立三），三子就是李谦。1916年读书，1920年考入县立中学，与蔡申熙、左权、张际春、宋时轮等同班。后来在李立三的影响下参加反帝爱国学生运动，创办《前进》周刊。1924年先后考入广州陆军讲武堂和黄埔军校，经蒋先云介绍加入中国共产党。1925年2月参加讨伐陈炯明的东征，为最年轻之奋勇队员。7月编入蒋介石任军长的国民革命军第一军第二师担任连长。1926年调入程潜任军长的国民革命军第