家境没落，全家只能供应他一人读书。县中学毕业时，父母已去世，借钱考入太原进山中学就读。校外教小学生维持学业。早年在太原读书时，曾积极参加学生运动。1926年参加国民党左派组织西北革命同志同盟会，从事革命活动被学校开除。至上海，后到武汉。1927年春，经董必武介绍进入国民革命军第二十军教导团，7月随部队离开武汉参加南昌起义，不久加入中国共产党。1927年10月随朱德、陈毅转到崇义，赵尔陆任特务连党代表。1928年1月，在朱德、陈毅的指挥下，率部参加了攻打宜章城的战斗，打垮国军第三师的主力，歼国军一千余人，接着