介石任军长的国民革命军第一军第二师担任连长。1926年调入程潜任军长的国民革命军第六军第十九师二团任营长，参加北伐。率部攻克南昌和南京，并救军长程潜于险境，升任团长。1927年被程潜送入日本陆军士官学校深造，专攻军事战术。 1929年8月和张云逸一起从上海奉中共中央指示到广西，化名李谦。在广西军委负责人陈豪人的安排下开办教导总队，次任广西第4警备大队副大队长，协助张云逸改造部队。10月参加邓小平领导的南宁兵变。12月参与陈豪人、张云逸领导的百色起义，任中共广西前委委员，中国工农红军第七军副军长兼