作为学生军的一员加入革命派。中华民国成立后的1914年（民国3年），他入清河陆军第1预备学校。1916年（民国5年）春，他加入保定陆军军官学校候补生队。翌年秋，他正式入学保定陆军军官学校，于1918年（民国7年）9月自第5期步兵科毕业。毕业后，他回到山西，此后他在阎钖山的晋军（山西陆军）中顺利晋升。1926年（民国15年），他因战功而被提升为第10旅旅长。1927年（民国16年），他升任第5师师长。1928年（民国17年）6月，他升任第6军军长。同年10月，随着北伐结束，国民革命军进行重编和缩编，他被任