入山西优级师范学堂学习。1913年（民国2年），参加阎钖山组织的「征蒙队」，任侦察员。同年冬，加入晋军。1914年（民国3年）2月赴绥远特别区，任绥远将军张绍曾手下的罚款局局长。1918年（民国7年），赴陕西省加入胡景翼率领的靖国军。他被靖国军将领杨虎城招为部下，后任靖国军第3路第3团团长。1925年（民国14年），任国民军第3军第3师第6旅旅长。1927年（民国16年）春，升任国民革命军第2集团军第10军第1师师长。1928年（民国17年）秋，随着军队缩编，他改任第2集团军暂编第21师第1旅旅长。