后，考入长安民主中学。入学一年后，因家境衰败而无力就学。1924年，考入靖国军杨虎城部开办的教导队参军。历任排长、连长、营长、团长，参加了北伐战争。1936年任国民革命军第17路军警备第2旅旅长兼城西安防司令。为配合西安事变的行动，指挥所部参加解除南京国民政府驻西安军、警、宪、特武装的行动。1938年起任国民革命军第四集团军旅长，第55师少将师长、38军中将副军长。1946年5月15日，率部于河南巩县起义，后任西北民主联军第38军军长，同年10月由毛泽东批准加入中国共产党。1947年8月率部随陈（赓）谢