学德国，4年后归国，任职中央陆军官校。主动请缨赴察哈尔创办分校培养骑兵军官，出任西北分校筹备主任。事未成，被召回南京负责创办教导总队担任总队长。继调安庆警备副司令；1935年授中将，迁第七十八师师长，寻复任军校教导总队长，兼首都警备副司令。1936年，西安事变，任第五路第一纵队指挥官，率部先发，败逆军于赤水。1937年，抗战军兴，守上海八字桥、苏州河；1938年，任第四十六师师长，继升第国民革命军第二十七军军长；1938年「兰封会战」时，日军土肥原贤二的第14师团进攻河南，蒋介石亲自介绍桂永清和黄杰镇守