境贫寒。幼年在“蒙养公学”就读。随父亲徐梦鹰从家乡赴东北。考入吉林陆军小学。民国元年入北京清河陆军第一预备学校。1914年入保定军校第三期炮兵科，与白崇禧同学。1916年冬毕业后任职奉军，后留学日本士官学校，毕业后入日本陆军大学。1927年6月归国后，在奉系的北京政府任陆军炮兵上校，军事部参谋署科长。1928年，与邢士廉等代表张学良到北平与南京国民政府代表白崇禧谈判东北易帜。1928年12月任东北边防司令长官公署军令厅少将第三处少将处长。九一八事变后，1932年9月任参谋本部处长。1933年3月任北平军分会