1925年（民国14年）1月，他署理绥远都统。1926年（民国15年），他任甘肃军务督办，未赴任（刘郁芬代理）。此后，他任京师警备代理总司令兼警备总监。1927年（民国16年），他任国民政府军事委员会委员。1928年（民国17年），他任郑州市长兼国民革命军第2集团军总指挥。后来，他任西北政治工作委员会委员长。同年9月，他改任河南省政府委员、国军编遣委员会委员兼遣置部主任。此后，他逐渐脱离冯玉祥。1930年（民国19年），他任鄂豫边区绥靖督办。1931年（民国20年），他任第22路总指挥兼第30师师长。