次日本海军士兵与中国士兵冲突后，冯玉祥和日本舰长发生冲突，脱鞋以鞋子抽了日本军官10个耳光1918年6月被撤销免职处分。6月14日段祺瑞的心腹徐树铮杀死冯玉祥夫人的姑丈、主张南北议和、支持直系军阀的北洋元老陆建章。11月段祺瑞为了安抚冯玉祥任命他为湘西镇守使。1925年冯玉祥杀死徐树铮，为陆建章报仇。
建军西北.1921年8月任陆军第十一师师长，从属直系军阀，率其部队入陕西，在陕西督军阎相文自杀之后，接任陕西督军，并以此地为地盘扩充，受到苏联大力支持壮大，其军队因此被称为“西北军”