杀死徐树铮，为陆建章报仇。
建军西北.1921年8月任陆军第十一师师长，从属直系军阀，率其部队入陕西，在陕西督军阎相文自杀之后，接任陕西督军，并以此地为地盘扩充，受到苏联大力支持壮大，其军队因此被称为“西北军”。1922年第一次直奉战争中，出潼关，击败奉系的河南督军赵倜，之后就任河南督军。但因妄杀降将宝德全，被吴佩孚撤去河南督军，赴京面见曹锟，曹改任其为陆军检阅使。孙中山改组国民党时，派孔祥熙作为代表与冯玉祥见面，并带来《建国大纲》等孙中山的政治着作，得到冯玉祥一定程度的认同。