皖战争爆发，陈树藩为了得到省内的人心而释放了胡景翼。其后，皖系败北，陈树藩丧失后盾，势力大减。民国10年（1921年）5月，直系的阎相文、冯玉祥将陈树藩从陕西督军的位子上駆逐下去。1921年5月25日，北京政府宣布免去陈树藩职务，由直系将领第二十师师长阎相文出任陕西督军。陈树藩率部逃往汉中。8月23日，阎相文在督署内突然吞服鸦片烟自杀，第十一师师长冯玉祥接任陕西督军。冯玉祥攻汉中府，陈树藩仓皇逃往四川。此后，陈树藩率军在陕西省、湖北省、四川省游荡，成为一个流浪的军事集团。同年12月，他被川军击败，他逃到