0年（民国9年）6月，南方政府军欲夺回湖南省。吴佩孚和冯玉祥对张敬尧不予援助，张敬尧逃往湖北省。随后，张敬尧遭到段祺瑞罢免，逃往上海。
从北方各派到满洲国.1920年7月的直皖战争中，皖系败北，张敬尧转投奉系的张作霖，成为后者的门客。1922年（民国11年）第一次直奉战争中，奉系败北，张敬尧投奔直系吴佩孚。1924年（民国13年）10月北京政变爆发，张敬尧被冯玉祥逮捕，随后被释放。1925年（民国14年），张敬尧投鲁军的张宗昌，被任命为直鲁联军第2军军长。1926年（民国15年