战争中，皖系败北，张敬尧转投奉系的张作霖，成为后者的门客。1922年（民国11年）第一次直奉战争中，奉系败北，张敬尧投奔直系吴佩孚。1924年（民国13年）10月北京政变爆发，张敬尧被冯玉祥逮捕，随后被释放。1925年（民国14年），张敬尧投鲁军的张宗昌，被任命为直鲁联军第2军军长。1926年（民国15年），任安国军第2方面军副司令，与国民党北伐军作战。1928年（民国17年）9月，张宗昌败北，张敬尧随之下野，逃往大连。1932年（民国21年），张敬尧投靠满洲国。1933年（民国22年），被任命为平