就设凉州，并任命安定太守邹岐为凉州刺史，但张掖人张进胁持郡守起兵反抗邹岐，并得到黄华及麴演响应，张既领兵到凉州为护羌校尉苏则壮大声势，最终苏则成功平定叛乱，张既亦进封都乡侯。后来卢水胡伊健妓妾和治元多等人叛乱，河西各郡大乱，曹丕任命张既为凉州刺史，并派夏侯儒和费曜等支援张既，张既最后深入凉州，大败胡人军队。曹丕大喜，封张既为西乡侯，增加二百户食邑，共四百户。张既在雍州及凉州十多年，平定多次叛乱，政绩亦广为人知，他所辟命的人如庞延、杨阜、胡遵、庞淯、张恭和周生烈等，最终都有名气和地位。黄初四年（223年）