有名望，曾隐居于宜阳郡的女几山上。西晋建立后入朝任官，因与中书监张华议论经籍意义和政事而深得对方的器重。张轨历任太子舍人、尚书郎、太子洗马、太子中庶子、散骑常侍，征西将军司马。
经营凉州.晋惠帝元康元年（291年），「八王之乱」开始，天下大乱，张轨于是想佔据河西之地（今甘肃西部、新疆东部一带），于是就要求调任凉州。在朝中官员的支持之下，张轨于永宁元年（301年）被任命为护羌校尉、凉州刺史。张轨到任后，使立刻领兵击败当时在凉州叛乱的鲜卑族，又消灭横行当地的盗贼，斩首万多人，从