军麴陶领三千兵入卫长安。建兴二年（314年），晋愍帝任命张轨为侍中、太尉、凉州牧，封西平公，但张轨仍然辞让。五月己丑日，张轨病死，享年六十岁，谥曰武公。张轨的亲信部下及后拥立张轨长子张寔继任了凉州牧之职。
陵墓.张轨墓在今凉州区境内，史称“建陵”，前凉国主的陵墓位置，学术界有三种推测：陵墓上方筑台，可能在今灵钧台、雷台等古台下；或依照汉制，重臣死后多陪葬君主墓旁，根据已出土的“梁舒墓”的方位，可能在今武威城西北太平滩一带；或因山为陵，可能在武威城南祁连山山坡地带。