今宁夏固原市）占有凉州，领兵平定鲜卑，成为前凉的奠基者，他重视教育，减免赋税，恢复生产。永嘉之乱后，中原和关中地区的很多百姓流入凉州。320年，前凉建国，为十六国之一，追张轨为凉太祖。宁夏属于前凉的北地郡和安定郡。此后，宁夏南部属于雍州，先后被后赵、前秦占领。宁夏北部属于匈奴铁弗部。后秦弘始八年（407年），后秦安北将军、阳川侯赫连勃勃扣押柔然可汗送给后秦的八千匹马，然后假装在高平川（今宁夏南清水河）狩猎，袭杀后秦高平公没弈干。随后，赫连勃勃于高平城（宁夏固原）公开反叛后秦。义熙三年（407年）赫连