东汉初年，匈奴分裂为南北两部，北匈奴强部唿衍王的封地即在今阿勒泰地区境内。东汉永元三年（91年）后，北匈奴逐渐西迁，鲜卑人尽据匈奴故地，今阿勒泰地区归其控制，属鲜卑右地。东汉末年，鲜卑汗国衰落，原居于此的唿揭人乘机复国，汉文史籍称其为“唿得”。402年，柔然兴起，征服唿得，将游牧于东部天山的突厥北迁至金山（阿尔泰山）西南，今阿勒泰地区遂为突厥的游牧之地。583年，突厥汗国分裂，西突厥汗国建立，今阿勒泰地区属其疆域。605年，铁勒各部反抗西突厥压迫，发动起义，推举薛延陀部首领乙失钵为“野口至汗”（今译为“额尔