断匈奴单于的右方，即后来的哈密。西晋时为凉州牧张寔占领。三国时期魏国又打通西域。隋朝隋炀帝因裴矩进《图记》，抵达玉门关，设置伊吾镇、且末镇。唐朝时期，哈密隶属陇右道，安史之乱时，被吐蕃占领。此地地表无水源，常年寒冷，多有积雪，雪融了方为水源。元朝时，封兀纳失里为威武王，占领此地。明朝初期，朱元璋平定陕西、甘肃后，在嘉峪关以西不设置行政官署。明朝洪武十三年（1380年），都督濮英屯兵西凉，奉命进兵哈密。占据此地的元裔兀纳失里遣使请降。洪武十四年（1381年），哈密使臣回回阿老丁向明朝贡马，诏赐文绮，遣往畏