Området ble først befolket av de indo-europeiske tokariere og saka, som praktiserte buddhisme. De kom under kinesisk styre under Han-dynastiet som protektoratet av de vestlige regioner på grunn av krigene mellom Han-dynastiet og xiongnu og senere igjen under Tang-dynastiet som generalprotektoratet for å pasifisere Vesten på grunn av krigene mellom Tang-dynastiet og det tyrkiske khaganatet, det vestlige tyrkiske khanat og det østlige tyrkiske khanat. Tang-dynastiet trakk seg tilbake fra de fire garnisoner i Anxi etter An Lushan-opprøret. Etter dette ble tyrkiske folk og andre folk i området gradvis konvertert til islam.