Karamay ble etablert i statsråd som en by på fylkesnivå 29. mai 1958, og var med det ikke lenger underlagt Dushanzi-distriktet. Kuitun ble adskilt fra Karamay og lagt direkte under Ili i 1975. Siden har Karamay vært delt på to landområder adskilt fra hverandre. Selvstyremyndighetene i Xinjiang gav byen status som by på prefekturnivå, 16. februar 1982, før den ble omgjort igjen til by på fylkesnivå 17. august 1984. Dette ble omgjort igjen 8. januar 1990 da Karamay fikk statusen den har i dag som by på prefekturnivå. Karamay fikk i 2004 status som «National Model Environmental Protection City» av «Ministry of Environmental Protection of the People's Republic of China», som ble fornyet i 2008-2010.