Et av de eldste belagte kinesiske navnene er 昆莫. I dokumenter fra Handynastiet ble byen kalt 伊吾 eller 伊吾卢, under Tangdynastiet ble den kalt 伊州; under Yuandynastiet transkriberte man det mongolske navnet for stedet, , til kinesisk som 哈密力. Fra Mingdynastiet og fremover er Qumul kjent som 哈密.