Det forhistoriske navnet på Kirkuk var som ble avledet fra gammelhurrittisk og antagelig rett og slett betydde «by». I Partia-perioden er et nevnt av den greske geografen Klaudios Ptolemaios. Det er antatt at han refererte til enten Kirkuk eller til Baba Gurgur som ligger rundt 5 km fra byen. Under gresk herredømme var den kjent som som betyr «Festningen til selevkidenes hus» på arameisk, eller fellesspråket i området den fruktbare halvmåne på denne tiden.