Kalhu ble grunnlagt av den assyriske kungen Salmanassar I på 1200-tallet f.Kr. og ble utviklet til en stor og viktig by da Assurnasirpal II omkring 880 f.Kr. valgte den som sin hovedstad. Senere konger, og også dronning Shammu-Ramat, utrettet byggevirksomhet i byen, deriblant templer til ære for Nebo og Tashmetu. Kalhu fortsatte å være kongelig residens også etter at først Dur-Sargon og senere Nineve ble rikets politiske hovedstad.