Byen Gasur ble tilsynelatende grunnlagt under det akkadiske rike på slutten av 2000-tallet f.Kr. På midten av 1000-tallet f.Kr. overtok hurritterne byen og omdøpte den til Nuzi. Stedets historie i den mellomliggende perioden er uklar, skjønt tilstedeværelsen av noen få leirtavler med kileskrift fra Gammelassyria indikerer at det var handel med nabobyen Assur. Etter at det hurrittiske kongedømmet til Mitanni ble erobret av hettittene, havnet Nuzi i hendene på assyrerne og byen gikk i nedgang. Merk at den hurrittiske perioden er godt kjent ettersom disse arkeologiske lagene er godt utgravd og undersøkt, mens den tidligere historien er mindre bestemt grunnet at det kun har vært gjort mindre undersøkelser av denne spesifikke perioden. Historien til Nuzi er nært beslektet med de nærliggende byene Eshnunna og Khafajah.