Det ble fastslått at stedet var bosatt minst så tidlig som det 3. årtusen f.Kr. Stedet hadde sin blomstrinstid under den 2. årtusen. Arkeologiske funn fra denne tiden omfatter et palass og et tempel. Kileskriftfunn viser at stedet hadde politiske kontakter med Zimri-Lim fra Mari. Det mest kjente funn fra Tell al-Rimah er imidlertid en stele som viser Adad-nirari III, konge av Assyria fra 811 til 783 f.Kr.