Byen nevnes første gang på begynnelsen av det 2. årtusen f.Kr. På 1300-tallet f.Kr. ble det til et regionalt forvaltningssenter innen det babylonske rike. Byens strategiske betydning tiltok med byggingen av kongekanalen mellom Eufrat og Tigris. Den munnet ut ved Opis. Kong Nebukadnesars bygging av en forsvarsmur mellom de to elvene, som løp til Opis, var også av stor betydning. Dessuten lå Opis ved en viktig vei, den persiske kongeveien, som knyttet sammen Susa i elamittenes land med Assyria (og Lydia).