Nykyisen Arbilin aluetta on asutettu jo pitkään. Paikka tunnetaan vanhoista nuolenpääkirjoituksista nimellä "Arbailu" ja Assyrian valtakunnan kaudella se oli tärkeä Ištarin palvontapaikka. Myöhemmin nimi muuttui muotoon "Arbeles". Vuonna 331 eaa. paikan lähellä käytiin ratkaiseva Gaugamelan taistelu Persian kuningas Dareios III:n ja Makedonian kuningas Aleksanterin välillä. Myöhemmin kaupungin hallinnasta sotivat Parthia ja Rooman valtakunta. Kaupungin nimi oli saanut uuden muodon "Arbira" ja kaupunkiin muodostui kristitty keskus jo kristinuskon varhaishistorian aikana. Sasanidien Persiassa koettiin ajoittain kristittyjen vainoja.