Roomalainen Orangen kaupunki perustettiin vuonna 35 eaa. nimellä Arausio (koko nimeltään "Colonia Julia Firma Secundanorum Arausio"). Aiemmin paikalla oli sijainnut kelttiläinen asutuskeskus ja paikalla oli käyty taistelu, joka tunnetaan yleisesti nimellä Arausion taistelu, kahden roomalaisen armeijan sekä germaanisten kimbrien ja teutonien heimon välillä vuonna 105 eaa.