Byen ble i middelalderen, i Kong Valdemars Jordebog, kalt Arus, i islandske kilder Aros (etter oldnordisk = «åens munning»), senere forekommer det i sammentrukket form Aars. Først i 1406 finner man formen Aarhus, som i løpet av 1700-tallet blir den alminnelige. Byen blir første gang nevnt i 948, hvor Adam av Bremen nevner at «Reginbrand, biskop av kirken i Århus », deltar i et kirkemøte i byen Ingelham i Tyskland.