I det første århundre ble områdene sør for Kaukasus okkupert av keisermakten i Roma. Romerne innførte navnet Albania (d.e. «fjellandet») på et område som i hovedsak sammenfaller med nåtidens Aserbajdsjan. Etterhvert oppsto bysamfunn som Gandsja, Şəki, Barda, Nakhitsjevan og Baku. Albania eksisterte som rike i over femhundre år med varierende vasallforhold til romerske og persiske herskere. Mot slutten av 700-tallet gikk riket i oppløsning. Kristendommen ble offisiell statsreligion i Albania før år 325. På 400-tallet gikk store deler av den albanske kirken over til å bli nestoriansk.