Byen oppsto tidlig i middelalderen rundt bispeborgen Opnør Hus. I middelalderen var byen kjent for sitt fiske og sin humlefremstilling. Byen fikk status som kjøpstad i 1240. Aabenraa hørte etter den danske arvedelingen i 1560 og frem til arvehyllingen i 1721 under Gottorp-hertugene.