Harburg blir nevnt i skriftlige kilder første gang i 1135 under navnet (borg i sump). I 1257 tilfalt Harburg hertugdømmet Braunschweig-Lüneburg. Dårlige tider medførte at hertugene i perioden 1397–1517 belånte byen med pant til Hamburg og Lüneburg. De to byene var ikke interessert i konkurranse, og utbyttet Harburg i denne perioden.