Byen ble grunnlagt av markgreven Leopold III og oppstod sammen med og rundt Stift Klosterneuburg. Den har navnet etter klosteret og den nye borgen («Neuburg») som han reiste. Der residerte Leopold III og senere tidvis Leopold VI. Augustinerkorherrene kom til Stift Klosterneuburg i 1133.