Arkeologiske utgravninger viser at høydene i Montmartre var bosatt fra minst gallo-romersk tid. Tekster fra 700-tallet siterer navnet på (»Merkurfjellet»); en tekst fra 800-tallet snakker om . Utgravninger i 1975 nord for kirken Saint-Pierre de Montmartre fant mynter fra 200-tallet og restene av en stor steinmur. Tidligere utgravninger på 1600-tallet ved Fontaine-du-But (2 rue Pierre-Dac) avdekket rester av romerske bad fra 100-tallet.