Der Friedhof wurde um das Jahr 1763 herum außerhalb der Stadtmauern angelegt. Das genaue Jahr ist nicht bekannt, der Friedhof taucht erstmals in einer Zeichnung aus dem Jahr 1762 auf, allerdings noch an anderem Standort. Dort war er unmittelbar vor dem Buchsweilertor an der heutigen Ecke Haupt- und Bergstraße vorgesehen, angelegt wurde er schließlich an höherer Stelle in der Fortführung der Alleestraße. Spätestens im Jahr 1765 bestand der Friedhof bereits. Die ältesten erhaltenen Relikte auf dem Friedhof sind die Grabdenkmäler für zwei in der Schlacht bei Pirmasens im Jahr 1793 gefallene preußische Offiziere, Albrecht Otto Johann von Möllendorff und Hans Friedrich Georg von Borstell.