Det har antagelig vært bosetning i Aldborough tilbake til bronsealderen da de store bautasteiner ble reist i en sirkel på hva som i dag er et jorde rett utenfor den vestlige enden av byen. Tre store steiner står fortsatt, den korteste er 5,5 meter og den høyeste er 6,8 meter, noe som er høyere enn noe på Stonehenge. Det var antagelig opprinnelig fem steiner til sammen. Den fjerde ble brutt opp i 1582 for å bygge en bro over elven Tutt, og den femte har bare forsvunnet i historiens mørke. Steinene, som kalles «Djevelens pilspisser», , består av hard sandstein med avspisset topp og står 1,5 meter ned i bakken. De er datert til sen neolittisk tid eller tidlig bronsealder. Stedet var sannsynlig benyttet for solvending i forhistorisk tid. Flere astronomiske oppstillinger har blitt gjort.