Den eldste kjente skriftlige omtalen av de vises stein er for rundt 4000 år siden i et steinrelieff i oldtidens Egypt, og deretter igjen av den greske alkymisten i Zosimos fra Panopolis (latin: ) i verket («Ting gjort for hånd) fra ca. 300 e.Kr. Alkymistiske forfattere tildeler dog en lengre historie. Engelske Elias Ashmole og den anonyme forfatteren av (1620) hevder at historien går på mystisk vis tilbake til Adam, som skaffet seg kunnskapen om steinen direkte fra Gud. Denne kunnskapen ble sagt å ha blitt videreført gjennom bibelske patriarker, og ga dem lang levetid. Legenden om steinen ble også sammenlignet med den bibelske historien til Salomos tempel og den forkastede hjørnesteinen beskrevet i Salme 118.