Sarovs historie kan deles i to totalt forskjellige perioder. I Russlands tidlige historie var byen kjent som et hellig sted i ortodoks kristendom, med sitt kloster som ga Russland en av sine største helgener, St. Serafim. Etter andre verdenskrig har byen blitt Sovjetunionens og senere Russlands senter for utvikling og produksjon av atomvåpen.