Sarovs historie startet på 1100- og 1200-tallet, da en stor mordvinsk bosetning ble funnet på stedet. I 1298 ble byen tatt over av tatarer.