Den nå revne middelalderkirken ble ifølge Riksarkivet viet til Sta. Maria og St. Olav, og nevnes for første gang i brev fra biskop Eistein i Oslo i 1401 og 1404. I brevene nevnes en trette om veien som gikk over kirkegården tett ved siden av kirken og prestegården. Det sies at grunnmurene har vært dårlige, for når bøndene kjørte tømmer der, ristet det i kirkens grunnmur. Det var fare for at bygningen skulle rase sammen. Det finnes ingen sikker opplysning om når kirken ble bygget, men kong Olav Haraldsson begynte en storstilt kirkebygging etter at han la fram sin kristenrett i begynnelsen av 1020-årene. Det kunne se ut som om han fulgte en landsplan med en kirke i hvert fylke. Til sammenligning ble det bygget en kirke i Sunnhordland, Moster kirke, på 1100-tallet, så det er tenkelig at Sandar kirke ble bygget på det samme tidspunktet. Dersom kirken var så gammel, var det ikke rart at den var falleferdig allerede på 1400-tallet. Bispen oppfordret derfor å få bygget et nytt klokketårn av stein eller på stolper.