Man vet ikke sikkert når den første kirken på Os ble bygget, ei heller hvor mange kirker som har stått der og deres nøyaktige plassering. Første gang Os kirke nevnes i skriftlige kilder er i Bergens Kalvskinn som var et register over kirkens eiendommer på 1300-tallet. Dette kirkebygget antas ha vært en stavkirke i likhet med de fleste andre kirker på denne tiden. Denne ble erstattet av en tømmerkirke som ble bygget i 1624. Denne skal ha vært 26 alen lang ifølge nedtegnelser fra befaring i 1686 gjort av stiftsskriver Hermann Garmann, mens kirketårnet skal ha blitt anslått til å være 14 alen høyt. I 1712 ble tårnet fornyet. Stavene fra tårnet på den gamle kirken er bevart hos Hordamuseet. Også prekestolen, altertavlen og flere andre gjenstander fra den gamle kirken er tatt vare på. Senere på 1600-tallet ble også Os prestegård bygget like bak kirken.