Byen Borg ble etter tradisjonen grunnlagt av Olav den hellige i 1016. Innenfor den befestede vollen anla han en kongsgård og bygget Mariakirken, . Kirken antas å være oppført i tre, og beretningen tyder på at den hadde skip og kor og at koret hadde sydportal og apsis eller alternisjer. Det ble noe senere oppført to andre kirker, Olavskirken, og Nikolaikirken, , og disse kirkene er omtalt i Biskop Eysteins jordebok fra 1397 som og .