Med støtte hos den danske arkeologen Olaf Olsen (1966) synes det som om horgen var en betegnelse på en steinsatt helligdom utendørs med eventuelt kultbilder oppstilt, og i enkelte tilfeller har det opprinnelige enkle kultstedet fått en overbygning som beskyttelse og således blitt en bygning, det vil si hov. Antagelig var ritualene hovedsakelig like uansett betegnelse ettersom de hyppig nevnes i kildene som et par, «horg og hov». Det også var sannsynlig med store lokale variasjoner i utformingen av horgen som helligdom, noe som har årsak i forskjellene i lokale tradisjoner og økonomiske ressurser.