Begrepet «horg» stammer fra urgermanske , som igjen går tilbake til indoeuropeisk , , «hard»; ordet foreslås beslektet med det norske ordet «hard», det gammelengelske , «hedensk tempel»; og gælisk , «steinhaug». Det kan også gjenfinnes i gammelhøytyske (flertall ) og det gammelengelske (flertall ) kan gjenfinnes overlevd i stedsnavn som eksempelvis Harrow, i dag en bydel i London, og betyr «hellig sted». I Sverige ble formen benyttet mens danskene benyttet , som antagelig inngår i det moderne navnet Har(r)eskoven. I nærheten av Sumba på Færøyene finnes en lokalitet kalt Hørg. I Norge finnes stedsnavnet Horg.