Steilneset ligger ikke langt fra Nye Vardøhus festning, som ble reist mellom 1734 og 1738, rett nedenfor Stegelneset kapell og helt ute ved kysten mot havet. I godt vær har besøkende utsikt mot ”heksefjellet” Domen, som ifølge rettsdokumentene var fjellet heksene søkte til ved flere anledninger. Merk at kapellet benytter en eldre skrivemåte enn minnestedet.