Området kaltes , og skrenten som eiendommen nå har navn etter, kaltes . Her var det blitt tatt ut brostein (diabas eller «grønnstein») til byens gater og til Slottsplassen, og det hadde skapt den dype kløften. I stedet for å fylle den igjen, bygde Wergeland en portal og en terrasse over, slik at det virkelig ble en grotte. Wergeland var en habil tegner, og tegnet selv huset, men skal ha fått noe hjelp av sin venn, slottsarkitekt Linstow. Huset er, sammen med vaktbygningen ved Slottet og Linstows eget hus i Wergelandsveien 15, blant de første eksemplene på «Den nye træstil» som etterhvert fikk navnet sveitserstil. Men Linstows hus ble revet i 1955 for å gi plass til Lektorenes Hus. Sveitserstilen ble senere mer utbrodert enn den var på Wergelands tid, med flerfargede vindusglass og dekorative utskjæringer.