Området ble for lite, og han flyttet til Pennville, hvor han skaffet seg et 4 acres (16 000 kvm) jordstykke for å bygge opp «to show all the wonderful things o' God's Creation, kinda like the Garden of Eden» . Der er et Bibel-hus, et speilhus, hjulkapseltårn, sykkeltårn, maskingeværeir – og det største bygget: et femetasjes folkekunstkapell. Han hengte også opp bibelvers fordi «de hengte seg bedre inn i folks hoder på den måten».