I 1795 flyttet Cowper sammen med Mary til Norfolk. de bodde først i North Tuddenham, så i Dunham Lodge nær Swaffham, så i Mundesley før de til slutt slo seg ned i East Dereham.