I 1703 ble han utnevt til vise-guvernør i grevskapene Oldenburg og Delmenhorst, der faren var guvernør. Georg Ernst var sterkt plaget av gikt, og han døde før faren. Han døde den 30. januar 1717. Grevskapet Jarlsberg gikk i arv til hans eldste sønn, Frederik Anton, etter at faren hans døde den 21. desember. Georg Ernst ble begravet i Oldenburg.