I 1840 ble Arntzen stiftamtmann i Trondheim og amtmann i Søndre Trondhjems amt. I 1857 ble han stiftamtmann i Christiania. Han tok avskjed fra dette embetet i 1874.