Fra 1781 til 1789 var han amtmann i Smaalenene (Østfold). Broren Johan Christian Hauch etterfulgte ham der. Fra 1789 til 1802 var Frederik Hauch amtmann i Søndre Bergenhus (Hordaland) og stiftamtmann i Bergen. Han ble også president ved Bergen stiftsoverrett i 1797, og satt i også det embetet til 1802.