Guldahl var konstituert som fylkesmann i flere perioder fra 1895, både mens Ole Anton Qvam var stortingsrepresentant og statsråd, og senere som vikar for Torvald Løchen. I 1915 ble han endelig utnevnt som embetsinnehaver. Han tiltrådte i 1916, og satt i embetet til 1927.