I 1916 ble han ansatt som bestyrer av Fylkesmuseet for Telemark og Grenland (i dag: Telemark Museum). Museet skulle bli hans arbeidsplass inntil han gikk av med pensjon i 1951. Til tross for vanskelige økonomiske tider gjorde han en stor innsats for Fylkesmuseet i Skien. I tillegg redigerte han gjennom 20 årganger tidsskriftet . Men Berge var en stri natur. Først etter hans død fikk Universitetet tilgang til å få kopier av hans eget innsamlede materiale og materialet han hadde skaffet seg forut for den såkalte desentraliseringsstriden.