Fra 1982 til 2005 var rådgiver for militærnekterne i Norge i Justisdepartementet, Han var seniorrådgiver Kriminalomsorgen 2005 til 2019. Hauge arbeider i dag som litteraturkritiker og poet (medlem Norsk kritikerlag, Den norske Forfatterforening og Norsk Forfattersentrum). Han har vært programansvarlig for Bjørnsonfestivalen i Molde, styremedlem i Bjørnstjerne Bjørnson-Akademiet, leder av Fondsstyret i Norsk Forfattersentrum og medlem av Internasjonalt utvalg i Den norske Forfatterforening -.