Han ble Norges første generalkonsul til Murmansk i 1992, før han ble ministerråd ved Norges ambassade i London i 2001. Fra 2005 til 2008 var han Norges ambassadør til Polen. Fra november 2008 var Hauge Norges ambassadør til Russland, en stilling han satt i frem til 2013 da Leidulv Namtvedt tok over. Etter dette jobbet han som seniorrådgiver i Utenriksdepartementet. I statsråd den 29. august 2014 ble han utnevnt til Norges ambassadør ved NATOs hovedkvarter i Brussel.