Hovig fullførte studiene ved Norges tekniske høgskole i 1946. Fra 1947 til 1950 var han byarkitekt i Narvik under gjenoppbyggingen av byen som var blitt bombet i 1940. I 1950 flyttet han til Oslo hvor han opprettet eget arkitektkontor. Han er mest kjent for Ishavskatedralen i Tromsø som han tegnet første utkast til i 1960 og som ble fullført i 1965. Denne kirka er regnet som Tromsøs mest kjente bygning.