Hovi begynte sin karriere i Gjøvik Sportsklubb. Han gikk til Ham-Kam i 1992, og fikk totalt 72 kamper for Hamarklubben. I 1995 ville den engelske klubben Charlton kjøpe Hovi etter et låneopphold, men Ham-Kam avslo budet på 750 000 kroner. Hovi fikk to kamper for Charlton. I 1996 gikk Hovi til Skeid i en overgang verdt 250 000 kroner. I Skeid spilte Hovi både midtbane og forsvar, og fikk totalt 49 kamper og 5 mål. Da Skeid rykket ned etter 1997-sesongen signerte Hovi for Vålerenga.