I sin ungdom var han med i AUF, men meldte seg senere inn i Høyre. Han var medlem av Verran kommunestyre og formannskap 1980–1987, medlem av Nord-Trøndelag fylkesting 1992–2003, medlem av fylkesutvalget 1995–2003 og leder i Høyres fylkestingsgruppe 1995–2003. Han var formann i Nord-Trøndelag Høyres fylkesstyre 1985–2000. Gundersen søkte ikke renominasjon til fylkestinget foran valget i 2003, etter et sykdomstilfelle.