Han begynte sin politiske aktivitet som leder av Fredrikstad arbeiderungdomslag 1931–1932 og sekretær i Fredrikstad jern og metall 1932–1934. Han var formann i Fredrikstad Arbeiderparti 1935–1946. Gundersen var medlem i bystyret i Fredrikstad 1932–24 og 1937–75, avbrutt av krigen. Han var ordfører 1945–65, fylkesvaraordfører 1964–67 og fylkesordfører 1968–71.