Han har vært politisk aktiv i Senterpartiet og Nei til EU siden 1992. I 1995 ble han medlem av Naustdal kommunestyre og Sogn og Fjordane fylkesting. I 1996 gikk han 44 mil til fots fra Oslo til Loen i protest mot at han som student i Oslo ikke fikk dekket reiseutgiftene ved kommunestyremøter. Saken endte med at fylkesmannen gav Gjelsvik medhold i at han burde få reiseutgiftene sine dekket. Gjelsvik satt i fylkesstyret for Senterungdommen i Sogn og Fjordane 1992–1995 og i Senterungdommens sentralstyre 1994–2000. Han var Senterungdommens politiske nestleder 1997–1998 og leder 1998–2000. Han var leder i Nei til EU 1999–2004.