Gjelseth har utdanning som ingeniør/adjunkt, og fagbrev som mekaniker fra 1983. Gjelseth har vært fisker og maskinassistent på fiskebåter 1967–1970, mekaniker, konstruktør, driftsingeniør ved Smedvik Mek. Verksted 1974–1979, driftsingeniør ved Ulsteingruppen 1979–1983, lærer og hovedlærer ved Herøy videregående skole 1983–1989, konsulent ved Vekst Næringsutvikling AS 1996–1999, samt daglig leder ved Herøy Næringsforum 2004–2005.