Han ble første gang valgt inn på Lagtinget fra Suðurstreymoy i 2002, og har siden blitt gjenvalgt. Den 21. mars 2004 ble han valgt til ny formann i Sambandsflokkurin etter Lisbeth L. Petersen. I perioden 2002–2004 var Johannesen nestformann i Lagtingets kontrollkomité samt medlem av Lagtingets næringskomité. Han var formann i Lagtingets utenrikskomité og medlem av Lagtingets finanskomité 2004–2008.