Olsen var medlem av kommunestyret på Sandur 1970–1980 og innvalgt på Lagtinget fra Sandoy 1970–1978 og 1980–1988. I hele sin tid på Lagtinget var han medlem i Lagtingets fiskerikomité, og engasjerte seg sterkt i både hav- og kystfiskernes sak. Han var også medlem av Lagtingets delegasjon til Vestnordisk råd 1986–1987. Han var også styremedlem i SEV 1974–1982, i Skipafelagið Føroyar 1980–1998 og i Tryggingarsambandið Føroyar 1980–1998.