Han var innvalgt på Lagtinget fra Eysturoy fra 1940 til 1945, møtte fast som varamann for regjeringssjef Andrass Samuelsen fra 1948 til 1950, og var på nytt innvalgt på eget mandat fra 1950 til sin død i 1963. Olsen var Lagtingets sekretær og formann i Lagtingets fiskerikomité.