Olsen var vararepresentant til Tromsø bystyre på slutten av 1980-tallet, og i 1995 ble han valgt inn i bystyret som fast representant. Deretter ble han gjenvalgt ved alle lokalvalg, senest i 2015. Ved stortingsvalget 2013 og stortingsvalget 2017 var han Rødts førstekandidat i Troms, og ved kommunevalget 2015 var han partiets ordførerkandidat i Tromsø. Fra oktober 2015 og fram til avviklingen av byrådsmodellen i Tromsø i 2016 var han finansbyråd. I 2018 nominerte Rødts valgkomité ham som nummer fire på Rødts liste til stortingsvalget i 2019. Ved fylkestingsvalget høsten 2019 ble han valgt inn i fylkestinget.