I 1972 kom Nilsen inn i Sund kommunestyre som representant for Arbeiderpartiet. Han var ordfører i Sund kommune i 12 år i perioden 1979 til 1991. I tillegg har han vært formann i Hordaland Arbeiderparti og medlem av Hordaland fylkesting. I 1991 fattet han som ordfører et politisk vedtak om at alle kommunens innbyggere skulle være i godt humør, og nyheten om dette gikk verden rundt.