Før han blei ordfører, var Bye rådgiver i Fellesforbundet. Han har også vært journalist, blant annet i og redaktør i Norsk Grafisk Forbund.