Han ble ansatt i NRK i 1958. Bye var involvert i flere av de tidlige fjernsynsprogrammene i NRK, hvor han var kjent for sin hjertevarme og sitt gode humør. I 1958 platedebuterte han på Brødrene Johnsens platemerke Rondo med «Vandringsvise», som var den første av flere innspillinger av Einar Skjæraasens viser. Da Brødrene Johnsen nedla sin grammofonplate-produksjon i 1959, fikk han kontrakt med Philips. I samarbeid med Willy Andresen skrev han en lang rekke melodier. Han har selv skrevet tekst og melodi til «Anna Lovinda».