I 1940 begynte han å studere ved Universitetet i Oslo for å bli filolog. Han var kommet godt i gang med studiene, blant annet i tysk språk, da Gestapo etter hvert begynte å arresteree flere og flere studenter i 1943. Bye reiste derfor hjem til gården i Horg og hjalp sin far med gårdsdriften. Også ved sitt opphold i hjembygda deltok han aktivt i sang- og musikklivet under krigen blant annet som dirigent for sangkoret Lundarljom.