I 1950 møtte han en dame i Stortinget – Borghild Wiencke – som var translatør og nettopp kommet hjem fra studieopphold i Amerika. Etter at de hadde giftet seg, dro de i 1952 på studietur til Amerika og kjørte bil USA rundt. Sommeren 1953 kom de hjem og Bye fortsatte som stortingsmedarbeider og var aktiv med i den politiske debatt gjennom artikler i Senterpressen. Sammen med stortingsdelegasjoner fikk han mange interssante turer til blant annet Russland, Tyskland og de nordiske landene.