Etter at regjeringen Borten gikk av i 1971 gikk Bye tilbake til arbeidet som redaktør for Senterpressen. Senterpressen hadde om lag 15 aviser rundt omkring i landet som sympatiserte med Senterpartiet og Bye skrev en rekke artikler og lederartikler i disse avisene. Blant annet i EEC/EF-saken var Bye svært klar i sine meninger og advarte mot det han på sikt anså å være en unionsdannelse. Bye gikk av med pensjon i 1984.