בייה החל לשחק בנבחרת תוניסיה בשנת 1994, והשתתף עמה במספר טורנירים בינלאומיים. בשנת 1996 הגיע עם נבחרת תוניסיה עד לגמר גביע אפריקה לאומות 1996, שם הפסידה נבחרת תוניסיה 2-0 לנבחרת דרום אפריקה. בטורניר זה הבקיע שני שערים. באותה שנה, השתתף בייה עם נבחרת תוניסיה באולימפיאדת אטלנטה (1996), שם הודחה תוניסיה בשלב הבתים.