Bayoun er født i byen Dakhla i Vest-Sahara (det daværende protektoratet Spansk Sahara) i 1954. Han har studert økonomi ved Universitetet i Havanna på Cuba. Han startet sin politiske karriere som handels- og utviklingsminister i 1985 da Mohamed Lamine Ould Ahmed ble statsminister i den omtvistede republikken som styres av frigjøringsbevegelsen Polisario. 19. september 1993 overtok han som statsminister etter Mahfoud Ali Beiba og satt til 8. september 1995 da Ali Beiba kom tilbake som statsminister. Bayoun ble da utviklings- og handelsminister fram til 10. februar 1999 da han igjen overtok som statsminister. Fram til 2003 var han både stats- og innenriksminister.