בשנת 1962, עם סיום מלחמת העצמאות של אלג'יריה נאלץ אל מדיוני, כמו שאר התושבים הצרפתים והיהודים לעזוב את אלג'יריה. הוא עלה לישראל והתיישב באשדוד, אך לא נקלט ועבר לגור בפריז. לימים תיאר זאת כתקופה הקשה בחייו, כאשר נאלץ לחיות מהיד לפה בפריז. לאחר מכן התגורר בעיר מרסיי שבצרפת, והפך למוכר ברחבי העולם כפסנתרן מוזיקת עולם ייחודי המשלב מוזיקה אנדלוסית, קובנית, אלג'יראית, ג'אז ועוד.