בגולה הוקמו סניפים בדמשק שבסוריה, בווינה שבאוסטריה, בבלגרד שביוגוסלביה, במנצ'סטר שבאנגליה ובבואנוס איירס שבארגנטינה.
רעיון הקמת ההתאחדות זכה לתמיכה רחבה, בין היתר של הרב יעקב מאיר, חיים ויצמן, מנחם אוסישקין, ההנהלה הציונית בארץ ישראל, הוועד הלאומי ו-ועד העיר ליהודי ירושלים.
ועידה עולמית ראשונה.
באוגוסט 1925 קיימה התאחדות הספרדים כנס ייסוד בווינה, במקביל לקונגרס הציוני ה-14 שהתקיים בעיר באותה עת. בכנס השתתפו 62 צירים מ-15 מדינות, בהן ארץ ישראל, בולגריה, יוון, יוגוסלביה ואוסטריה. משה דה פיג'וטו נבחר לנשיא הארגון, וכנשיא הכבוד של הוועידה הוכתר הרב בן-ציון מאיר חי עוזיאל. במהלך הדיונים בכנס נדונו הדרכים להגברת ההשתתפות של היהודים הספרדים בפעילות הציונית. נציגי בולגריה הציעו שלא להקים ארגון נפרד, אלא לדרוש מההסתדרות הציונית להקים משרד שיפעל לעורר את הפעילות הציונית בקרב הספרדים. שאר נציגים בכנס התנגדו לדרך זו והציעו להקים התאחדות עולמית של היהודים הספרדים שתהיה תנועה עממית רחבהותשנה את המצב מלמטה. הוסכם בחוקות ההתאחדויות שיוקמו יחייבו את היות ההתאחדויות חלק בלתי נפרד מהתנועה הציונית ללא יכולת לפרוש ממנה. הרב נסים עובדיה, מיוזמי ההתאחדות, הכריז מעל בימת הנואמים על הקמת הארגון בפועל. בתקנות ההתאחדות נקבע שמטרתה היא:
היוזמה לכנס הייתה של ראשי הקהילות הספרדיות בירושלים, תל אביב, יפו וצפת. חברי המשלחת מארץ ישראל היו: הרב הראשי הראשון לציון בן ציון חי עוזיאל, אליהו אלישר, אברהם אלמליח, מאיר ג'ינאו, עו"ד מאיר לניאדו, זכריה גלוסקא (כציר הסתדרות התימנית), מזכיר הוועד המכין היה מורנו לוי אשר שימש גם כמזכיר הקונגרס בווינה. ברקע הייתה ביקורת על קשיי קליטתם ושילובם של יהודים ממוצא ספרדי במהלך העלייה הרביעית. במהלך הכינוס הוכרז על הקמת ארגון גג לקהילות הספרדיות, מטה הארגון נקבע בירושלים ומשה דה פיג'וטו נבחר לנשיאו. נציגי הפדרציה פעלו מול המוסדות הלאומיים במטרה להקל על תהליך קליטת ושילובם בחברה של עולים מקהילות ספרדיות. על הקמת הפדרציה נמתחה ביקורת מחוגים שונים. אלברט רומנו נשיא ההסתדרות הציונית בבולגריה ואחד מנציגי יהדות בולגריה לכינוסי הפדרציה ציין כי פעילותה יוצרת אי אמון בין ספרדים לאשכנזים.
חברי הקונגרס היו אורחי הקהילה היהודית הספרדית בווינה, והרוח החיה בה היה הרב נסים עובדיה וצעירי אגודת "איספירנסה".
בין הפעילים הבולטים ניתן לציין את ד"ר דוד אלקלעי, אשר אמר: " ליהודים הספרדים לא ניתנה האפשרות, עד כה, לבטא בפומבי את מרצם, להביא לידי גילוי את כישרונותיהם ושאיפותיהם ועי"כ להביע ברבים את משאת נפשה של היהדות הספרדית בכללה".
הרב בן ציון חי עוזיאל הוסיף: "את היהודים האלה צריך לעורר מתרדמתם ועי"כ, לרכוש אותם לעבודת תחייתנו. זאת אפשר יהיה לעשות רק על ידי יצירת התאחדות ספרדית עולמית חזקה ובעלת תוכנית מסוימת".
בשנות ה-20 וה-30.
לשם מילוי תפקידו כנשיא ההתאחדות, עזב דה פיג'וטו את עסקיו ועלה לארץ ישראל, כדי למסד בה את הארגון. בתקופה שלאחר ההכרזה, הוקמו סניפים להתאחדות במדינות הבלקן, אירופה, אפריקה, סוריה וארצות הברית, בעוד שבארץ ישראל ההתארגנות הייתה דלה ולא משמעותית.
בשנת 1926 נרשמה ההתאחדות במשרד מושל מחוז ירושלים, ועם הקמתה בפועל, הוקמו סניפים בתל אביב, ביפו, בחיפה, בצפת, בביירות שבלבנון, בדמשק ובחלב שבסוריה, בקהיר ובאלכסנדריה שבמצרים, בבלגרד ובניש שבסרביה, בסרייבו שבבוסניה, בסקופיה ובביטולה שבמקדוניה, בפלבודיב שבבולגריה, בווינה שבאוסטריה, בפריז שבצרפת, במנצ׳סטר שבאנגליה, בניו יורק וברוצ׳סטר שבארצות הברית, בארגנטינה, באורוגוואי, בברזיל, בפרו, בצ׳ילה ובקובה. עד לשנת 1945, נוספו להתאחדות סניפים באלג'יריה, באיטליה, בהולנד, בוונצואלה, בתוניסיה, ביוגוסלביה, במרוקו ובקולומביה.
הרב נסים עובדיה עשה סיור בבלקן במטרה לגייס את הקהילות בה להתאחדות החדשה אך רבים טענו שאין צורך להקים מסגרות נפרדות לספרדים וניתן לפעול יחד.
בשנים הראשונות, חברי הוועד הפועל בארץ ישראל היו אברהם אלמליח, שבת אשר, משה דוד גאון, מאיר לניאדו, יצחק לוי, יוסף מיוחס ומשה קרסו. בוועד הפועל של חוץ לארץ, שמרכזו היה בסלוניקי, חבריו היו שלמה אלקלעי, ויטה חיון, דוד פולרנטין, דוד קואינקה, יצחק קנסינו ואברהם רקאנטי.
הכספים לפעילות הארגון נתרמו על ידי אישים וקהילות מסביב לעולם. את חלק ניכר מההוצאות מימן משה דה פיג׳וטו מכיסו. בתו מרים נחום אף קיימה מספר נשפי התרמה לטובת הארגון.
אנשי ההתאחדות ראו כחלק ממטרתם להגן על זכויות הספרדים בתוך ההסתדרות הציונית ובקרו צעדים שנראו להם כאפליה של ספרדים. בוועידת היהודים הספרדים מארצות הבלקן, שהתקיימה בבלגרד בחודש מאי 1930, נאם משה דה פיג'וטו כנציג ארץ ישראל, ואמר כי מאחר שמאמצי ההתאחדות שבנשיאותו לא צלחו לטפל באפליית יוצאי יהדות ספרד והמזרח בארץ ישראל בכל הקשור לתעסוקה, משרות, עלייה, התיישבות וחלוקת כספי הקרנות, יש לתרום לקרנות הלאומיות אך ורק בתנאי שכספי התרומה ילכו לטובת יוצאי ספרד והמזרח בארץ ישראל. מסקנה זו קיבלה תמיכה מנציגי קהילת יהודי סופיה מבולגריה, והצהירו כי אם מוסדות התנועה הציונית לא ייענו לדרישות יוצאי ספרד והמזרח, לא יתרמו האחרונים כספים לקרנות הלאומיות.
בסוף שנת 1931 נוסד בפריז שבצרפת וועד מרכזי שכלל 12 חברים, שמטרתו הייתה לפעול לכינוס ועידה ספרדית עולמית, ובראשו הועמד משה דה פיג'וטו, שלבינתיים עבר להתגורר בפריז, ולסגניו מונו הרב נסים עובדיה וסלבדור אברבנאל.
בחודש מאי 1935 התקיימה ועידה בין-ארצית בלונדון, שבה הוחלף שם ההתאחדות ל"האיחוד העולמי של הקהילות הספרדיות" (Universelle Des Communautés Sépharadites L'union). בוועידה זו השתתף רק נציג אחד מארץ ישראל, ומעתה והלאה הלכה ההתאחדות והתמקדה יותר ביהודי הגולה מאשר ביהודי ארץ ישראל. בוועידה גם נבחרו תוכניות פעולה חדשות שלא נכללו בהן ארץ ישראל, ומטרתן שיפור מצבם הרוחני והגשמי של יהודי ספרד והמזרח, תוך הדחקת הנושאים הפוליטיים והשארת הטיפול בהם לגופים רשמיים אחרים. בוועידה גם הוחלט על הקמת שני וועדים, שמרכזיהם בפריז בנשיאות הרב נסים עובדיה, ובלונדון, בנשיאות ונובס דה קוסטא.
למרות ירידת המעורבות של נציגי ארץ ישראל, בוועידה הבין-ארצית שהתקיימה באמסטרדם בשנת 1938, השתתפו מטעם הוועד הפועל הרב יוסף מרדכי הלוי (כחבר נשיאות האיחוד) ויצחק רפאל מולכו, שנבחרו גם למוסדות המרכזיים של ההתאחדות. בוועידה זו הוחלט על הקמת בית מדרש לרבנים בירושלים, ודנו באפשרות לפתיחת מדור לענייני ספרדים בסוכנות היהודית.
השואה ולאחריה.
במהלך השואה נפסקה הפעילות של האיחד. בשנת 1945 התארגנו בארצות הברית לפעילות של האיחוד בצופן ודרום אמריקה ובדצמבר 1946 התקיים כינוס של הספרדים בארץ ישראל. תוכנן אז לקיים קונגרס ספרדי באוגוסט 1947 בניו יורק. אולם הכינוס לא יצא אל הפועל ובתחילת 1949 דובר על כינוס הקונגרס הספרדי בירושלים. הכינוס בירושלים נתקל בהתנגדות מצד נציגי התפוצות ועל כן ביולי 1950 התכנס בפריס הוועד המכין של הקונגרס הספרדי והחליט לקיימו בדצמבר 1950 בלונדון. אולם גם לכינוס זה קמו מתנגדים והקונגרס נדחה לנובמבר 1951.
הפדרציה.
בנובמבר 1951 נערכה בפריז קונגרס ספרדי עולמי בו הוחלט על הקמת הפדרציה הספרדית העולמית. הנהלת הפדרציה התיישבה בפריס, אולם בהמשך עברה ללונדון. קונגרס עולמי שני התכנס במאי 1954 בירושלים.
ב-1973 נבחר נסים גאון לנשיא הפדרציה והוא פעל להעמקת הקשר בין הקהילות הספרדיות גם בדרום ובצפון אמריקה. מ-1973 שכן מטה הפדרציה בז'נבה וב-1994 הועבר לירושלים, למשרדי ועד העדה הספרדית ועדות המזרח תחת ניהולו של יחזקאל זכאי, אשר שימש כמנכ"ל הסניף הישראלי של הפדרציה העולמית. הנשיא בישראל היה השר בדימוס, אהרון אוזן.
בראשית שנות ה-80 תיווך ניסים גאון כנשיא הפדרציה בין מנהיגי תנועת האוהלים לנציגי ממשלת ישראל.
הנשיא גאון התחיל במרץ רב לקדם את נושאי הספרדים והמזרחים, לעזר לו בז'נבה שימש מזכירו שמעון דרעי. הגזבר העולמי היה גיסו ליאון תמן שהתגורר בלונדון, ולידו סייע ד"ר דוד סילורה כמזכיר וועדת הכספים העולמית וכמנכ"ל הפדרציה הספרדית בבריטניה וחבר העמים הבריטי.
הפדרציה עסקה ועוסקת במגוון פעילויות החל מתמיכה במשפחות נזקקות וכלה במתן מלגות לימודים בשיתוף מוסדות אקדמיים למטרות חקר מורשת יהדות ספרד. מבין חברי נשיאות הפדרציה לאורך השנים ניתן לציין את חברי הכנסת לשעבר משה עמאר, יעקב ז'אק אמיר, יעקב ניצני ובנימין ששון.
הפדרציה העולמית וגם הסניף הישראלי ידעו עליות ומורדות. אין ספק כי היה לה תפקיד נכבד בשיח הבינעדתי בישראל.
ד"ר דוד סילורה שימש כחבר הנהלה וכמנכ"ל הפדרציה.
ליאון תמן, גזבר הפדרציה, בשל חילוקי דעות עם גיסו, נשיא הפדרציה פרש ממנה בשנת 1987 והקים את "תעל"י" -תנועה עולמית לאחדות ישראל. עוזרו הנאמן, ד"ר דוד סילורה היה המנכ"ל הראשון של התנועה ומשרדי התנועה שכנו במלון דניאל -הרצליה, שהיה בבעלותו של ליאון תמן. סיסמת התנועה הייתה : "לא עוד ספרדים, לא עוד אשכנזים - כולנו עם אחד". עם מותו במפתיע של ליאון תמן וסגירת ברז המימון הכספי - שבקה התנועה מלהתקיים.
כתב עת.