Føderasjonen ble opprettet 4. april 1962 og hadde da 15 medlemsstater, alle tidligere en del av Føderasjonen av sørarabiske emirater. Føderasjonen fikk ytterligere to medlemmer: Staten Aden ble med 18. januar 1963 og i juni 1964 sluttet sultanatet Øvre Aulaqi seg til. Hovedstaden var al-Ittihad, vest for byen Aden. De fire statene som ikke sluttet seg til Den sørarabiske føderasjon, sultanatene Øvre Yafa, Kathiri, Qishn og Sokotra samt Shihr og Mukalla, ble fra januar 1963 samlet i Sør-Arabia-protektoratet.