Antes de partir, como si de bienes propios se tratasen en vez de ser de la comunidad islámica, Musa repartió el gobierno de los diferentes territorios que administraba entre sus hijos: Abd al-Aziz, su cuarto hijo, como gobernador de Al-Ándalus; Abd al-Málik (también llamado Marwán) ibn Musa, que era el segundo, de Ceuta y Tánger y Abd Al·lah ibn Musa, que era el mayor, de Ifriqiya.