La sécurisation de l'Irak et du Hedjaz permet à Abd Al-Malik d'agir en Ifriqiya. Le gouverneur Hassan ibn Numan prend Carthage aux Byzantins en 695. La ville est perdue à nouveau, mais Hassan la reprend définitivement en 698. La seule place-forte byzantine en Afrique reste alors Ceuta. Hassan combat également les Zénètes rassemblés autour de la reine berbère Dihya. Mis en difficulté, il est repoussé jusqu'à Barqa, mais réussit à reprendre le dessus, notamment grâce aux renforts envoyés par le calife, suite aux victoires d'Al-Hajjaj en Irak. Dihya est vaincue près de l'actuelle Tabarka et sa tête est envoyée à Abd Al-Malik en 702. Hassan développe ensuite Tunis, près de Carthage, puis est remplacé par Moussa Ibn Noçaïr vers 705. Ce dernier achève l'invasion de l'Afrique du Nord, mais échoue à prendre Ceuta.