Som hersker organiserte han sitt nordafrikanske rike, hvis militære styrke lå i berberfolket kutamaene som var om vendt til ismailismen, med hjelp av det delvis overtatte aghlabidiske embedsapparat, og bygde til egen sikring opp slavestyrker som stod direkte under hans kommando. Dette viste seg nødvendig idet Abu Abdallah al-Shi'i strebet etter makten i fatimideriket slik at al-Mahdi bare skulle ha en religiøs ledelsesrolle. Etter en sammensvergelse av misjonærer og kutama-høvdinger, hvorved Abu Abdallah spilte en tvilsom rolle, ble denne myrdet den 18. februar 911 på al-Mahdis ordre. For å sikre sitt herredømme flyttet al-Mahdi dessuten sin residens fra Raqqada til den nygrunnlagte al-Mahdiya sør for Sousse (921).