På 400-tallet ble Kartago og andre sentre i Nord-Afrika erobret av vandalene, ledet av Geiserik, som beseiret den romerske general Bonifacius og gjorde byen til hovedstad i vandalenes kongerike. Geiserik var betraktet som en kjetter, ettersom han var tilhenger av ariansk kristendom, som var avskyelig for katolske (rettroende) kristne. Etter et mislykket forsøk på å gjenerobre Kartago greide Østromerriket endelig å overvinne vandalene i vandalkrigen 533–534. Kort tid etter ble Kartago gjort til sete for det pretorianske prefekturet Afrika (), som ble gjort til et eksarkat, en militær forvaltningsenhet, under keiser Maurikios’ styre, slik som eksarkatet Ravenna var det på den italienske halvøy. De to eksarkatene var det vestlige brystvernet for Østromerriket, alt som var igjen av dens militære makt i Vesten. Tidlig på 600-tallet veltet Herakleios den eldre, eksark av Kartago, den østromerske keiser Fokas, hvorpå hans sønn Herakleios overtok keisertronen i Konstantinopel.