Provinsen var området for oldtidsbyen Kartago foruten andre store byer i området som Hadrumetum (dagens Sousse i Tunisia), og hovedstaden i den romerske provinsen Byzacena, Hippo Regius (dagens Annaba i Algerie). Provinsen Africa ble etablert i år 146 f.Kr. etter Den tredje punerkrigen gjennom overtagelse av det tidligere kartagiske området som ikke var blitt konfiskert etter tidligere kartagiske nederlag for romerne. Roma etablerte sin første afrikanske koloni, "Africa Proconsularis" eller "Africa Vetus" (Gamle Africa), i de mest fruktbare delene av det som tidligere var kartagisk territorium. Provinsen ble styrt av en prokonsul, og Utica ble etablert som den administrative hovedstaden, rundt 33 kilometer nordøst for dagens Tunis. De øvrige områdene ble overlatt til den numiske vasallkongen Masinissa som hadde støttet romerne i punerkrigens siste fase.