Первые полисы на территории будущей провинции Африка, такие как Утика, Карфаген, Тапс, Гадрумет были основаны финикийскими переселенцами в XI—IX в. до н. э. К VI в. до н. э. доминирующую роль в этом регионе стал играть Карфаген, подчинивший своему влиянию средиземноморское побережье Африки от Ливии до Геркулесовых столбов, почти всю Испанию, а также контролировавший импорт олова из Британии. В начале V в. до н. э. интересы римлян и карфагенян пересеклись в споре за обладание Сицилией. В череде войн карфагеняне были сначала вытеснены с острова, а затем в 146 до н. э. в результате Третьей Пунической Войны Карфаген был окончательно повержен, а его стены срыты. На плодородных землях, окружавших руины Карфагена, была организована римская провинция Африка, управляемая проконсулом из Утики. Остальная часть африканских владений Карфагена отошла к союзнику Рима нумидийскому царю Масиниссе. В 118 до н. э. на границе с провинцией, в Нумидии, разгорелась гражданская война. Вмешательство Рима привело к затяжной Югуртинской войне, закончившейся в 105 до н. э. пленением зачинщика войны, нумидийского царя Югурты.