Byen ble grunnlagt av den arabiske generalen Uqba ibn Nafi, som et ledd i det voksende arabiske rikets forsvar mot berberne. Selv om generalen falt i kamp mot berberne femten år senere fortsatte byen å vokse, og ble snart kjent som «Nord-Afrikas Mekka». På 900-tallet ble den hovedstad i Aghlabid-riket.