Al-Bab ble hertatt av muslimenes hær under Rashidunkalifatet på kalif Umar ibn al-Khattabs tid. Den fikk sitt navn tidlig under islamsk tid; det betyr «porten», og det var fordi den kjente som innfallsporten mellom Aleppo og byen Buza'ah. Her var graven og gravminnet til Aqil ibn Abi Talib (bror av Ali). Frem til ayyubidenes styre på 1200-tallet var byen hovedsakelig befolket av ismailske sjiaer.