Діб народився в Тлемсені, що у західному Алжирі, поблизу кордону з Марокко, в збіднілій сім'ї середнього класу. Після втрати батька, Діб в 15 років почав писати вірші. У 18 років почав працювати вчителем у сусідньому місті Уджда, Марокко. У 1920-1930-ті роки працював ткачем, вчителем, бухгалтером, перекладачем (для французьких і британських військових), а також журналістом в "«Alger Républicain»" і комуністичній газеті "«Liberté»". Протягом цього періоду також вивчав літературу в Алжирському університеті. У 1952 році, за два роки до Алжирської революції, він одружився з француженкою, вступив в Алжирську комуністичну партію і відвідав Францію. У тому ж самому році він опублікував свій перший роман «La Grande Maison» («Великий Будинок»).