Det er flere referanser til Karmel i Bibelen. Den er nevnt som en by i Judea i Første Samuelsbok 15:12 Det nevnt som et sted hvor kong Saul reiste et monument etter ekspedisjonen mot amelekittene. I Josvas bok 15:55 er Karmel en av de byene som listes opp i Judea. I Josvas bok 25 er Karmel nevnt som hjemmet til Nabal og hans hustru Abigajil som siden ble gift med kong David av Israel.