Mange religiøse regner Jerusalem som et «hellig sted», og pilegrimer fra forskjellige trosretninger reiser jevnlig til byen. Byen anses som viktig både for jøder, kristne og muslimer. Ifølge Bibelen ble Jerusalem gjort til hovedstad for ca år siden av kong David. Jødene regner Vestmuren/Klagemuren, den siste rest av Herodes den stores tempel, som sitt viktigste hellige sted. For kristne er Jerusalem byen hvor Jesus ble korsfestet og sto opp fra de døde. For dem har kristendommen sitt opphav i Jerusalem. Gjennom nesten to tusen år har kristne dratt på pilegrimsferd til Jerusalem. På Tempelhøyden (Haram al-Sharif) finnes Klippedomen hvor ifølge muslims tradisjon Muhammed fór opp til himmelen og Al-Aqsa-moskeen som regnes som islams tredje viktigste moské etter moskeene i Mekka og Medina.