Zeď nářků je pozůstatkem vnějších hradeb jeruzalémského chrámu, které nechal rozšířit Herodes Veliký. Po zničení Jeruzaléma římským vojskem v první židovské válce (roku 70 n. l.) zůstala většina zdi pohřbena pod úrovní terénu, kromě Zdi nářků a Malé zdi. Mnohé části hradby jsou dnes také často součástí domů muslimské čtvrti, které jsou ke zdi přistavěny.