Middelalderens Silwan begynte som en landsby i et landbruksområde, og lokale tradisjoner vil at den ble til på 600-tallet e.Kr. I skriftlige kilder nevnes den som landsby første gang i en tekst fra 985. Fra 1800-tallet og fremover ble landsbyen litt om litt sammenvokst med og så inkorporert med Jerusalem.