Flagget ble tatt i bruk i 1949 etter en konkurranse holdt av Jerusalems bystyre, som ble opprettet av Israel (i den vestlige delen av byen). Det ble hele Jerusalems flagg etter seksdagerskrigen i 1967.