La chanson fut écrite à la veille de la guerre des Six Jours et de la conquête par Tsahal de Jérusalem-Est, qui était occupé par la Jordanie depuis la Guerre de 1948. Ce fut ainsi le chant qui motiva les soldats israéliens au cours du conflit. Après la guerre, Naomi Shemer ajoute un couplet à son poème, pour célébrer l'unification de Jérusalem sous contrôle israélien.