Sangens komponist, Kobi Oshrat, hadde fått bandet Hakol Over Habibi til å synge låten og sendte den inn til den israelske konkurransen i 1978. Arrangøren, den israelske kringkasteren IBA, avslo imidlertid låten. Oshrat sendte låten inn igjen til den israelske nasjonale finalen i 1979, og IBA plukket den ut til å delta i finalen 27. januar 1979. Denne gang måtte imidlertid Hakol Over Habibi takke nei, blant annet fordi bandet vokalist hadde blitt skadet under en opptreden like før. I stedet ble gruppen Milk and Honey og sangeren Gali Atari valgt til å fremføre den. Milk and Honey ble skapt spesielt for konkurransen, og de vant den israelske finalen i konkurranse med elleve andre låter. «Hallelujah» ble dermed Israels bidrag til Eurovision Song Contest på hjemmebane i Jerusalem 31. mars 1979.