Det er over hundre eksempler på at det er satt musikk til denne salmen. Palestrina satte musikk til teksten i latinsk form «Super flumina Babylonis» og Philip Hayes komponerte en melodi i 1786. Slavekoret, Va' pensiero, i Giuseppe Verdis opera bygger på teksten. William Billings (1746-1800), Johann Sebastian Bach og Antonín Dvořák satte musikk til teksten. Don McLean spilte inn en versjon med Philip Hayes' melodi og inkludert på albumet (1971).