Teksten er hovedsakelig fra salme 137 samt fra salme 19 i Den hebraiske bibelen og omhandler jødene i Det babylonske fangenskap. Elvene som omtales i Babylon er Eufrat og Tigris. Salmen er en av de mest oversatte og parafraserte av salmene i bibelen. I King James bibel innledes salmen på engelsk «By the rivers of Babylon, there we sat down, yea, we wept, when we remembered Zion.» Dette var en av meste kjente strofene etter reformasjonen og i engelsk renessanse. Francis Bacon laget en oversettelse. William Shakespeare alluderte til salmen i (første akt). Teksten reflekterer konkret jødenes sorg over å være i fordrevet og savnet av hjemlandet som de mintes (fortalt i fortid). Mer generelt reflekterer salmen blant annet det å være i eksil eller å en være religiøs minoritet.