Cohen skrev opprinnelig musikken i 12/8 takt som minner om gospel, tidlig rock and roll eller langsom blues og i C-dur. Sangen er inspirert av gospel og bønn i synagogen.