Cohen ble kjent for et stort publikum særlig gjennom andre artisters fremføring av sangene og som filmmusikk. I tillegg til egne innspillinger har andre artister laget over tusen innspillinger av hans sanger. Blant de mest kjente er «Hallelujah», «Suzanne», «First We Take Manhattan» og «Bird on the Wire». «Hallelujah» er trolig en av de sangene som er oftest innspilt av andre artister, på linje med Beatles «Yesterday». Cohen påvirket yngre musikere som Tom Waits, Nick Cave, Jeff Buckley, PJ Harvey, Suzanne Vega, Katie Melua og Peter Gabriel.. Cohens begrensede sangstemme sammenlignes med Caves og Waits', i tillegg til Bob Dylans, stemmer.