Cohen sammenlignes ofte med Bob Dylan. Cohens stil minner mer om fransk chanson og Jacques Brel enn om amerikansk pop og Dylan. Han fikk tilnavn som «øverstepresten av patos» (engelsk: «the high priest of pathos») og «håpløshetens gudfar» (engelsk: «godfather of gloom»). Samtidig er tekstene hans kjent for å inneholde en blanding av alvor og skjemt, ofte tørrvittig, mørkt og ironisk. Han var kjent som perfeksjonist, og som rockens velkledde gentleman.