Cohen begynte å skrive 15 år gammel og han var blant annet inspirert av Federico García Lorca og Yeats. I 1950 publiserte han «Kill or be Killed» i skoleårboken. I mars 1954 fikk han tre dikt på trykk i .