Seu talento foi percebido desde a infância, quando Jimmy participava de feiras e mostras culturais cantando. Aos 14 anos, mudou-se para Kingston para dedicar-se à carreira, período em que adotou o nome artístico de Jimmy Cliff. Na capital, conheceu Leslie Kong, que cuidou de sua carreira até a sua própria morte em 1971, de ataque cardíaco. Nesse período, gravou dois "singles" que não fizeram sucesso. Seu primeiro sucesso ocorreu com o "single" "Hurricane Hattie". Seus sucessos locais seguintes incluíram "King of Kings", "Dearest Beverley", "Miss Jamaica", e "Pride and Passion". Em 1964, Cliff foi escolhido como um dos representantes da Jamaica na Feira Mundial de Nova Iorque de 1964-65. No mesmo ano, participou de um programa intitulado "Isto é "ska"!" ao lado de Prince Buster, Toots &amp; the Maytals e Byron Lee and the Dragonaires.