有一个哥哥林俊峰，为瑞银集团亚太地区的副总裁。林俊杰在完成兵役前，曾就读于静山小学、英华自主中学和圣安德烈初级学院。后放弃就读新加坡国立大学的机会，与海蝶音乐签下合约。并结识好友叶承轶。
演艺生涯.完成兵役后，放弃就读新加坡国立大学的机会，与海蝶音乐签下合约。2003年4月，林俊杰发表首张个人专辑《乐行者》并正式出道。2004年凭借歌曲《江南》而成名，并于同年5月8日获得第15届金曲奖之「最佳演唱新人奖」。2004年受邀与陈洁仪合作演唱新加坡国庆庆典主题曲《家》。