持续着良好的表现，连续两次击败年长的队友，前世界头号选手夏煊泽，赢得了瑞士公开赛与丹麦公开赛桂冠。他又在德国公开赛和中国公开赛中击败队友鲍春来而夺冠。2004年3月，林丹从世界排名第60位蹿升到第1位，并将第一的头衔保持了两年多。2004年5月，林丹在汤姆斯杯中担当主力，一举击败垄断该项赛事长达5届的印度尼西亚队，帮助中国队时隔14年再度捧起汤杯。2004年8月，在2004年雅典奥运会羽毛球男单比赛中，林丹遭受了他职业生涯最大的一次「滑铁卢」。以世界排名第一身份参赛的他，在首轮比赛中爆冷败于新加坡球手林