琳于1986年开始打球，4年后入辽宁队。1993年，马琳在汕头市举行的一项少年赛上显示出良好的潜力而被汕头市乒乓球学校教练看中，不久后被引进到汕头。1994年在中国青少年锦标赛中勇夺男子单打冠军后成为国家队的成员。惯用右手直板的马琳于1996年赢得了亚洲杯的男子单打项目冠军、亚洲锦标赛的男单季军与混双赛事冠军。1年后，马琳于美国公开赛男单中得亚军、亚洲盃男单赛事夺冠。1998年，马琳在亚锦赛中夺得了男双、男团冠军、马来西亚公开赛男单赛事冠军、中国及黎巴嫩公开赛男单项目得亚军、世界盃男单名列第5，表现出众