Zwei Jahre später (1996) erzielte er mit dem Erreichen des Halbfinals im Herren-Einzel bei dem ITTF-Pro-Tour-Turnier in Belgrad seinen ersten internationalen Erfolg. Im selben Jahr gelang ihm beim Asian Cup der erste Turniersieg im Einzel. Bei seiner ersten Weltmeisterschaftsteilnahme im Jahr 1997 spielte sich Ma Lin im Einzel bis ins Achtelfinale. Bei der Weltmeisterschaft 1999 steigerte er sich und erreichte das Einzelfinale, verlor aber gegen seinen Landsmann und späteren Herren-Nationaltrainer Liu Guoliang knapp 3:2 in Sätzen. Im Mixed-Doppel gewann er jedoch zusammen mit Zhang Yingying die Goldmedaille.