Im Jahr 2004 gewann Ma Long sowohl die Asien- als auch die Weltmeisterschaften der Jugend und trat ab dem folgenden Jahr zunehmend international in Erscheinung. Im Oktober 2005 verbesserte er sich in der Weltrangliste um mehr als 70 Plätze auf Rang 51, zwei Monate später belegte er bereits Platz 21. Bei der Weltmeisterschaft 2006 war er Teil der Nationalmannschaft und wurde dadurch im Alter von 17 Jahren Weltmeister. Seitdem holte er auch (Stand 2018) alle weiteren WM-Titel mit dem Team. Im März 2007, nach seinem ersten Pro Tour-Sieg im Einzel bei den Kuwait Open, rückte er auf Platz 8 der Weltrangliste und damit erstmals in die Top 10 vor. 2008 wurde er nicht für die Olympischen Spiele nominiert, gewann aber neben der Team-WM auch den Asiencup und die Pro Tour Grand Finals. Zudem nahm er erstmals am World Cup teil, wo er nach einer Halbfinalniederlage gegen Timo Boll Bronze gewann, genau wie beim World Cup im Jahr darauf, diesmal nach einer Halbfinalniederlage gegen Vladimir Samsonov. 2009 gewann er mit Bronze auch seine erste Einzelmedaille bei Weltmeisterschaften, zusätzlich zu Silber im Doppel. Außerdem gewann er erneut Gold beim Asiencup und den Pro Tour Grand Finals, bei den Asienmeisterschaften holte er als erster Spieler sogar alle vier Titel (im Einzel, Doppel, Mixed und mit dem Team).