Nurmi részvételét az 1924. évi nyári olimpiai játékokon egy térdsérülés veszélyeztette, amit az év tavaszán szenvedett el, felgyógyult, és folytatta a napi kétszeri edzéseket. Június 19-én Nurmi kipróbálta az olimpiai időbeosztást a helsinki Eläintarha Stadionban azzal, hogy az és távot egy óra leforgása alatt teljesítette, és mindkét számban világcsúcsot döntött. A párizsi olimpiai játékokon az 1500 méteres futás döntőjében az első 800 méteren közel 3 másodperccel gyorsabban futott. Egyedüli kihívója, az amerikai Ray Watson az utolsó kör előtt feladta, így Nurmi lassíthatott, és így is nyert Willy Schärer, H. B. Stallard és Douglas Lowe előtt, három másodpercet javítva az olimpiai csúcson. Az futás döntője kevesebb mint két óra múlva kezdődött, és Nurmit kemény kihívás elé állította honfitársa, Ville Ritola, aki már megnyerte a akadályfutást és a síkfutást. Ritola és Edvin Wide úgy gondolták, hogy Nurmi fáradt, és megpróbálták kifullasztani azzal, hogy világcsúcs-ütemben futottak. Észrevéve, hogy nem az idő, hanem két vetélytársa ellen kell küzdenie, Nurmi a fűre dobta stopperóráját. A finnek utóbb lehagyták a svédet, és egymással folytatták a küzdelmet. A célegyenesben Ritola kívülről sprintelt, de Nurmi gyorsított az ütemen, és egy méterrel megelőzte riválisát.