Wychowanek klubu R-U. W drafcie NHL z 2002 został wybrany przez kanadyjski klub Toronto Maple Leafs. Od 2002 do 2005 miał trzy udane sezony w drużynie JYP w rodzimych rozgrywkach SM-liiga, w których wykazywał się dużą skutecznością punktową w rundach zasadniczych. W międzyczasie Toronto Maple Leafs przekazał prawa do zawodnika na rzecz drużyny New York Rangers w ramach rozliczenia za transfer weterana, Briana Leetcha. Zawodnikiem zespołu z Nowego Jorku był w latach 2005-2007, przy czym w jego barwach w rozgrywkach NHL wystąpił jedynie w 20 spotkaniach (uzyskał 8 punktów za 3 gole i 5 asyst), a równolegle rozegrał dwa pełne sezony w klubie farmerskim, Hartford Wolf Pack w lidze AHL. Następnie powrócił do ojczyzny i rozegrał kolejne dwa sezony z JYP, w 2009 zdobywając z drużyną mistrzostwo Finlandii. W kwietniu 2009 został zawodnikiem rosyjskiej drużyny Ak Bars Kazań, występującej w rozgrywkach KHL. Rozegrał w niej cztery sezony w rozgrywkach KHL, zdobywając mistrzostwo ligi - Puchar Gagarina w 2010. W maju 2011 przedłużył kontrakt z klubem. Od maja 2013 zawodnik Torpedo Niżny Nowogród, związany dwuletnim kontraktem. Po sezonie &lt;a href="KHL%20%282014/2015%29"&gt;KHL (2014/2015)&lt;/a&gt; pod koniec marca 2015 podpisał dwuletni kontrakt ze szwajcarskim klubem EV Zug w rozgrywkach National League A (od 2008 trenerem w klubie został inny Fin, Waltteri Immonen, który nie jest spokrewniony z Jarkko). Odszedł z EV Zug w kwietniu 2017. Od maja 2017 ponownie zawodnik JYP. W kwietniu 2021 przeszedł do Jukurit.