Filppula startet sin karriere med Jokerit organisasjonen, og sikret sin plass i SM-liiga laget i 2003-04 sesongen som en veldig god forward. Han vant SM-liiga sølv med Jokerit i 2005, og ble gitt forventninger til å bli klubbens første-center neste sesong. Men Filppula dro heller over atlanterhavet for å spille for Grand Rapids Griffins i American Hockey League. Han ble valgt til å spille for PlanetUSA i AHL All-Star Game 2005-06.