Saarinen begynte sin karriere som midtbanespiller i HJK Helsinki, hvor han også debuterte i den finske ligaen i 1993. I 1997 ble han solgt til IFK Göteborg, men på grunn av mange skader ble det bare tre kamper i allsvenskan. Etter to år vendte Saarinen tilbake til HJK hvor han ble omskolert til forsvarsspiller. Han fikk stor fremgang som forsvarsspiller, og i 2001 ble han hentet til Rosenborg. I 2003 forlot han Rosenborg til fordel for det tyske bundesligalaget 1860 München. Han lyktes ikke å spille seg til fast plass i klubben, og året etter gikk han til FC København. I 2006 dro han tilbake til Finland for å spille for FC Honka, og i 2008 og 2009-sesongen spilte han for BK Häcken hvor han var med på å rykke opp til allsvenskan.