Sus inicios como futbolista los tuvo en el Reipas Lahti, el club de su ciudad natal, a la edad de 16 años, llegando a marcar 28 goles en este club en 86 encuentros de liga, como curiosidad cabe destacar que también jugó al hockey sobre hielo, antes de marcharse al HJK Helsinki, el club más importante de Finlandia en 1991, tras eso, se marchó al MyPa, equipo con el que ganó la Copa de Finlandia, su buen labor en la final llamó la atención de los ojeadores de un club de tamaño prestigio como el AFC Ajax de Ámsterdam, el ojeador que recomendó el fichaje de Litmanen dijo a la televisión finesa "«Para mí, era el jugador»".