Janne Ojanen commence sa carrière pour le club de sa ville natale à Tampere. À moins de 18 ans, il joue déjà 3 matchs en SM-liiga puis, dès 1986, il est choisi par les Devils du New Jersey lors du repêchage de la LNH. En 1987, à l'issue de sa première saison complète dans la SM-liiga, il est élu meilleur joueur recrue de l'année et reçoit le trophée Jarmo Wasama et remporte avec son équipe le titre de champion de Finlande. Après une nouvelle saison avec le Tappara Tampere qui remporte un nouveau titre, il quitte la Finlande pour rejoindre l'Amérique du Nord.