En 1933, Järvinen améliore à trois autres reprises le record du monde du lancer du javelot : le à Mikkeli, le à Vaasa, et le à Helsinki. À l'occasion des premiers Championnats d'Europe disputés à Turin en , le Finlandais remporte la médaille d'or du concours du javelot devant Matti Sippala, en établissant un nouveau record du monde à . En 1936, Matti Järvinen réalise son dixième et ultime record planétaire à , le à Helsinki. Favori des Jeux olympiques de 1936, il ne peut défendre son titre olympique pour cause de blessure. Toujours à son meilleur niveau en 1937 (), le finlandais se voit de plus en plus concurrencé par son compatriote Yrjö Nikkanen, médaillé d'argent aux Jeux de Berlin et auteur d'une nouvelle meilleure marque mondiale le avec . Järvinen prend néanmoins le dessus sur son cadet en remportant, quelques mois plus tard, la médaille d'or des Championnats d'Europe de Paris grâce à un lancer mesuré à .