Juhani Kärkinen vann i stora backen under Världsmästerskapen 1958 på hemmaplan i Lahtis. I Olympiska vinterspelen 1960 i Squaw Valley tog han en åttonde plats. Under Tysk-österrikiska backhopparveckan 1960/1961 vann han öppningstävlingen i Oberstdorf och blev femma sammanlagt. Tävlingen i stora backen i VM 1958 och öppningstävlingen i backhopparveckan 1960/1961 vär de två internationella tävlingar Juhani Kärkinen vann under sin karriär (om man bortser från invigningen av "Empire Stadium’s Ski Jump", K40-backen i Vancouver februari 1958, där Kärkinen vann sammanlagt efter att ha vunnit två av fyra deltävlingar).