Durant la seva carrera internacional, entre 1929 i 1939, Hongria va perdre només un dels 105 partits que disputà Nemeth. Posteriorment va entrenar a l'equip nacional entre 1942 i 1943 i durant els Jocs de Londres de 1948. Després de la Revolució hongaresa de 1956 va emigrar a Espanya, on va tornar a exercir d'entrenador. El 1969 fou incorporat a l'International Swimming Hall of Fame.