Gyarmati var også med under sommer-OL 1948 i London og sommer-OL 1960 i Roma. I London vant han en sølvmedalje og i Roma en bronsemedalje med det ungarske vannpololaget.