Erste internationale Erfahrungen sammelte Gyula Zsivótzky im Jahr 1958 bei den Europameisterschaften in Stockholm, bei denen er mit einer Weite von 63,68 m die Bronzemedaille hinter dem Polen Tadeusz Rut und Michail Krywanossau aus der Sowjetunion gewann. Jedoch bestritt er bereits im Vorjahr einen Wettkampf bei den World University Games in Paris, bei denen er mit 55,81 m die Bronzemedaille hinter Anatoli Samozwetow aus der Sowjetunion und dem Jugoslawen Zvonko Bezjak. 1959 siegte er dann bei der ersten offiziellen Sommer-Universiade in Turin mit 63,65 m die Goldmedaille. Im Jahr darauf nahm er erstmals an den Olympischen Spielen in Rom teil und gewann dort mit einem Wurf auf 65,79 m im Finale die Silbermedaille hinter Wassili Rudenkow aus der Sowjetunion. 1961 verteidigte er bei den Studentenweltspielen in Sofia mit 64,62 m seinen Titel erfolgreich und bei den Leichtathletik-Europameisterschaften 1962 in Belgrad siegte er mit einem Wurf auf 69,64 m. 1963 gewann er dann bei der Sommer-Universiade in Porto Alegre mit 65,72 m die Silbermedaille und musste sich damit Gennadi Kondraschow aus der Sowjetunion geschlagen geben. Im Jahr darauf nahm er abermals an den Olympischen Spielen in Tokio teil und gewann dort mit einer Weite von 69,09 m im Finale erneut die Silbermedaille, diesmal hinter Ramuald Klim aus der Sowjetunion.