Zsivoczky oli nuoruudessaan erikoistunut korkeushyppyyn, jossa hän saavutti 1994 Lissabonin nuorten MM-kisoissa neljännen tilan hypättyään 220. Seuraavana vuonna hän voitti Unkarin nuorten mestaruuden kymmenottelussa ja 1996 hän voitti lajissa Sydneyssä nuorten maailmanmestaruuden tuloksella 7582. Seuraavana vuonna hän oli alle 23-vuotiaiden EM-kisoissa kymmenottelun neljäs ja 1998 Budapestin EM-kisoissa kuudestoista. 1999 hän voitti alle 23-vuotiaiden EM-kultaa, sijoittui Euroopan cupissa viidenneksi ja Sevillan MM-kisoissa kymmenenneksi tuloksella 8019. Zsivoczky oli neljäs 2000 sisäratojen EM-kisojen seitsenottelussa ja kahdeksas Sydneyn olympialaisissa tuloksella 8277.