Hayes var vokalist i den australske pop-duoen Savage Garden, som i tillegg til Hayes besto av Daniel Jones. I 1996 ga de ut sin første singel, «I Want You». Debutalbumet ble utgitt i 1997, og ble svært populært blant annet i USA. Gruppens andre album, , ble utgitt i 1999. Hayes og Jones gikk hver til sitt i 2001.