随该队赢得欧洲足协盃。球员时代赫尔佐格曾代表了国家队数十场赛事。由于国家队实力所限，成绩不多，比较突出的是1998年世界盃打入过决赛週，不过首圈出局。而其人更打至2003年，才正式从国家队中退下火线。在德甲打滚了八年后，赫尔佐格于2001年回到奥地利维也纳迅速。至职业生涯晚期加盟美国职业足球大联盟洛杉矶银河队，并于2004年退役。
教练.退役后他是奥地利国家队教练组成员，随队参加了2008年欧锦赛。