Летние Олимпийские игры 1996 года в Атланте сложились для немецкого прыгуна очень успешно. В прыжках с трёхметровго трамплина Хемпелю вновь удалось пробиться в финал, но побороться за высокие места Яну не удалось. Набрав сумму 622,32 очка Хемпель занял 7-е место, но настоящий успех к немецкому прыгуну пришёл в соревнованиях по прыжкам с вышки. После квалификационного раунда и полуфинала Хемпель был близок, но не входил в число трёх лучших, но отлично выполненные финальные прыжки позволили Яну стать серебряным призёром Олимпийских игр. По сумме баллов Хемпель уступил только россиянину Дмитрию Саутину. На чемпионате Европы 1997 года в Севилье Хемпелю не было равных в прыжках с вышки. Немецкий прыгун выиграл золото и в личных прыжках, и в синхронных прыжках в паре с Михаэлем Кюхне. Чемпионат мира 1998 года в австралийском Перте стал самым удачным в карьере Хемпеля. В прыжках с 10-метровой вышки немецкий прыгун занял третье место, вновь уступив Саутину, а также китайскому прыгуну Тянь Ляну. В синхронных прыжках с вышки Хемпель в паре с Кюхне стал серебряным призёром. В 1999 году Хемпель в паре с Хайко Мейером в 4-й раз стал чемпионом Европы.