Первый крупный успех к Хемпелю пришёл уже в 16 лет, когда он стал серебряным призёром чемпионата Европы в прыжках с вышки. В 1988 году 17-летний Ян Хемпель дебютировал на летних Олимпийских играх в составе сборной ГДР. Немецкий прыгун выступил в соревнованиях с 10-метровой вышки. По итогам квалификации Хемпель занял 5-е место и смог пробиться в финал, где, набрав 583,77 балла, также стал 5-м. В 1989 году Хемпель вновь стал призёром европейского первенства, став третьим в прыжках с трамплина и вторым в прыжках с вышки.