Etter skuffelsen i Bayern, gikk turen til hans tidligere klubb, Kaiserslautern. Han overtok et lag som hadde rykka ned sesong før han overtok. Rehhagel første laget til en trygg opprykksplass og de var tilbake i den øverste divisjonen. Før sesongen ble Kaiserslautern sett på som en mulig overraskelse for en UEFA-cupplass, men laget gikk betydelig lengre enn det. Rehhagel førte klubben likegodt klubben til seriegull, det eneste laget som har vunnet gull i den første sesongen etter opprykk. Rehhagel forlot klubben etter interne konflikter i 2000.