Etter to negative sesonger (7-9 i 1996 og 4-12 i 1997) under White og hans etterkommer Joe Bugel valgte Davis en ny hovedtrener fra utenfor organisasjonen for andre gang, da han plukket opp Philadelphia Eagles sin offensive coordinator Jon Gruden. Gruden hadde tidligere jobbet for 49ers og Green Bay Packers under hovedtrener Mike Holmgren. Raiders fullførte sesongene i 1998 og 1999 8-8 under sin nye hovedtrener.