På banen forbedret laget Davis hadde satt sammen og trent seg stadig. Med John Rauch (Davis hadde selv valgt ham som sin etterfølger) som hovedtrener vant Raiders AFL Championship i 1967 med en 40–7 seier over Houston Oilers. Seieren sikret dem også en tur til Super Bowl II, hvor de tapte 33–14 mot Vince Lombardis Green Bay Packers. De neste to årene vant Raiders divisjonstittelen i Western Division, men tapte AFL Championship mot to lag som gikk videre til å vinne Super Bowl—New York Jets (1968) og Kansas City Chiefs (1969).