I begynnelsen av 60-tallet jobbet John Madden som defensive assistant coach ved San Diego State University under hovedtrener Don Coryell. I 1967 ble Madden ansatt av Al Davis som Raiders sin linebackers coach. 4. februar 1969, etter at John Rauch sa opp, ble Madden lagets sjette hovedtrener. Under Madden vant Raiders divisjonstittelen i 1969 for tredje år på rad etter å ha avsluttet sesongen 12-1-1. 20. desember 1969 vant Raiders mot Oilers 56-7 i divisjonskampen i sluttspillet. I AFL Championship Game den 4. januar 1970 tapte de mot Hank Strams Kansas City Chiefs 17-7.