Bills ble stiftet i 1960 som et av oppstartslagene i American Football League, under ledelsen av Buster Ramsey. De ble med i NFL etter sammenslåingen av AFL og NFL i 1970. Bills vant to titler på rad i American Football League, i 1964 og 1965, men klubben har ikke vunnet noen ligatitler siden da.