Laget fikk sin start i American Football League (AFL) i 1960. Klubben ble innlemmet i NFL etter sammenslåingen av AFL og NFL i forkant av 1970-sesongen. Bills var i 1964 og '65 det eneste laget fra Buffalo som vant et mesterskap på høyeste nivå. Laget er det eneste som har vunnet fire conference-titler på rad, samt det eneste NFL-laget som har tapt fire Super Bowl-kamper på rad. Ralph Wilson var lagets eier fra det ble stiftet til han døde i 2014, 95 år gammel. Etter hans død ble laget solgt til Terry og Kim Pegula, og salget ble godkjent av de andre eierne av NFL-lag 8. oktober 2014. Bills hadde den lengste aktive sluttspilltørken i profesjonell sport i Nord-Amerika: de kvalifiserte seg ikke til sluttspillet i National Football League mellom 1999 og 2017, og var det siste NFL-laget (samt siste laget i noen av de store sportsligaene i Nord-Amerika) som kvalifiserte seg til sluttspill i det 21. århundre. De begynte igjen å konkurrere om plass i sluttspillet mot slutten av 2010-tallet, men er fremdeles et av 12 lag i NFL som aldri har vunnet et Super Bowl.