Gazzara ble diagnostisert med strupekreft i 1999. Den 3. februar 2012 døde han av kreft i bukspyttkjertelen på Bellevue Hospital Center i New York City.