Gardenia døde av et hjerteinfarkt i Philadelphia i 1992. Han er gravlagt på Saint Charles Cemetery i Farmingdale på Long Island. En del av 16th Avenue i Bensonhurst i Brooklyn i New York, der han hadde bodd frem til sin død, ble navngitt til minne om ham.