Horowitz døde i New York etter et plutselig hjerteinfarkt. Han ble gravlagt i Toscanini-familiens gravkammer på Cimitero Monumentale i Milano i Italia.