I 1962 begynte Horowitz å gjøre opptak for Columbia Records, og det er disse innspillingene som har blitt de mest kjente. Den mest berømte av disse er gjenkomstskonserten i Carnegie Hall i 1965 og hans egen spesielle fjernsynssending fra 1968 – – med blant annet Skrjabins diss-moll-etyde (op. 8, nr. 12) og Horowitz' egne variasjoner over tema fra Bizets Carmen, den mest kjente av hans pianotranskripsjoner ved siden av . Fra 1965 til 1982 gjorde Horowitz alle sine innspillinger live.