Heifetz likte kammermusik. Diverse kritikere har syntes at sammenlignet med det ypperlige nivå når det gjelder hans solistiske spill, var hans fremgang i kammerensembler noe begrenset, ettersom hans artistiske personlighet tenderte å overstråle medspillernes. Blant nevneverdige samarbeid er både hans innspillinger med trioer av Beethoven, Franz Schubert og Johannes Brahms, med cellisten Emmanuel Feuermann og pianisten Arthur Rubinstein, og det senere samarbeidet med Rubinstein og cellisten Gregor Piatigorsky, med hvem han spilte inn trioer av Maurice Ravel, Pjotr Tsjajkovskij og Felix Mendelssohn. Hans innspillinger med William Primrose av blant andre Wolfgang Amadeus Mozart, Sinfonia Concertante og Händel/Halvorsen Passacaglia er også verdt å nevne.