Heifetz también tocaba y componía para el piano; y tocó jazz en los comedores de los cuarteles en campos aliados de toda Europa durante la Segunda Guerra Mundial, y bajo el pseudónimo de Jim Hoyle escribió una canción para el piano de mucho éxito: «When you make love to me, don't make believe».