Joachims komposisjoner er lite kjent, men han skrev en rekke verk for fiolin, blant annet tre konserter, ouverturer til Shakespeares og . Han skrev også kadenser for mange andre komponisters konserter, blant annet av Beethoven og Brahms. («Ungarske konsert») regnes for å være hans beste komposisjon. Musikken hans har en overveiende dyster karakter med et personlig særpreg.