Taubitz var alltid veldig interessert i mange forskjellige stiler av musikk, og jazz var hans største lidenskap. Han lærte seg etter hvert å spille trompet og spiller jazz. I 1999 grunnla han The Berlin Philharmonic Jazz Group. Med denne gruppen spilte – og han gjør det fortsatt – som solist på trompet og fiolin i Europa og Østen. Han er også medlem av Absolute Ensemble New York City (leder Kristjan Järvi) og førstefiolin av Aura Quartett Basel, som turnerte Indonesia i 2011.