Goldblum spiller piano og som tenåring fikk han små spillejobber i Pittsburgh. Etter oppfordring fra Peter Weller og Woody Allen begynte han på 1990-tallet å spille standard jazzmelodier på klubber i Los Angeles. Senere har han hatt faste, ukentlige konserter i Los Angeles. I 2018 ga han ut sitt første album (på Decca). Vokalistene Haley Reinhart, Imelda May og Sarah Silverman medvirket. Albumet gikk til topps på Billboards jazzliste.