Gandolfini hadde italienske foreldre. Han startet sin skuespillerkarriere i New York. Han scenedebuterte på Broadway i stykket (1992) sammen med Jessica Lange og Alec Baldwin.