Han gikk på Berklee College of Music i en kort periode, sammen med sin barndomsvenn, bassisten John Myung. Her møtte de trommeslager Mike Portnoy og sammen dannet de bandet Majesty i 1985. Bandet ble senere omdøpt til Dream Theater, da «Majesty» allerede var tatt av et annet band. John Petrucci har produsert samtlige Dream Theater-album siden Metropolis Pt. 2: Scenes from a Memory (1999) sammen med trommeslager Mike Portnoy.