John Petrucci ble født 12. juli 1967 i Kings Park, New York, til en italiensk-amerikansk familie. Han begynte å spille gitar da han var åtte år, da han observerte at storesøsteren hans fikk lov til å være sent oppe for å øve på piano. Han sluttet når han skjønte at han fortsatt måtte legge seg til sin fastsatte tid. Han begynte å spille igjen når han fylte tolv. Inspirert av band som Led Zeppelin, Black Sabbath og AC/DC bestemte han seg for å øve minst seks timer om dagen. Senere oppdaget han progressiv rock og heavy metal, og hentet inspirasjon fra Rush, Yes, Iron Maiden, Dixie Dregs og Metallica.