John Frusciante bodde sine første år i New York City sammen med sin mor som var en lovende vokalist, men som ble hjemmeværende fordi ektemannen hennes avskar henne fra en musikalsk karriere. Frusciantes far var en advokat og spilte piano. Frusciante har italienske røtter gjennom farens familie. Da foreldrene skilte seg flyttet Frusciante og moren til Santa Monica i California. Han ble i ung alder svært interessert i musikk, og har uttalt at stefaren var den første som introduserte ham for musikk. Da han var elleve år begynte Frusciante å studere gitarister som blant annet Jeff Beck, Jimmy Page og Jimi Hendrix, alle gitarister han var stor fan av, spesielt sistnevnte. Frusciante spilte opptil 15 timer hver dag, og lærte seg fort hele den heksatone skalaen. Senere begynte han å lytte til Frank Zappa, en artist han også kom til å studerte i flere timer hver dag. Frusciante har i ettertid uttalt at han hadde sett for seg et musikalsk liv i et «Frank Zappa-band».