Frusciante kommer fra en musikalsk familie, og han ble oppdaget av Michael «Flea» Balzary, bassisten i Red Hot Chili Peppers, etter at Hillel Slovak døde av heroinoverdose. Han ble offisielt medlem av Red Hot Chili Peppers i 1988, samme år som trommeslager Chad Smith overtok etter Jack Irons. På dette tidspunktet var Frusciante bare 18 år. I 1989 spilte han på Red Hot Chili Peppers første gullplate, . I 1991 var han igjen med på suksessutgivelsen , med sanger som blant annet «Under the Bridge».