Hans lidenskap til gitarspilling kom etter å ha sett en gitaropptreden av Michael J. Fox i ”Back to the Future”. Han ble fascinert av instrumentet, og til 13-årsdagen lånte hans far en gitar til ham. Like etterpå fikk han av en nabo tildelt en Stevie Ray Vaughan kassett, noe som startet Mayers intense kjærlighet til blues-sjangeren. Unge John Mayer begynte å ta gitartimer hos eieren av den lokale gitarbutikken, og det tok ikke lange tiden før Mayer ble helt oppslukt av instrumentet. Hans enorme fokus på spillingen bekymret faktisk foreldrene så mye at de to ganger tok sønnen med til en psykolog, men Mayer ble konstatert frisk. Mayer har selv sagt at foreldrenes stridfulle ekteskap gjorde at han valgte ”å forsvinne og skape en egen verden jeg kunne tro på”. Etter to års trening begynte han å spille på blues-puber og andre møtesteder i området, mens han fremdeles gikk på high school. I tillegg til å opptre alene var han medlem av et band kalt ”Villanova Junction” sammen med Tim Procaccini, Joe Beleznay og Rich Wolf. Mayer vurderte å droppe college for å drive med musikk, men protestene fra foreldrene gjorde at han fortsatte. Da Mayer var 17 år ble han rammet av hjerterytmeforstyrrelse, og ble lagt inn på sykehus for en helg. Etter reflektering rundt denne ulykken har Mayer sagt: ”Dette var øyeblikket da låtskriveren i meg ble født”, og hans første sanger ble skrevet natten han kom hjem fra sykehuset.