约翰·梅尔出生于康涅狄格州布里奇波特，母亲玛格莉特是英文老师，父亲理查是高中校长，梅尔在家里的三个儿子中排行第二。他在费尔菲尔德附近长大，小时候还认识了现在的名网球选手詹姆斯·布雷克。梅尔从小就喜欢听流行歌，因为看了电影回到未来中马蒂·麦夫莱（迈克尔·J·福克斯饰）的吉他表演，从此对吉他深深着迷。十三岁时，他父亲为梅尔租了一把吉他，邻居也给了他一些史蒂维·雷·沃恩的卡带，自此梅尔便爱上了蓝调。尽管父母对他学习吉他有所保留，梅尔仍然着迷于弹奏吉他，经过两年的练习后，还是高中生的梅尔便开始在蓝调酒吧等地演奏。