Gore er sønn av Albert Arnold Gore sr. (1907–1998) og Pauline LaFon Gore (1912–2004). Faren var senator for delstaten Tennessee, og Al fikk sin barndom dels i Washington D.C. og dels i Carthage (Tennessee). I skoletiden bodde han i et hotelmessig apartmenthus i Washington, og var elev først ved Sheridan-skolen og deretter ved eliteskolen St. Albans. I sommerferiene var han i Carthage, der han hjalp til på familiens gård.