Sessions er sønn av Abbie (født Powe) og Jefferson Beauregard Sessions jr., begge av engelsk herkomst. Han vokste opp i Hybart i Monroe County, hvor faren drev handel med matvarer og senere landbruksutstyr. Jeff Sessions har bachelorgrad fra Huntingdon College fra 1969, kandidatutdannelse i rettsvitenskap fra University of Alabama fra 1973 og advokatbevilling fra samme år. Han var privatpraktiserende advokat i Russellville 1973–1975 og i Mobile 1977–1981, fastlønnet kaptein i hærreserven 1973–1977 samt statsadvokat i det sørlige Alabama 1981–1993. I 1986 ble han utpekt av Ronald Reagan til å bli dommer i et distrikt i Alabama, men han ble ikke godkjent av justiskomiteen i USAs senat, som fant at Sessions var «insensitiv» i rasespørsmål.