Gibbs sin nøyaktige alder har aldri blitt avslørt, men det ble avslørt at han ble født i den landlige byen Stillwater, Pennsylvania. Hans far, Jackson Gibbs (spilt av Ralph Waite), eier en butikk (Stillwater General Store) i denne byen. Det har vært nevnt i en episode at Gibbs' far muligens var med i United States Army Air Force fordi Gibbs viser til en pin-up på sin fars P-51 Mustang.