Hunt nació en el entonces puesto fronterizo de Detroit, Míchigan. Era hijo de Samuel Wellington Hunt, un oficial de carrera de infantería, y recibió el nombre de su tío, Henry Jackson Hunt, que fue el segundo alcalde de Detroit. En 1827, siendo aún niño, acompañó a su padre en una expedición al futuro Territorio de Kansas que fundó Fort Leavenworth. Se graduó en la Academia Militar de los Estados Unidos en 1839, y fue asignado como teniente segundo provisional ("brevet") al 2º Regimento de Artillería. Sirvió durante la Intervención estadounidense en México bajo el mando de Winfield Scott, obteniendo la designación provisional ("brevet") de capitán en premio a su valentía en las batallas de Contreras y Churubusco, y la de mayor en Chapultepec. Sus promociones al rango permanente de capitán y de mayor se produjeron en 1852 y 1861 respectivamente.