Mineta ble født i San Jose i California. Under andre verdenskrig ble han i likhet med en rekke andre japansk-amerikanere pågrepet og holdt i en interneringsleir. Etter krigen graduerte Mineta fra University of California, Berkeley. Han vervet seg til den amerikanske hæren i 1953 og tjenestegjorde som etterretningsoffiser i Japan og Sør-Korea. Deretter begynte han å arbeide hos sin far i hans forsikringsselskap.