Jamshedji Tata nasce da Nusserwanji e Jeevanbai Tata il 3 marzo 1839 a Navsari, una cittadina nel Sud del Gujarat. Nusserwanji Tata era il primo uomo d'affari di una famiglia di sacerdoti Parsi Zoroastriani. Si trasferisce a Bombay e si dedica al commercio. Jamshedji lo seguì a Bombay, dove si iscrisse al Elphinstone College, a 14 anni. Ancora studente, sposa Hirabai Daboo. Completa i suoi studi presso il college nel 1859 e si unisce all'azienda del padre, in un periodo difficile per l'India, visto che nel 1857 la prima rivolta d'indipendenza indiana era appena stata soffocata dal governo britannico.