Mehta ble født inn i en parsisk familie i Bombay (nå Mumbai), India. Han er sønn av fiolinisten Mehli og Tehmina Mehta. Mehli Mehta var, ved siden av å være fiolinist, også Bombay Symfoniorkesters grunnlegger og første dirigent. Etter at han hadde bestått eksamen ved St. Mary's High School i Mazagoan, Mumbai var planen at han skulle studere medisin. Istedenfor dette begynte han å studere kontrabass med Wienerfilharmoniens solobassist Otto Rühm og direksjon med Hans Swarowsky i Wien, Østerrike da han var 18. Samtidig med Zubin Metha studerte også dirigenten Claudio Abbado og dirigenten / pianisten Daniel Barenboim i Wien. Metha debuterte som dirigent i Wien i 1958, og vant senere samme år «International Conducting Competition» i Liverpool. Samme år fikk han stillingen som assistentdirigent ved Royal Liverpool Philharmonic Orchestra.