Născut la Bombay în 1936, Zubin Mehta a primit educație muzicală timpurie de la tatăl său, Mehli Mehta, un apreciat violonist și fondator al Orchestrei Simfonice din Bombay. După o scurtă perioadă de studii pregătitoare în medicină, în 1954 a plecat la Viena, unde a urmat cursurile de dirijat ale lui Hans Swarowsky la Academia de Muzică. În 1958 a câștigat Concursul Internațional de Dirijat de la Liverpool și Premiul Academiei de Vară Tanglewood; din 1961 a fost chemat să dirijeze Orchestrele Filarmonicilor din Viena și din Berlin, cât și Filarmonica din Israel, orchestre cu care se mândrește cu o colaborare de peste 50 de ani. 

Director muzical al Orchestrei Simfonice din Montreal (1961-1967) și al Filarmonicii din Los Angeles (1962-1978), a fost numit, în 1977, director muzical al Filarmonicii din Israel, al cărei director muzical a devenit, din 1981, pe viață; în octombrie 2019 a părăsit conducerea după mai bine de 50 de ani și a fost numit director emerit. În 1978 și timp de 13 ani, cea mai lungă perioadă din istoria orchestrei, Zubin Mehta a devenit director muzical al Filarmonicii din New York, iar din 1985 până în 2017 a fost numit dirijor principal al Orchestrei del Maggio Musicale Fiorentino, al cărei director onorific pe viață este până în prezent.

Zubin Mehta încurajează descoperirea și promovarea de noi talente muzicale în întreaga lume: împreună cu fratele său Zarin, este co-președinte al Fundației muzicale Mehli Mehta din Bombay, datorită căreia peste 200 de copii sunt educați în muzica clasică occidentală; în mod similar, Școala de muzică Buchmann-Mehta din Tel Aviv oferă tinerilor muzicieni posibilitatea de a se dezvolta, în strânsă legătură cu Filarmonica din Israel, ca un nou proiect de predare a tinerilor arabo-israelieni din orașele Shwaram și Nazareth cu profesori locali și membri ai Filarmonicii din Israel.