Järvi estudió percusión y dirección en la Escuela de Música de Tallin y los continuó en San Petersburgo de 1955 a 1960 en el Conservatorio de Leningrado, donde sus principales maestros fueron Nikolaï Rabinovich y Evgeny Mravinsky, entre otros.