I 1982 ble Järvi sjefdirigent for Göteborgs Symfoniker, en post han beholdt til 2004 og som resulterte i en rekke plateinnspillinger for plateselskapet BIS. (Bjørn Simensen var forøvrig direktør for orkesteret fram til 1984, da han tiltrådte stillingen som direktør ved Den norske opera.) Andre posisjoner inkluderer sjefdirigentstillingene ved Royal Scottish National Orchestra fra 1984 til 1988 og Detroit Symphony Orchestra fra 1990 til 2005 samt stillingen som musikkdirektør for New Jersey Symphony Orchestra fra 2005 til 2009. Fra 2005 har Järvi vært sjefdirigent for Het Residentie Orkest i Haag.