Järvi har sammen med sin kone Liilia Järvi sønnene Paavo Järvi og Kristjan Järvi, som begge er ledende orkesterdirigenter, og datteren Maarika Järvi som er fløytist.