I 1981 grunnla Kremer Kammermusikfest Lockenhaus som arrangeres hver sommer, fra 1992 under navnet . I 1997 stiftet han strykeorkesteret som består av unge musikere fra de baltiske statene. Samme år ble han utnevnt til Yehudi Menuhins etterfølger som kunstnerisk leder ved festivalen i Gstaad. Fra 2002 har han vært kunstnerisk leder ved festivalen i Basel og er dessuten kunstnerisk rådgiver ved Kronberg-akademiet. Fra 2004 arrangerer han med en festival i den latviske byen Sigulda som går av stabelen rundt månedsskiftet juni/juli.