Cuando su familia se mudó con su padre en 1956, el joven Jansons ingresó al Conservatorio de Leningrado, donde estudió piano y dirección coral, a pesar de que su padre le pidió que continuara tocando el violín.