It's a black box. It has predictive power, but you don't understand it.
Мало того, что вы не знаете, как ваша система делает выводы, вы даже не знаете, откуда что берётся. Это чёрный ящик. Он может прогнозировать, но мы не понимаем принцип его работы.