KI-Systeme, insbesondere tiefe neuronale Netze, sind für ihre Komplexität und mangelnde Transparenz bekannt. Es ist oft schwierig zu verstehen, wie genau sie zu bestimmten Entscheidungen oder Vorhersagen kommen. Das macht es herausfordernd, ihre Funktionsweise zu erklären, was zu der Bezeichnung 'Black Box' führt.