可解释人工智慧（，缩写为XAI）指的是让专家能够理解人工智慧之成果的方法与技术。它相对于黑箱式的机器学习，因为黑箱式的机器学习的设计者本身也无法解释为什么人工智慧能达到某些成果。可解释人工智慧被认为是「」（right to explanation）的一种实践。要求人工智慧解释它的决定是一种翻译的问题（interpretability problem）。人工智慧的优化行为是一种为了满足数理上特定目标的行为。其目标由设计者规划，比如一个设计者要求「在资料集里面精准分析电影如何被正面评价」。此时，人工智慧可能