可解釋人工智慧 可解釋人工智慧英語Explainable AI縮寫為XAI指的是讓專家能夠理解人工智慧之成果的方法與技術它相對於黑箱式的機器學習因為黑箱式的機器學習的設計者本身也無法解釋為什麼人工智慧能達到某些成果可解釋人工智慧被認為是要求解釋的權利英语right to explanationright to explanation的一種實踐 要求人工智慧解釋它的決定是一種翻譯的問題interpretability problem人工智慧的優化行為是一種為了滿足數理上特定目標的行為其目標由設計者規劃比如一個設計者要求在資料集裡面精準分析電影如何被正面評價此時人工智慧可能會找到一些通則像是評價中包含爛這個字眼表示是負面評價或是可能找到一些不正確的規則比如評價中包含李小龍這個字眼表示是正面評價這些規則可能難以解釋甚至很可能在其他資料集得到錯誤的判斷比如你很可能無法在教父的電影評價裡看到李小龍的字眼但這不表示它是部爛片針對這類問題人類就能透過可解釋人工智慧的技術來監督人工智慧系統所找到的規則並且判斷這些規則在真實的世界裡是否適用