可解釋人工智慧

可解釋人工智慧 ( 縮寫爲XAI ） 指的是讓專家能夠理解人工智慧之成果的方法與技術 。 它相對於黑箱式的機器學習 ， 因爲黑箱式的機器學習的設計者本身也無法解釋爲什麼人工智慧能達到某些成果 。 可解釋人工智慧被認爲是 「 」 （ right to explanation ） 的一種實踐 。 要求人工智慧解釋它的決定是一種翻譯的問題 （ interpretability problem ） 。 人工智慧的優化行爲是一種爲了滿足數理上特定目標的行爲 。 其目標由設計者規劃 ， 比如一個設計者要求 「 在資料集裏面精準分析電影如何被正面評價 」 。 此時 ， 人工智慧可能會找到一些通則 ， 像是 「 評價中包含 『 爛 』 這個字眼表示是負面評價 」 。 或是可能找到一些不正確的規則 ， 比如 「 評價中包含 『 李小龍 』 這個字眼表示是正面評價 」 ； 這些規則可能難以解釋 ， 甚至很可能在其他資料集得到錯誤的判斷 ， 比如你很可能無法在 《 教父 》 的電影評價裏看到 「 李小龍 」 的字眼 ， 但這不表示它是部爛片 。 針對這類問題 ， 人類就能透過可解釋人工智慧的技術來監督人工智慧系統所找到的規則 ， 並且判斷這些規則在真實的世界裏是否適用 。