ほとんどの企業はAIの内部的な仕組みを把握していない、もしくは理解していないことから、公平性、セキュリティ、プライバシーに関する懸念が生じる可能性があります。しかし、企業がAI手法を信頼しないと、AIの発展はありえません。そのため企業は、脅威や損害を評価して対応し、さらにAIに完全性が備わるようにするために、チェック・アンド・バランスを働かせる必要があります。
ガートナーが提供しているAIリスク・マネジメントのフレームワークは、以下の3つの柱を持っていることから、「MOST」と呼ばれています。
モデル・オペレーション (Model Operation)：AIの信頼性、予測性、正確性をサポートする
セキュリティ (Security)：ハッカーや悪意ある内部関係者がAIの入力、アプリケーション、結果を操作するのを防ぐ
信頼性 (Trustworthiness)：AIの公平性、倫理、社会的ウェルビーイング、「責任あるAI」を全般的に支える
企業でAIが主流になると、その後必然的に脅威が生じ、結果的に深刻な組織リスクにつながります。組織は能動的に脅威を評価しなければなりません。そうすることにより、AIに対するステークホルダーの信頼を高めることができます。
実際、ガートナーは、2025年までに、規制によって、AIの倫理、透明性、プライバシーの重視が必須となり、これが世界中のAIの信頼、成長、機能向上を (抑圧するのではなく) 促進するようになると予測しています。