AIガバナンスの課題：信頼を築く方法

急速に進化する分析とAIの世界では、強固な信頼のシステムを確立することが非常に重要です。[Dataiku AIガバナンスWebシリーズ](https://www.youtube.com/watch?v=6eriwJu1Jpk&list=PLWjlCkA2BrRTpfogO7kS3Ll0m6sczcy5t)の第3回セッションでは、DataikuのAIガバナンス担当シニアプロダクトマネージャーである[Patrick Peinoit](https://www.linkedin.com/in/patrickpeinoit/)が、AIガバナンスの複雑さと、信頼できるAIフレームワークを構築する際の課題にどのように対応するかについて詳しく説明しました。本ブログでは、このセッションからの主なポイントと洞察を探ります。


## アナリティクスとAIガバナンスの課題の理解
### AI統合の複雑さ
AIを民主化し、より多くのユーザーのアクセス可能にすることで、自動的に信頼が構築され、成長が促進されるというのはよくある誤解です。実際には、プロセスはもっと複雑です。AIモデルが展開されると、最初の利点を上回る非効率や複雑さが増大することがあります。チームは、モデルのパフォーマンスを監視し、透明性を確保し、進化する規制に準拠するという課題に直面することが多くなります。

### シャドーAIのリスク
制御されていない、あるいは適切にガバナンスされていないAIシステムは、しばしば「[シャドーAI](https://blog.dataiku.com/fighting-against-the-rise-of-shadow-ai)」と呼ばれ、重大なリスクを伴います。これには、データ規制への非準拠の可能性、アルゴリズムにおけるバイアスの発生、そして透明性の欠如が含まれます。AIガバナンスにおける非効率性に関連する隠れたコストは、[技術的負債](https://blog.dataiku.com/paying-down-your-analytics-ai-technical-debt)を生み、AIプロジェクトが提供すべきだった価値を損なう可能性があります。

## Dataiku Governによる信頼システムの構築
### ガバナンスフレームワークの役割
これらの課題に対処するために、DataikuはAIガバナンスに対して体系的なアプローチを提供するツール「[Dataiku Govern](https://knowledge.dataiku.com/latest/mlops-o16n/govern/index.html)」を開発しました。GovernはDataikuプラットフォームに組み込まれており、AIプロジェクトを管理、監視するための包括的なフレームワークを、3つの主要なステップまたは柱を通じて提供することを目指しています。

### ガバナンスの3つの柱
1. **定義:** 最初の柱は、すべてのAIプロジェクトを一貫したフレームワーク内で定義し、集中管理することです。
2. **運用化:** 2つ目の柱は、ガバナンスフレームワークを運用システムと連携させることに焦点を当てています。
3. **監視:** 最後の柱は、プロジェクトのモニタリングと監査です。

## Dataiku Governの実際の実装
### チームでプロジェクトを定義して効率を向上させる
Dataiku Governは、ユーザーがAIプロジェクトを包括的に記録し、範囲、ビジネスへの影響、関連リスクなどの詳細を記述することを可能にします。ユーザーはカスタムまたは事前構築されたフレームワークを選択し、プロジェクト作成を標準化することができます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/37ca4d91-15bf-3408-15df-8eeca0f14de5.png)

この体系的なアプローチにより、プロジェクトを比較、優先順位付けし、組織の目標やコンプライアンス要件に沿った形で進めることができます。このツールは、ビジュアルマトリックスを提供し、プロジェクトを比較、優先順位付けし、それらをより広範なビジネスイニシアチブに関連付けます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/25ba7132-7104-e649-f0f5-31860d98bb2e.png)


### 信頼を確保しながらデリバリーを運用化する
プロジェクトが定義されると、Governはそれらの進捗をさまざまな段階で追跡し、運用化を支援します。GovernはAIプロジェクトの追跡を自動化し、新しいプロジェクトが自動的にガバナンス層に統合されるようにします。これには、モデルがデプロイされる前に、さまざまなステークホルダーによって承認されるレビュープロセスも含まれます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/de97e5b7-d00e-cda3-85fa-c9ffd88b754e.png)

通知やアラートを使用して問題を指摘し、すべての必要な基準を満たした場合にのみモデルがデプロイされるようにします。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/00883960-a5d6-c71e-c7c4-c6142cb560cf.png)




### AIと分析の価値を一緒に監視・管理する
Dataiku Governを使用すると、ユーザーはモデルおよびバンドルレジストリを使って、AIプロジェクトの進捗を一元的に追跡することができます。

Governは、すべてのAIプロジェクトとそのステータスを一元的に表示する[ビジュアル](https://www.dataiku.com/ja/%e8%a3%bd%e5%93%81/%e3%81%ae%e4%b8%bb%e8%a6%81%e6%a9%9f%e8%83%bd/%e5%8f%af%e8%a6%96%e5%8c%96/)やダッシュボードを提供します。これには、モデルのパフォーマンスの追跡、潜在的なドリフトの検出、そしてコンプライアンスや規制に関する質問に答えるための監査記録の維持が含まれます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/f566c777-a752-5952-166a-836f5ab9b9cc.png)

このシステムは、プロジェクトが継続的に監視され、問題が迅速に対処されることを保証します。監査機能は透明性と説明責任を提供し、組織が時間の経過に伴う変更や決定を追跡できるようにします。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/088e411f-9eaa-0ca3-9687-d644e42ad6b7.png)


## 主なポイントと今後の方向性
Webセミナーでは、強靭で適応力のあるガバナンスシステムの構築の重要性が強調されました。組織は現在の規制に準拠するだけでなく、将来の要件を予測する必要があります。この積極的なアプローチは、進化するAI規制の状況を乗り越え、AIシステムの信頼性を維持するために不可欠です。

Dataiku Governのようなツールを活用することで、組織はAIプロジェクトを管理、監視するための強固なフレームワークを確立し、透明性、コンプライアンス、信頼を確保できます。AIが進化し続ける中で、積極的で構造化されたアプローチを採用することは、その利益を最大化し、リスクを軽減するために重要です。


## 限界のないAIガバナンス
Dataiku AI Governance Webセミナーシリーズの次のセッション（英語）では、Dataikuがどのように生成AIを含む包括的なAI Governanceの実現を支援し、組織全体への安全でスケーラブルな導入を可能にするのかご紹介します。
[*→お申し込みはこちら（英語）*](https://events.dataiku.com/ai-governance-without-limits)

<br>
<br>




*原文：[The AI Governance Challenge: How to Foster Trust](https://blog.dataiku.com/the-ai-governance-challenge)*