DataikuでAIガバナンスフレームワークを強化する

組織が人工知能（AI）イニシアチブのスケールアップを図る中で、監督を維持するという課題にも直面しています。これはビジネス要件への準拠を保証するためだけでなく、増加する産業とAI規制への対応も含まれます。Everyday AI New York Tech Day 2023で、DataikuのKirsten Hoogenakkerは成功するAIガバナンスを達成することについて議論しました。[Everyday AI NYCでのAIガバナンスに関する完全なセッションを視聴するか](https://videos.dataiku.com/watch/sCumzbgQr27aE6hGEuZExa?)、ハイライトをご覧ください。

[**→電子書籍を読む：AIガバナンスのための新興規制フレームワーク**](https://pages.dataiku.com/ai-governance?__hstc=186155446.480cc15169c48fdd8eef287969367a1c.1684107306280.1699864624580.1699881695336.568&__hssc=186155446.2.1699881695336&__hsfp=2834770536&hsCtaTracking=e855f6ce-b33a-4a3f-87a7-a5bc1dccc290%7C59e8be40-ce97-4eed-8da2-094f351ba207)

## 成功するAIガバナンスへの障害
すべての企業は、AIシステムやAIモデルを成功裏にスケールアップさせたいと考えています。しかし、これは機械学習アルゴリズムに基づいたAI技術やアプリケーションについてだけのことではありません。データを民主化させることも、サイロ化をなくし、セルフサービスのフレームワークを提供させることも、優れたガバナンスを必要とします。最終的な目標は、膨大な量のデータから価値を創造または生み出すことです。 

しかし、今日ではデータから価値を創造するだけでなく、コストの削減とリスク管理の観点でも注目が集まっています。これらを達成するのは非常に難しく、現代の組織においてはスケールするのが極めて難しい目標になります。なぜなら： 

1: 組織には標準プロセスが欠如しています。ビジネスの各ラインは、データプロジェクトを本番環境に導入するための独自の作業プロセスを持っているかもしれません。

2: トレーサビリティが低い傾向があります。正直なところ、誰も本当に自分の仕事をドキュメント化することを好まないでしょう。しかし、データパイプラインのドキュメントがなければ、成功するために必要な監査証跡が得られません。

3: IT組織には監督が欠如しています。異なるビジネスラインやチームがデータやAIプロジェクトに取り組んでいるかもしれません。プロジェクトを監視する中央の監視塔がなければ、何が進行中か、何が既に本番環境にあるのかを知ることができません。

Dataikuは、効果的なAIガバナンスを通じてこれらの課題のいくつかに対処する方法を提供できます。ガバナンスプロセスからプロジェクト進捗の監視、利害関係者を巻き込み、潜在的なリスクの特定に至るまで、Dataikuは安全かつ効率的に大規模なAIを提供する鍵です。 

DataikuのAIガバナンス機能に関するデモは、下記のEveryday AIセッションの動画からご覧ください。
<!-- The script tag should live in the head of your page if at all possible -->
<script type="text/javascript" async src="https://play.vidyard.com/embed/v4.js"></script>

<!-- Put this wherever you would like your player to appear -->
<img
  style="width: 100%; margin: auto; display: block;"
  class="vidyard-player-embed"
  src="https://play.vidyard.com/sCumzbgQr27aE6hGEuZExa.jpg"
  data-uuid="sCumzbgQr27aE6hGEuZExa"
  data-v="4"
  data-type="inline"
/>> Everyday AIの動画は[こちら](https://videos.dataiku.com/watch/sCumzbgQr27aE6hGEuZExa?) から閲覧可能です。


## そもそもAIガバナンスとは何か？
しかし、私たちは話が先走っていますので、一歩立ち戻って考えてみましょう。人々はしばしば、「責任あるAI」と「AIガバナンス」という用語を同義で使っています。では、具体的にAIガバナンスとは何でしょうか？ 
Dataikuでは、分析とAIガバナンスの枠組みが組織の優先順位を標準化されたルール、プロセス、要件を通じて施行するものだと考えています。これらの優先順位が、分析とAIの設計、開発、および展開を決定します。つまり、[AIガバナンス、MLOps、責任あるAIは本質的に関連しているもの](https://blog.dataiku.com/whats-the-link-between-ai-governance-mlops-and-responsible-ai-scaling-ai)の、区別されるべきものです。

## AIガバナンスを始める
“責任あるAIは、組織にとって重要なものを構築するための出発点です。何が重要で、なぜそれを行っているのかを把握していなければ、目標を達成するための枠組みやワークフローを作成することは本当に困難です。”
 — Dataikuのソリューションエンジニア、Kirsten Hoogenakker 
- モデルに偏見がないかを確認する方法はありますか？ 
- 組織の倫理原則は何ですか？
- パイプラインのどの部分を、誰が承認する必要があるかを定義する明確なプロセスはありますか？ 
- それらのモデルが本番環境にある際に、それらを監視することはできますか？
- 組織的な観点から重要になるであろう境界はどのようなものですか？ 

どの組織もこれらの質問に対して同じ答えは出ないように、AIガバナンスの枠組みも全く同じ回答にはなりません。しかし、これらの質問はAIガバナンスの枠組みを構築するための良い出発点です。

また、これらの質問はMLOpsの部分に組み込まれます。これらの枠組みとプロセスは日々の業務をカバーします。言い換えれば、これらのモデルを実際にどのように自動化するか、またはデータドリフトのようなものをどこで収集するかです。 

これらすべては、最終的にガバナンスの枠組みに集約されます。このガバナンスの枠組みによって、組織はコンプライアンスリスク、監査ログ、ガバナンス問題などを処理することができます。言い換えれば、現場で何が起こっているかに基づいて重要なものを構築することです。

## AIガバナンスと生成AI
AIガバナンスの未来は、生成AIと大規模言語モデル（LLMs）を中心に展開されています。Dataikuで私たちが見ているのは、[生成AIによって、組織がガバナンスを取り入れることを促していること](https://blog.dataiku.com/the-dynamic-duo-shaping-generative-ai-with-tech-agnostic-platforms-and-governance)です。これまで以上に、組織はAIに対して信頼を築きたいと思っています。そして、その信頼は透明性、ドキュメンテーション化、そしてAIポリシーがこの絶えず進化する状況に追いつくことを通して得られます。 

もちろん、古典的な意味でLLMsの上に構築されたアプリケーションを管理することが重要です。つまり、適切な承認者がいて、パイプライン上に適切な監視がされているかなどです。しかし、生成AIにとってさらに重要なのは、ループの中に人間がいることです。 

生成AIおよびLLMアプリケーションで人間をループに加える場合、何が意味があるかを決める必要があります。たとえば、リスクが高いクレジットカード詐欺のプロジェクトのようなものでは、それが重要である可能性が高いです。他のプロジェクトでは、そうではないかもしれません。 

要するに、Dataikuはあなたのパートナーとして、複雑なデータプロジェクトをうまく導くための適切なツールと戦略を兼ね備えています。生成AIであろうとなかろうと、Dataikuを利用することで、監督と俊敏性のバランスを取ることで、困難から可能性へと変わります。

## AIガバナンスとDataikuでさらに詳しく
AIを安全に監視しながら拡張し、最も価値をもたらすデータプロジェクトとモデルに優先順位を付けます。[**AIガバナンスの特徴**](https://www.dataiku.com/ja/%e8%a3%bd%e5%93%81/%e3%81%ae%e4%b8%bb%e8%a6%81%e6%a9%9f%e8%83%bd/%e3%82%ac%e3%83%90%e3%83%8a%e3%83%b3%e3%82%b9/)をさらに詳しく知る。

原文：[How Dataiku Supports Your AI Governance Frameworks](https://blog.dataiku.com/ai-governance-frameworks)