Dataikuのガバナンス機能を活用した規制への対応

# Dataiku のガバナンス機能を活用した規制への対応

[前回の Dataiku AI ガバナンスウェビナーシリーズのセッション](https://content.dataiku.com/ai-governance-without-limits)で、Dataiku の責任ある AI リードである [Triveni Gandhi 氏](https://www.linkedin.com/in/trivenigandhi/)は、Dataiku を使用した責任ある AI ガバナンスの実践を通じて、組織が今後の AI 規制にどのように備えられるかを示しました。

[EU AI 法](https://blog.dataiku.com/unpacking-the-eu-ai-act-and-its-impact)のような規制は、明確なリスク階層と義務を導入していますが、これらの新しい基準に対して、組織がどのように準拠するかについては多くの不確実性が残っています。Triveni 氏は、組織が不遵守への恐れから AI プロジェクトを中止すべきではないと強調しました。むしろ、これらの不確実性に対処し、コンプライアンスに備えるためには、[Dataiku](https://blog.dataiku.com/unpacking-the-eu-ai-act-and-its-impact) のような適切なガバナンスフレームワークやプラットフォームに頼るべきです。

[→ 全セッションを今すぐ視聴する](https://blog.dataiku.com/cs/c/?cta_guid=88057c9d-db97-4f15-b544-7f3f08f398aa&signature=AAH58kHjEcgnO-fPcMtoaC0VA2erT0ixLQ&utm_referrer=https%3A%2F%2Fblog.dataiku.com%2F&portal_id=2123903&pageId=179522970026&placement_guid=36ceb710-6418-43ec-bde6-b589aa0668b9&click=c73a7327-0478-4c6b-b03c-0763b18c84dc&redirect_url=APefjpG7VnAv7g_4m9BRsa5H9RoPm59INrWpisfYMEMdmQW1zhXThmbSDx8piIy-fYYR3AUSPFw6Cm4rJwxC3TX4wUmHyHY3gSdFtLQVKS_ojMvRlXWy_slYdWoH5ZlWkMZnlB7K45OaxK26lHnUK-4GWg-JfgM5Vt3fkaj2-U7jIyvEYKdbSoALerpY6hdtHVdTut2NiL9FFtcgsSxXCDpIjxHZOh3B9wricVBvVHeK6zQUhe3G4I7S7PyogqahVmgxE8xizwJuNL0_bB8nWQG-_U6VM7SaFma1zRmb_xPkh1vePZLICsE&hsutk=3d7e02a5ffc9604cfebd3ec29081830a&canon=https%3A%2F%2Fblog.dataiku.com%2Fnavigating-regulations-with-dataikus-governance-capabilities&ts=1728465626885&__hstc=186155446.3d7e02a5ffc9604cfebd3ec29081830a.1701614172359.1728456231476.1728464797236.597&__hssc=186155446.5.1728464797236&__hsfp=165968025&contentType=blog-post)

## 責任ある AI ガバナンスのための主要な能力

**Triveni 氏は、組織が AI 規制に準拠するのを支援する、Dataiku のいくつかの主要な[ガバナンス機能](https://www.dataiku.com/ja/%e8%a3%bd%e5%93%81/%e3%81%ae%e4%b8%bb%e8%a6%81%e6%a9%9f%e8%83%bd/%e3%82%ac%e3%83%90%e3%83%8a%e3%83%b3%e3%82%b9/)を紹介しました。**

1. **カスタマイズされたワークフロー**: Dataiku は、企業が AI プロジェクトの複雑さに対応したワークフローを構築できるようにします。高リスクの AI ユースケースでは、低リスクプロジェクトに比べて、より包括的なガバナンスが必要とされることがよくあります。

2. **事前評価とプロジェクトの適格性**: AI プロジェクトを開始する前に、組織は事前評価を行い、内部ガバナンス規則との整合性を確認できます。このステップにより、非準拠のプロジェクトが本番環境に入るのを防ぎます。

3. **ドキュメント化と追跡可能性**: このプラットフォームは、承認手続きやモデルの追跡可能性をサポートし、組織がモデル、ワークフロー、意思決定の中央管理レジストリを維持するのを支援します。

4. **LLM ガバナンス**: [生成 AI](https://www.dataiku.com/ja/%e8%a3%bd%e5%93%81/%e3%81%ae%e4%b8%bb%e8%a6%81%e6%a9%9f%e8%83%bd/generative-ai/) や LLM が広まる中、Dataiku は LLM 接続やプロジェクトを管理するためのツールを提供します。これには、誰が LLM にアクセスできるかの管理、クエリデータの監査、モデルパフォーマンスやデータ使用のしきい値の設定が含まれます。

![unnamed.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/4f2f9483-c829-46c6-ad2c-8b1e90b8f88d.png)

## Dataiku のガバナンス機能のデモンストレーション

ハンズオンデモ中に、Triveni 氏は Dataiku の『Govern Node』が集中管理された AI およびアナリティクスのコントロールタワーとしてどのように機能し、企業が AI プロジェクトのライフサイクルを監視および管理できるかを示しました。紹介された主要な機能には次のものが含まれます：

- **ガバナンスされたプロジェクト**: Dataiku Govern は、マーケティング、財務、製造などのさまざまなビジネスイニシアチブに紐づけられた進行中の AI プロジェクトのダッシュボードを備えており、リスクや価値によって視覚的にマトリックス化されています。これにより、チームは高価値で低リスクのプロジェクトにリソースを優先的に配分できます。ダッシュボードは各プロジェクトのガバナンス状況や目標を明確にします。

- **事前評価**: Dataiku では、スポンサーや開発者が誰か、プロジェクトの目的や期待が何かなどのコア詳細をリストする事前評価ページをチームが作成できます。この情報が入力された後、チームは最終承認を求めます。これは AI ガバナンスプロセスの最初の承認サインオフです。評価が承認されると、Dataiku は事前評価が完了したことを示すタグを付けてプロジェクトインスタンスを作成します。これにより、適格なプロジェクトのみが本番環境に進むことが保証されます。

- **モデルガバナンス**: モデルが進行するにつれて、チームは精度、バイアス、精度、リコールなどの指標を監視できます。これらのパフォーマンス指標は、モデルがデプロイされる前に指定されたしきい値を満たす必要があります。

- **外部モデルガバナンス**: Dataiku は、Databricks など、プラットフォーム外で構築されたモデルのガバナンスも可能にし、さまざまなシステム間で統一されたガバナンスを確保します。

## LLM（大規模言語モデル）および生成 AI のガバナンス

LLM および生成 AI モデルのガバナンスは、明確な新たな懸念事項です。組織は、OpenAI や Hugging Face のようなサードパーティーモデルを使用することがよくあります。Dataiku は、これらのモデルへのアクセスを集中管理し、ガバナンスを提供します。Dataiku を使用すると、ユーザーは以下を実行できます：

- 誰が LLM を何の目的で使用しているかを追跡する。
- クエリにおける許可される用語や禁止される用語のルールを設定する。
- AI 生成された出力のバイアスや有害性検出のためのしきい値を定義する。

## 心配しないでください、私たちがサポートします 

Triveni 氏は、組織が AI 規制に備えるために、ガバナンスプロセスを集中管理し、事前評価を実施し、明確な承認ワークフローを導入することを奨励して締めくくりました。将来の規制要件にガバナンスの実践を合わせることは、複雑で恐ろしい作業のように思えるかもしれませんが、Dataiku のような適切なツールを使用すれば、そのプロセスはスムーズかつ効率的に完了できます。

原文: [Navigating Regulations With Dataiku’s Governance Capabilitie](shttps://blog.dataiku.com/navigating-regulations-with-dataikus-governance-capabilities)