Dataikuコストガードで生成AIの予算を管理する

生成AIはイノベーションを加速させる強力なエンジンですが、CFOが請求書を見た瞬間にその力が仇となることもあります。予想外のLLM（大規模言語モデル）コストに悩まされていたら、[DataikuのLLMガードサービス(LLM Guard Services)]((https://www.dataiku.com/ja/%e8%a3%bd%e5%93%81/key-capabilities/%e3%82%ac%e3%83%bc%e3%83%89%e3%82%b5%e3%83%bc%e3%83%93%e3%82%b9/))の一部である**コストガード**を試してみてください。

コストガードは一律の予算設定ではなく、プロジェクト、ユーザーグループ、LLMプロバイダーごとに個別の予算上限を事前に設定できます。これにより、優先順位の設定やアラートの発動タイミングの調整、また予算上限到達時の自動ブロックの有無を柔軟に決められます。

その結果、透明性が確保され、予想していなかった予算超過を回避できます。

## 予想外のLLMの請求書にうんざりしていませんか？
OpenAIやAzureなどのLLMプロバイダーでは、組織全体の予算上限を設定できます。しかし、それだけではどのプロジェクトが予算を圧迫しているのかは分かりません。たとえば、1つの研究開発（R&D）プロジェクトが予算を使い果たしてしまい、収益を生む重要なアプリケーションが停止してしまうといったリスクが発生します。

**コストガード**を活用すれば、これを回避できます。請求書が届くまで待つのではなく、管理者がリアルタイムでLLMの使用状況を把握し、適切な予算枠を設定できます。また、予算を超えた場合に警告を出すか、アクセスを完全に遮断するかを選択できます。

### シナリオ①：制御不能になったサンドボックスプロジェクト
データサイエンスチームが新たなLLMの試験環境を立ち上げました。さまざまなクエリを実行しており、その中には有益なものもあれば、単なるテストや遊びのようなものもあります。このような制限のない実験的なクエリは、気づかないうちに大きなコストを発生させる可能性があります。
 
ここでコストガードの出番です。例えば、「サンドボックスプロジェクトの月間予算を500ドルに設定」すれば、その上限に近づいたときにプロジェクトリーダーにアラートが送信され、調査や予算追加の判断が可能になります。

もし上限を超えた場合、コストガードは自動で追加のLLMリクエストをブロックし、それ以上のコスト発生を防ぎます。さらに、この仕組みはプロジェクトごとに適用されるため、サンドボックスチームが実験を続けても、他の重要なチームやアプリには影響がありません。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/64069327-cf81-4de0-9b5b-cca6386eaa67.png)


### シナリオ②：「クラウンジュエル」アプリを守る
一方で、ビジネスの価値を生み出す「クラウンジュエル」アプリ（例：顧客対応チャットボット）を運用している場合、他の誰かが予算を使い切ったからといって停止させたくないはずです。

コストガードを使えば、このような重要なプロジェクトには高い予算上限（または無制限）を設定しつつ、使用状況を可視化できます。例えば、月間1万ドルの予算を設定し、80%使用時にアラートを出すことで、財務チームやプロジェクトオーナーに通知を送ることが可能となります。

さらに、複数のLLMプロバイダーを統合管理できるため、OpenAIやAzureなどの使用状況を1つのクオータルールでカバーできます。これにより、個別の予算管理の手間を省きつつ、アプリの安定稼働を確保できます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/7e2cded0-90c1-4a96-b102-0c21cc501797.png)

### シナリオ③：プロバイダー vs. プロジェクトの綱引きを制御
場合によっては、問題の本質はプロジェクト単体ではなく、同じLLMプロバイダーを使う複数チームの競争かもしれません。

たとえば、小規模なR&Dパイロットと、大規模なビジネス向け生成AIツールが同じプロバイダーを利用している場合、どのチームが予算を急激に消費しているのかを知るのは難しいです。

コストガードなら、プロバイダーごとの使用量をプロジェクトやユーザーグループごとに分割し、異なるアラートルールを設定できます。1つのダッシュボードで、どのチームが予算をどれだけ消費しているかをリアルタイムで把握できます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/2780cf3e-e67b-42c3-8cad-2fee517e4756.png)

## より広範なLLM Guard Servicesの一部として

コストガードはコスト管理に特化していますが、DataikuのLLM Guard Servicesの一部です。他にも、
- Safe Guard（安全管理）：機密データが外部に流出する前にスクリーニング
- Quality Guard（品質管理）：LLMの出力を一貫性があり、偏りのないものに保つ

といった機能が含まれます。これにより、企業の生成AI運用において、予算、データ、品質の3つの側面をバランスよく管理できます。

## クイックガイド：コストガードの設定方法
1: クオータを作成：プロジェクト・ユーザーグループ・LLMプロバイダー単位で予算上限を設定
2: アラート or ブロックを選択：特定の閾値で警告メールを送るか、クエリをブロックするかを設定
3: リセットサイクルを定義：月次・四半期ごとなど、会計ルールに合わせて予算をリセット
4: 情報を常に把握：予算超過時に適切な関係者へ通知を送信し、リアルタイムで適応可能

## 生成AIの予算を管理しつつ、CFOも満足させよう
コストガードは、生成AIの成長が予算のブラックホールにならないようにするための味方です。サンドボックス環境を抑制する必要がある場合、ビジネス上重要なアプリケーションを障害から保護する必要がある場合、または複数のチームが同じLLMプロバイダを共有する場合など、Dataikuはさまざまなニーズに対応します。

すでに生成AIの予算ガイドラインが明確に定義されているチームにとって、コストガードは、カスタムスクリプトを作成したり、雪崩のようなITチケットを処理することなく、既存のルールを実装できるようにすることで、実施を簡素化します。タグを手作業で追加したり、プラットフォームごとにカスタムアラートを作成する必要はありません。この統合されたアプローチは、IT部門の時間を節約するだけでなく、すべてのステークホルダーが生成AIの支出に関する一貫した最新情報を確認できるようにします。その結果、LLM予算がどのように（そしてどこに）投資されるかをより迅速に調整し、明確にすることができます。


## さらに詳しく知りたいですか?
すべての生成AIアプリケーションにわたって、LLMのガードサービスがどのようにコストやデータプライバシーを管理できるのかを[**こちら**](https://www.dataiku.com/ja/%e8%a3%bd%e5%93%81/key-capabilities/%e3%82%ac%e3%83%bc%e3%83%89%e3%82%b5%e3%83%bc%e3%83%93%e3%82%b9/)からご覧ください。


原文: [Get Control of Your GenAI Budget With Dataiku Cost Guard](https://blog.dataiku.com/get-control-of-your-genai-budget-with-dataiku-cost-guard)