生成AI活用のコツをBoxAIに聞いてみた

AIの導入は、企業の業務プロセスを根本から変革し、新たな価値創造をもたらす可能性を秘めています。これまで人が行っていた文章や画像、コード分析を自動化し、生産性の向上とコスト削減が期待できます。これらの機能価値を最大限に引き出すためには、生成AIに与える指示（プロンプト）を最適化するが重要です。本記事では、より質の高いアウトプットを得るためのコツをBox AIを使ってご紹介します。

## Box AIとは？
Box AIは、さまざまな大規模言語モデル（LLM）のプラグインが可能で、現在は機能に応じて使い分けています。BoxでAIを活用するポイントは3つあります。
1. データを学習用としてLLMに送信することなく、LLMの機能を活用できること
2. LLMがデータを参照する時に、Box AIがデータのアクセス権限を適用すること
3. データを抽出してLLMにわたす時も、プロンプトを最適化する指示を追加するため、ハルシネーションも発生を最小限にすること

企業の重要な情報をセキュリティレベルが高い状態で安心してAI機能が使えるように設計されています。
<iframe width="560" height="315" src="https://www.youtube.com/embed/KMUTHi1pmlo?si=ZR9jFhf5xylOOZf1" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share" referrerpolicy="strict-origin-when-cross-origin" allowfullscreen></iframe>

## 指示（プロンプト）の最適化とは？
生成AIから最適な回答が得られるために、AIに対して適切な指示（プロンプト）を出す技術のことをプロンプトエンジニアリングと呼びます。実際に使用する大規模言語モデル（LLM）に応じて、指示（プロンプト）をカスタマイズすることが求められます。

> OpenAI:Prompt engineering
> https://platform.openai.com/docs/guides/prompt-engineering

> Gemini for Google Cloud により適したプロンプトを作成する
> https://cloud.google.com/gemini/docs/discover/write-prompts?hl=ja

> Claude:Prompt engineering overview
> https://docs.anthropic.com/en/docs/build-with-claude/prompt-engineering/overview

今回は、主要な3つのLLMに絞って、各社が推奨する運用方法を比較してみました。

## ビジネスシーンでの利用における特徴
### 検証方法
#### 3つのLLMが推奨するプロンプトエンジニアリングの内容を比較してみました。

各LLMが推奨する運用方法をBox Notesに書き起こして、Box AI for Notesに質問してみました。（※2024年12月 時点の情報です）

:::note info
Claude、Gemini、およびOpenAIの特徴をまとめてください。なお、ビジネスシーンでの利用に絞って、項目は表形式でまとめてください
:::

| 特徴          　| Claude                                      | Gemini                                       | OpenAI                                     |
|---------------|---------------------------------------------|---------------------------------------------|-------------------------------------------|
| 主な用途      　| プロンプトエンジニアリング、対話型AI       | Google Cloudの生産性向上、コード補完       | テキスト生成、画像生成、音声認識         |
| インターフェース 　| 直感的なプロンプト設計                     | コードやクエリエディタを通じた指示         | APIおよびダッシュボードを介したアクセス   |
| 成果物        　| 高品質なテキスト応答                       | 分析結果やコード補完                        | 多様な形式のコンテンツ生成               |
| 利用シーン    　| カスタマーサポート、教育、コンテンツ作成   | クラウドサービスの最適化、データ分析       | マーケティング、研究開発、クリエイティブ業務 |
| 特徴的な機能  　| チェーンオブソートによる思考過程の提示     | コンテキストに基づく質問応答              | 機械学習モデルのファインチューニング     |

まとめると、こんな感じでしょうか。
- Claudeは、人間らしい対話に重点を置いており、複雑な質問への回答や、長文の生成に優れている
- Geminiは、Googleの様々なサービスと連携できるため、情報収集力が高く、幅広いタスクに対応可能
- OpenAIは、多くのデータで学習しているため、様々な質問に対してアイデアを創出することに優れている


#### それぞれのLLMで求められる共通の指示（プロンプト）と相違点をBox AIでまとめてみます。

| 特徴                     | 類似点                                         | 相違点                                           |
|--------------------------|------------------------------------------------|-------------------------------------------------|
| **明確な指示**           | すべてのプラットフォームで具体的な指示が重要視されている。 | Claudeは特に「思考過程を促す」ことに重点を置いている。GeminiはGoogle Cloud製品との連携を強調している。OpenAIは多様なフォーマットやスタイルを柔軟に扱う。 |
| **コンテキスト提供**     | 背景情報を含めることで応答が向上するという点で共通している。 | Geminiは特に関連する背景情報を重視し、Cloud製品に特化した質問が求められる。 |
| **例の使用**             | 複数の例を用いることで期待する応答のスタイルを示す。 | OpenAIはマルチショットプロンプトを活用し、より多様な形式を受け入れる傾向がある。 |
| **専門知識のレベル指定** | スキルレベルに応じた応答を得るための工夫が求められる。 | Claudeは特定の役割を持たせることに焦点を当てているが、Geminiはユーザーのスキルに合わせた応答を重視している。 |
| **フィードバックの取り入れ** | モデルからの応答に対してフィードバックを行うことが重要。 | Claudeは直接的なフィードバックを重視し、Geminiは運用上の提案を行う傾向がある。OpenAIは提案に対する意見を求める。 |

各LLMが推奨するプロンプト作成方法は類似している点が多くありましたが、若干のニュアンスやクセがあり、それを理解した上で利用することが必要かと思われます。

## 利用シーンに応じて最適なAIモデルの選択する「Box AI Studio」
Boxでは、自社が必要とする機能に合わせてノーコードでBox AIをカスタマイズできる機能「Box AI Studio」が近日リリース予定です。「Box AI Studio」では、企業がコンテンツにAIを適用する際のカスタマイズ性とコントロール性を強化することが可能です。最適なAIモデルを選択してカスタムプロンプトとパラメータを微調整するだけで、業界固有のニーズやワークフローに基づいた自社のBox AIエージェントをノーコードで作成できます。

機能の概要とデモンストレーションが、2024年11月に開催されたBoxWorksというイベントで紹介されています。

https://www.youtube.com/live/763FGJeF2bQ?si=zg2c-rplv9lUdM3r&t=1476

## 2025年のIT施策に向けて
IT担当者は、ビジネス部門のユーザーが利用しやすいデジタルプラットフォームを提供するだけでなく、ビジネス部門のユーザーがそれを使いこなしてもらうための工夫が必要です。彼らが効率的に最新技術を活用できるようトレーニングやサポートを提供することや、定期的なコミュニケーションによりフィードバックを収集を通じて、協力関係を築くことが重要です。
これらの工夫により、IT施策の成果を最大限に引き出し、組織全体でのデジタルイノベーション成功の可能性を引き上げるポイントであると考えます。