【第4部】Startup自身のAzure OpenAI Copilotを作るための 8 STEP

これは、生成型AIとAzure OpenAIサービスについてのシリーズの第4部です。第1部では基本的な事項に焦点を当てています。また、Microsoft Copilotについて深掘りする第2部、新しいBing体験について深掘りする第3部を読むこともできます。

このシリーズの初めに、私たちはAzure OpenAI Copilotスタックが、何兆もの単語で事前学習された生成型モデルへのアクセスを提供し、自然言語とコードを理解することができることについて議論しました。Azure OpenAI Copilotを利用することで、これらのモデルを使用して、ライティングの補助、コード生成、推論、推理、理解を支援するアプリケーションを作成することができます。

### Azure OpenAI Copilotとは何か？
Azure OpenAI Copilotスタックは、自然言語とコードを理解し、生成することができる大規模な生成型AIモデルへのアクセスを提供するサービスです。これらのモデルを使用して、ライティング支援、コード生成、データの推論など、幅広いシナリオを強化することができます。たとえば、Copilotを使用してセールスコールのまとめを作成したり、マーケティングキャンペーンのセグメントを作成したり、説明に基づいてアプリのコードを生成することができます。

### スタートアップはAzure OpenAI Copilotからどのように利益を得ることができるのか？
スタートアップとしては、製品やサービスの開発に必要なリソースや時間が限られているかもしれません。また、適切な人材を見つけること、オペレーションをスケーリングすること、大手企業との競争などの課題に直面する可能性もあります。Azure OpenAI Copilotスタックは、以下の方法でこれらの課題を克服するのに役立ちます：

- 自然言語またはコード生成を必要とするタスクを自動化することで時間を節約し、コストを削減します
- 最先端のAIモデルを活用することで、出力の品質と精度を向上させます
- 自分のデータとハイパーパラメーターを使用してモデルを微調整することで、AIモデルを特定のニーズに合わせてカスタマイズできます
- リクエストとレスポンスのコンテンツをフィルタリングし、モデレーションすることで、AIを責任ある方法で使用できます
- Azureのエンタープライズ級のセキュリティとコンプライアンス機能を使用して、データとワークロードを保護します

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/28704e93-5c3e-6482-5031-18371a7440dc.png)

Azure OpenAI Copilotスタックはワンサイズフィットオールのソリューションではなく、特定のニーズとシナリオに合わせてモデルをカスタマイズできます。たとえば、自分のデータとハイパーパラメーターでモデルを微調整したり、フューショット学習の機能を使用して例を提供し、より関連性の高い結果を得るために使用したりするかもしれません。また、リクエストとレスポンスのコンテンツをフィルタリングし、モデレーションするために責任あるAI機能を適用したり、モデルを倫理的かつ安全に使用していることを確認したりすることもできます。

ここで、Azure AI Studioが便利になってきます。Azure AI Studioは、さまざまなツールとサービスを使用してAIソリューションを構築、管理、デプロイするためのクラウドベースのプラットフォームです。Azure AI Studioを使用して、次の手順に従って自分だけのAzure OpenAI Copilotスタックを作成することができます：

**1. Founders Hubを使用してAzureアカウントを作成し、Azure OpenAIサービスにサインアップします。**

**2. Azure OpenAI playgroundを使用してcopilotを作成します**
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/624348e6-bb39-2a84-5f4b-6e14a017737b.png)

**3. 自分のモデルに自分のデータを注入します。**
Azure OpenAI Serviceは、以下を含む複数のソースに接続することであなたのデータをサポートします：

- **Azure Cognitive Search index**：データをAzure Cognitive Searchインデックスに接続し、OpenAIモデルとのシームレスな統合を可能にします。
- **Azure Blobストレージコンテナ**：データをAzure Blobストレージコンテナに接続し、Azure OpenAI Serviceを使用して簡単に分析や対話を行うことができます
- **ローカルファイル**：Azure AIポータル内のファイルに接続し、データの接続に便利さと柔軟性を提供します。テキスト、md、html、Wordファイル、PowerPoint、PDFなどのファイル形式を分析や対話に利用することができます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/90278900-adf8-8e58-7580-02ef5acd6b95.png)

**4. Azure AI Studioで新しいプロジェクトを作成します**

https://youtu.be/DaIYrlMOj7I


**5. モデルカタログから、利用可能なオプションから最も適したモデルを選択します。**
最新で最も進んだモデルであるGPT-4、または依然として非常に強力で広く使用されているGPT-3から選択することができます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/44a4b6b0-67ba-e4a3-63a1-4c06e3144538.png)

**6.Prompt flowを使用します。**
Prompt flowは、Azure Machine Learning（AzureML）内の強力な機能であり、プロンプトエンジニアリングプロジェクトの開発、評価、および継続的な統合とデプロイメント（CI / CD）を合理化します。それは、自然言語プロンプト、テンプレート言語、組み込みツールのリスト、およびPythonコードを組み合わせた対話型の体験をデータサイエンティストとLLMアプリケーション開発者に提供します。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/927074ec-1886-3b53-11de-ff5e61a325c2.png)


**7. アプリケーションから呼び出すことができるエンドポイントとしてモデルをデプロイします。**
スケーラビリティとセキュリティのニーズに応じて、Azure Kubernetes ServiceまたはAzure Container Instancesなどのさまざまなデプロイメントオプションから選択できます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/d2274842-45e3-8f0a-cf9a-3fb780e73b3e.png)


**8. エンドポイントURLとアクセスキーを使用して、モデルをアプリケーションに統合します。**
Python、JavaScript、C#など、HTTPリクエストをサポートする任意のプログラミング言語またはフレームワークを使用して、アプリケーションからモデルを呼び出すことができます。

これらの8つの手順に従うことで、Azure AI Studioとともに自分のスタートアップのためのAzure OpenAI Copilotスタックを構築し、コーディングと言語のタスクのための大規模AIモデルの利点を享受することができます。また、Azure AI Studioのダッシュボードとツール（メトリクス、ログ、アラートなど）を使用して、その品質とパフォーマンスを監視し、継続的に改善することができます。

#### スタートアップの可能性を引き出すためのAzure OpenAIサービスの活用
ジェネラティブAI技術、例えばMicrosoftのAzure OpenAIプラットフォームは、次世代ビジネスを構築しようとするスタートアップに数多くの利点を提供します。先進的なAIパワードツールとアプリケーションを活用することで、起業家は業務を効率化し、顧客体験を向上させ、成長を促進することができます。

しかしながら、AIを使用する際には、透明性、公平性、説明責任といった倫理的な原則を取り入れることが重要です。Azure OpenAIサービスを用いれば、スタートアップはAIの実践に責任を持つ一方で、事前に構築されたAIモデルやツールへのアクセスが可能になります。Duolingo、Jasper AI、Stripeといった企業の成功例は、AIがスタートアップの軌道をどのように変えるかの具体的な例を示しています。技術が進化し続ける中で、OpenAIを採用する者たちは、それを責任ある方法で行えば、スタートアップの世界で競争優位を持つことができることが明らかになっています。

## 参考リンク

https://startups.microsoft.com/blog/8-steps-to-building-an-azure-openai-copilot-for-your-startup/