AIの民主化への新たなステップ：Databricksからオープンソースの言語モデルDolly登場！OpenAIとの比較分析

<span>最近のAI技術の進歩により、大規模な言語モデルが次々と登場しています。これらのモデルは、さまざまな分野で活用され、企業や開発者にとって非常に魅力的です。今回は、Databricksが開発した新たな言語モデル「Dolly」を紹介し、既存のOpenAIやAzure OpenAI Serviceとの比較を行います。それぞれの特徴やメリット・デメリットを検討し、どのモデルがあなたのニーズに最適かを見極めましょう。</span>

実際に動かしてみたい人は、Databricksのシニアアーキテクトによる<a href="https://qiita.com/taka_yayoi/items/abf83e29057def13e5ad">「オープンソース大規模言語モデルDollyをトレーニングしてみる」</a>に詳しい解説が公開されております。
<h2>Dollyの紹介</h2>
<span>Dollyは、Databricksが開発した大規模な言語モデルで、オープンソースの6ビリオン・パラメータ（GPT-3：175ビリオン）のモデルをベースに、インストラクションに従う能力を持つように調整されています。このモデルは、企業が独自にインストラクションに従う言語モデルを手軽に構築できるように設計されており、AIの民主化を促進することを目指しています。</span>

Dollyの特徴:
<ol>
 	<li><strong>インストラクションに従う能力:</strong>
ChatGPTのようなインストラクションに従う能力を持ち、テキスト生成やブレインストーミングなどのタスクが可能です。</li>
 	<li><strong>オープンソース:</strong>
Dollyのコードはオープンソースであり、Databricks上で再現可能です。企業は自社のニーズに合わせてカスタマイズできます。</li>
 	<li><strong>自社内でのモデル構築:</strong>
Dollyを使用することで、企業は独自のモデルを構築し、データのプライバシーを保護できます。</li>
 	<li><strong>柔軟性:</strong>
Dollyは、さまざまなタスクや業界に適用可能で、企業は独自のアプリケーションやサービスに組み込むことができます。</li>
 	<li><strong>コミュニティサポート:</strong>
Dollyは、EleutherAIやAlpacaなどの他のオープンソースプロジェクトにインスパイアされて開発されており、活発なコミュニティサポートが期待できます。</li>
</ol>
Dollyの潜在的な制約や欠点:
<ol>
 	<li>限定的な性能: Dollyは6ビリオン・パラメータのモデルであるため、GPT-3やChatGPTのような大規模なモデルと比較して性能が限定的です。より複雑なタスクに対応するには、より高性能なモデルが必要になる場合があります。</li>
 	<li>早期研究段階: Dollyはまだ開発初期段階にあり、言語モデルの偏見や不正確さ、不適切なレスポンスなどの問題がまだ解決されていません。これらの問題に対処するために、開発者や企業は注意深く取り組む必要があります。</li>
 	<li>サポートとメンテナンス: Dollyはオープンソースプロジェクトであるため、専用のサポートチームがなく、企業が自分たちで問題を解決するか、コミュニティの助けを借りる必要があります。これは、一部の企業にとっては手間がかかるかもしれません。</li>
</ol>
以上の点を考慮して、Dollyはある程度の制約や欠点があるものの、その低コストやオープンソースの利点が多くの企業にとって魅力的な選択肢となるでしょう。企業は自社のニーズやリソースに応じて、Dollyや他の言語モデルとサービスを検討することが重要です。
<h2>OpenAIとの比較</h2>
DollyとOpenAI（特にGPT-3やChatGPT）は、どちらも大規模な言語モデルであり、自然言語処理タスクにおいて高い性能を発揮しますが、いくつかの違いがあります。以下に、それぞれのモデルのメリットとデメリットを比較して説明します。
<h3>OpenAIと比較したDollyのメリット</h3>
<ol>
 	<li><strong>データのプライバシー </strong>
Dollyを使用することで、企業は自社環境内に独自のモデルを構築し、データを第三者に提供せずにAI技術を活用できます。</li>
 	<li><strong>カスタマイズの容易さ </strong>
Dollyはオープンソースモデルであるため、企業が独自のニーズに合わせて簡単にカスタマイズできます。</li>
</ol>
Dollyのデメリットについては前述の「Dollyの潜在的な制約や欠点」となります。
<h3>Dollyと比較したOpenAIのメリット</h3>
<ol>
 	<li><strong>高い性能</strong>
GPT-3やChatGPTは、大規模で最新の技術を使用しており、高い性能を発揮します。</li>
 	<li><strong>安定性と一貫性</strong>
OpenAIの商用プロダクトは、品質の高いトレーニングデータと長期間の開発によって、安定性と一貫性が向上しています。</li>
 	<li><strong>サポートとアップデート</strong>
OpenAIは商用プロダクトであるため、サポートやアップデートが定期的に提供され、技術的な問題や機能追加に対応しやすいです。</li>
</ol>
<h3>Dollyと比較したOpenAIのデメリット</h3>
<ol>
 	<li><strong>カスタマイズの制限</strong>
OpenAIの商用プロダクトは、ある程度のカスタマイズが可能ですが、オープンソースモデルに比べて制限がある場合があります。</li>
 	<li><strong>データのプライバシー</strong>
OpenAIのAPIを利用する際に、企業はデータを第三者に提供する必要があり、プライバシーに関する懸念が生じる場合があります。</li>
</ol>
まとめると、Dollyはカスタマイズが容易で、データのプライバシーが確保されていますが、性能や安定性、サポート面で制限がある場合があります。一方、OpenAI（GPT-3やChatGPT）は高い性能と安定性、サポートを提供しますが、カスタマイズの制限やデータのプライバシーに関する懸念がある場合があります。それぞれのニーズに応じて、適切なモデルを選択することが重要です。
<h2>Azure OpenAI Serviceとの比較</h2>
Dollyと比較したOpenAIのデメリットに記載した「データのプライバシー」の部分が異なります。Azureを利用することでデータプライバシーは保護されます。

ただし、「OpenAIと比較したDollyのメリット」に上げた２つは変わらずDatabricks Dollyを利用するメリットとなります。Azure OpenAI Serviceではしっかりプライバシーの保護はされますが、Dollyのように自分の環境内にデプロイしたり、自由度高くカスタマイズすることはできません。
<h2>まとめ</h2>
Databricks Dollyは、オープンソースの大規模言語モデルであり、企業に魅力的な選択肢を提供しています。Dollyは、既存のオープンソースモデルをわずかな修正でChatGPTのような指示に従う能力を持たせることができます。OpenAIのChatGPTやAzure OpenAI Serviceと比較して、Dollyはカスタマイズ可能な利点がありますが、一方で性能やサポート面での制約も存在します。

Dollyは、AIの民主化を目指し、企業が独自の指示に従う言語モデルを構築するための新たな機会を提供しています。企業は、自社のニーズやリソースに応じて、Dollyや他の言語モデルとサービスを検討することが重要です。今後の開発や研究が進むことで、Dollyのようなオープンソースの言語モデルがさらに多様なニーズに対応できるようになることが期待されています。