Meta Llama 3.1 on Databricks を Mosaic AI Playground で試してみた（動画あり）

# はじめに

株式会社NTTデータ [デジタルサクセスソリューション事業部](https://enterprise-aiiot.nttdata.com/) の [nttd-saitouyun](https://qiita.com/nttd-saitouyun) です。

リリースされたばかりの高品質かつオープンソースのLLM「Llama 3.1 405B」を Databricks Mosaic AI Playground（※） で試してみます。内容は緩いのであしからず。

- [A New Standard in Open Source AI: Meta Llama 3.1 on Databricks](https://www.databricks.com/blog/new-standard-open-source-ai-meta-llama-31-databricks)
- [Introducing Llama 3.1: Our most capable models to date](https://ai.meta.com/blog/meta-llama-3-1/)

※AWS 東京リージョンでは利用できないのでご注意ください。検証はオレゴンリージョン（us-west-2）で行っています。


# Meta Llama 3.1 を試す

「NTTデータの強み」とおなじみの「まどマギプロンプト」を聞いてみます。

## Mosaic AI Playground 
[Mosaic AI Playground](https://docs.databricks.com/ja/large-language-models/ai-playground.html) は、Databricks がホストする LLM とチャットしたり、回答結果を比べられたりします。インフラを用意する必要もありません。

![demo005-04.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/7a8635c0-9495-7de0-d916-61223ebf7232.jpeg)

ワークスペースにログインして、左のメニューから「Playground」と選ぶだけです。



## Meta Llama 3.1 とチャットしてみる

日本語で回答してほしいのでシステムプロンプトに以下のように入力しておきます。

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/e2d38935-8f71-60ab-541a-a98b60c4c9a7.jpeg" width="500">

<br>
<br>

デフォルトで表示されている「要約」タスクを実行してみます。

![demo005-01.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/5bc07ec4-d09a-171b-8df8-898ee93f7e74.gif)


【質問】

![demo005-07.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/3efee54f-88f2-8463-4ba2-4ca55501bcb6.jpeg)


【回答】

![demo005-08.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/af07932b-62a8-a505-64c8-aff20ea82c5f.jpeg)








## Meta Llama 3 70B Instruct と比較してみる

以下のような結果になりました。

![demo005-02.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/f4af4798-9761-94dc-ca6b-5e42c007ce8d.gif)

当たり前ではありますが、回答速度はパラメータ数が少ない方が速いですが、内容は「Llama 3.1 405B」の方がしっかりとした記載のように見えます。

![demo005-10.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/2718d816-946a-6079-1079-7d2b4bba798c.jpeg)

![demo005-11.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/a00666c0-8c9e-38da-59d1-07eba8e721e2.jpeg)

「まどマギプロンプト」の言い切り方がすごい😅


### Meta Llama 3.1 70B Instruct
7/26 に Playground を見たところ、70B に対しても Llama 3 から Llama 3.1 にバージョンが上がってました！

![demo005-14.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/b21386e1-9895-4fbb-8455-bd1720a957a0.jpeg)

これまでの Llama 3 もモデルサービングを使えば簡単に利用することができます。





## DBRX Instruct / Mixtral-8x7B Instruct と比較してみる

同様に Databricks 上で利用可能な他のモデルと回答内容や回答速度を比較してみます。ちなみに、[DBRX](https://www.databricks.com/jp/blog/introducing-dbrx-new-state-art-open-llm)は、Databricks社が開発した132BのLLMです。

![demo005-03.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/b76ab8c2-fccb-35f8-e995-66c64d135bca.gif)

本書では正確な精度測定は目的としていませんが、日本でも十分な回答が期待できそうです。
ちなみに「日本語で回答してください。」というシステムプロンプトを外しても、Meta Llama 3.1 と DBRX からは日本語で応答があります。

![demo005-12.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/3e18a21a-1314-e583-459e-65d0a130d88b.jpeg)

![demo005-13.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/de7507eb-2504-5b34-7437-75af00e8b1d8.jpeg)

「まどマギプロンプト」の回答の意思が強い😅 そしてさらっとネタバレすな。




# おわりに
本記事では、回答のスピードがわかるように動画を載せてみました。
**Meta Llama 3.1 の動作のイメージ**が少しでも伝われば幸いです。

Databricks では最新の LLM がこんなに簡単に利用できます。
また、Vector Search や MLflow と組み合わせることで**高品質な生成AIアプリケーションをクイックに作ることができます**。


# 仲間募集
NTTデータ デザイン＆テクノロジーコンサルティング事業本部 では、以下の職種を募集しています。

<details><summary> 1. クラウド技術を活用したデータ分析プラットフォームの開発・構築(ITアーキテクト/クラウドエンジニア) </summary>
クラウド／プラットフォーム技術の知見に基づき、DWH、BI、ETL領域におけるソリューション開発を推進します。

https://enterprise-aiiot.nttdata.com/recruitment/career_sp/cloud_engineer

</details>

<details><summary> 2. データサイエンス領域（データサイエンティスト／データアナリスト） </summary>
データ活用／情報処理／AI／BI／統計学などの情報科学を活用し、よりデータサイエンスの観点から、データ分析プロジェクトのリーダーとしてお客様のDX／デジタルサクセスを推進します。

https://enterprise-aiiot.nttdata.com/recruitment/career_sp/datascientist

</details>

<details><summary> 3.お客様のAI活用の成功を推進するAIサクセスマネージャー </summary>
DataRobotをはじめとしたAIソリューションやサービスを使って、
お客様のAIプロジェクトを成功させ、ビジネス価値を創出するための活動を実施し、
お客様内でのAI活用を拡大、NTTデータが提供するAIソリューションの利用継続を推進していただく人材を募集しています。

https://nttdata.jposting.net/u/job.phtml?job_code=804

</details>

<details><summary> 4.DX／デジタルサクセスを推進するデータサイエンティスト《管理職/管理職候補》 </summary>
データ分析プロジェクトのリーダとして、正確な課題の把握、適切な評価指標の設定、分析計画策定や適切な分析手法や技術の評価・選定といったデータ活用の具現化、高度化を行い分析結果の見える化・お客様の納得感醸成を行うことで、ビジネス成果・価値を出すアクションへとつなげることができるデータサイエンティスト人材を募集しています。

https://nttdata.jposting.net/u/job.phtml?job_code=898

</details>

# ソリューション紹介
<details><summary> Trusted Data Foundationについて </summary>
～データ資産を分析活用するための環境をオールインワンで提供するソリューション～

https://enterprise-aiiot.nttdata.com/tdf/
最新のクラウド技術を採用して弊社が独自に設計したリファレンスアーキテクチャ（Datalake+DWH+AI/BI）を顧客要件に合わせてカスタマイズして提供します。
可視化、機械学習、DeepLearningなどデータ資産を分析活用するための環境がオールインワンで用意されており、これまでとは別次元の量と質のデータを用いてアジリティ高くDX推進を実現できます。

</details>

<details><summary> NTTデータとDatabricksについて </summary>
NTTデータは、お客様企業のデジタル変革・DXの成功に向けて、「databricks」のソリューションの提供に加え、情報活用戦略の立案から、AI技術の活用も含めたアナリティクス、分析基盤構築・運用、分析業務のアウトソースまで、ワンストップの支援を提供いたします。

 https://enterprise-aiiot.nttdata.com/service/databricks

</details>

<details><summary> TDF-AM（Trusted Data Foundation - Analytics Managed Service）について </summary>
～データ活用基盤の段階的な拡張支援（Quick Start) と保守運用のマネジメント（Analytics Managed）をご提供することでお客様のDXを成功に導く、データ活用プラットフォームサービス～

https://enterprise-aiiot.nttdata.com/service/tdf/tdf_am
TDF-AMは、データ活用をQuickに始めることができ、データ活用の成熟度に応じて段階的に環境を拡張します。プラットフォームの保守運用はNTTデータが一括で実施し、お客様は成果創出に専念することが可能です。また、日々最新のテクノロジーをキャッチアップし、常に活用しやすい環境を提供します。なお、ご要望に応じて上流のコンサルティングフェーズからAI/BIなどのデータ活用支援に至るまで、End to Endで課題解決に向けて伴走することも可能です。

</details>

</details>

<details><summary> NTTデータとSnowflakeについて </summary>
NTTデータでは、Snowflake Inc.とソリューションパートナー契約を締結し、クラウド・データプラットフォーム「Snowflake」の導入・構築、および活用支援を開始しています。
NTTデータではこれまでも、独自ノウハウに基づき、ビッグデータ・AIなど領域に係る市場競争力のあるさまざまなソリューションパートナーとともにエコシステムを形成し、お客さまのビジネス変革を導いてきました。
Snowflakeは、これら先端テクノロジーとのエコシステムの形成に強みがあり、NTTデータはこれらを組み合わせることでお客さまに最適なインテグレーションをご提供いたします。

https://enterprise-aiiot.nttdata.com/service/snowflake

</details>

</details>

<details><summary> NTTデータとInformaticaについて </summary>
データ連携や処理方式を専門領域として10年以上取り組んできたプロ集団であるNTTデータは、データマネジメント領域でグローバルでの高い評価を得ているInformatica社とパートナーシップを結び、サービス強化を推進しています。

https://enterprise-aiiot.nttdata.com/service/informatica

</details>

</details>

<details><summary> NTTデータとTableauについて </summary>
ビジュアル分析プラットフォームのTableauと2014年にパートナー契約を締結し、自社の経営ダッシュボード基盤への採用や独自のコンピテンシーセンターの設置などの取り組みを進めてきました。さらに2019年度にはSalesforceとワンストップでのサービスを提供開始するなど、積極的にビジネスを展開しています。

これまでPartner of the Year, Japanを4年連続で受賞しており、2021年にはアジア太平洋地域で最もビジネスに貢献したパートナーとして表彰されました。
また、2020年度からは、Tableauを活用したデータ活用促進のコンサルティングや導入サービスの他、AI活用やデータマネジメント整備など、お客さまの企業全体のデータ活用民主化を成功させるためのノウハウ・方法論を体系化した「デジタルサクセス」プログラムを提供開始しています。

https://enterprise-aiiot.nttdata.com/service/tableau

</details>

</details>

<details><summary> NTTデータとAlteryxについて </summary>
Alteryxは、業務ユーザーからIT部門まで誰でも使えるセルフサービス分析プラットフォームです。
Alteryx導入の豊富な実績を持つNTTデータは、最高位にあたるAlteryx Premiumパートナーとしてお客さまをご支援します。

導入時のプロフェッショナル支援など独自メニューを整備し、特定の業種によらない多くのお客さまに、Alteryxを活用したサービスの強化・拡充を提供します。

https://enterprise-aiiot.nttdata.com/service/alteryx

</details>

</details>

<details><summary> NTTデータとDataRobotについて </summary>
DataRobotは、包括的なAIライフサイクルプラットフォームです。
NTTデータはDataRobot社と戦略的資本業務提携を行い、経験豊富なデータサイエンティストがAI・データ活用を起点にお客様のビジネスにおける価値創出をご支援します。

https://enterprise-aiiot.nttdata.com/service/datarobot

</details>