Data + AI Summit 2023 - Databricks 現地レポート（6/28 基調講演）#2

# はじめに

株式会社NTTデータ [テクノロジーコンサルティング事業本部](https://enterprise-aiiot.nttdata.com/) の nttd-inoutk です。
Databricksのエバンジェリスト資格 [Databricks Champion](https://credentials.databricks.com/group/231242) 認定者でもあります。

本記事では、Databricksの年次イベント「**Data + AI Summit 2023**」の基調講演1日目（6月28日）の内容のうち、**Generation AI**に特化した内容をお届けします。

:::note
本記事は#2になります。前回の記事は[こちら](https://qiita.com/nttd-inoutk/items/c7087ba42622fb332061)から御覧ください。
:::

# 概要

今回発表されたGenerative AIに関するトピックは大きく２つに分けられ、OSS LLMプロジェクトMPTを開発する **MosaicML** の買収、および自社のプラットフォーム上でのLLMモデル開発を助ける機能群の **Lakehouse AI** の発表です。

# MosaicML
Data+AI Summit 2023 初日の6月26日に、Databricksが[MosaicML](https://www.mosaicml.com/)を買収するとのリリースが出ました。

https://www.mosaicml.com/

https://xtech.nikkei.com/atcl/nxt/news/18/15479/

MosaicMLはダウンロード数が330万を超えた大規模言語モデルである[MPT-7B](https://www.mosaicml.com/blog/mpt-7b)等の開発元として知られており、企業がいかにコスト効率の良い方法で、自社のデータを使って独自の最先端モデルを素早く構築できるのかを紹介してきました。

この理念はDatabricksが[Dolly](https://www.databricks.com/blog/2023/03/24/hello-dolly-democratizing-magic-chatgpt-open-models.html)をアナウンスした際に言及されていたものとかなり近しいため、親和性はかなり高く、「自社で構築した特化型AIモデル」が身近になり、すべての企業が活用をしているような世界観を実現するために大きく前進したと感じました。


https://www.databricks.com/blog/2023/04/12/dolly-first-open-commercially-viable-instruction-tuned-llm

基調講演ではMosaicML CEOの [Naveen Rao](https://www.linkedin.com/in/naveen-rao-bba5b01?challengeId=AQEXbrKGrFUM8AAAAYkdTc0MKRQpwyQ4yixEpygxlarEfqSARDETnZ3Nos1hSLzCJXGaPcfQ4NoCs6rBYe82qZ1PncErSScjCQ&submissionId=f9b45851-6473-6e17-7a45-a46ab69b9e17&challengeSource=AgHNHGqao0fNOQAAAYkdThT4MJ44WroEiLXAseOtaGzgIwDia7tNtLkgt2Wj6io&challegeType=AgHro19Pb3aRpgAAAYkdThT7PxvJRzBeiGW37BPJqCitvIfzoPh5rEo&memberId=AgEPG2wj66E1FQAAAYkdThT-sCNGnjwMoNCA99FjR7hUOAM&recognizeDevice=AgGMzpKEog_TzgAAAYkdThUCBCFMBGUKYtbYPH1BPEq2USn_kzbk) 氏が、当初のスピーカー予定には含まれていなかったもののサプライズ登壇し、Gen AIの構築においては **Control**, **Privacy**, **Cost** の検討が必須であることや、MosaicMLのMPTモデルを利用すれば効果的なAIモデルがいかに手頃なコストで構築可能かについて言及しました。

|項目|概要|
|:--|:--|
|Control|自社のIPをもって競合と差別化する|
|Privacy|自社のデータの完全なプライバシーを維持する|
|Cost|より低コストで、自社のモデルを訓練・使用する|

![IMG_0770.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3194680/e2049548-17cc-1e69-46fb-50a3e04f260c.jpeg)



# Lakehouse AI

ChatGPTを始めとするGenerative AIの登場によって、AI活用は以前にも増して爆発的な注目を集めましたが、今後のAI活用戦略において重要なことは、**「自社データをいかに活用するか」** を検討することです。

Generative AI は、今後SaaS型モデルの価格が下落すると予想されること、すでに高品質なOSSモデルが登場していることにより、どの企業もLLMの活用に手を出しやすい土壌が出来上がり、そのモデリング技術自体は急速に陳腐化していくと思われます。

そこで他社との差別化を図るために重要となるのは、**自社しか知り得ないデータの活用** や、そのデータを活用した **自社でしか作成できない特定領域特化型のAIアプリ** による**競争優位性を獲得**すること、となります。

今回のアップデート内容も、各企業が自社で独自のモデルを活用するためのフローを促進するための機能が中心となりました。
![IMG_0763.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3194680/3d70c204-578e-a5e0-09b8-f223126df0b9.jpeg)
上記画像のように、Generative AIの活用フローは大きく以下の３つに分類されます。
* データの収集・加工
* 既存のモデル活用、または自身によるモデル構築
* モデルのサービング・監視

これらを、[UnityCatalog](https://www.databricks.com/jp/product/unity-catalog)の機能をベースに、データとAIアセット両方の総合的なガバナンスとリネージトラッキングを行った上で実現可能とした、Databricksにおけるデータ中心のAIプラットフォームの概念を指して **Lakehouse AI** と命名しているようです。

以降は、Lakehouse AIを構成する新機能の詳細について紹介します。

詳細は以下記事も合わせて御覧ください。

https://www.databricks.com/jp/blog/lakehouse-ai

## データの収集・加工
以下の２機能は、どちらもオンラインかつリアルタイムで実行するLLMアプリにおいて、自身が所有しているデータを利用できる状態に準備するための機能です。


### Feature Serving

ソースとなるDeltaテーブルと自動で同期され、継続的に更新される[Feature Table](https://www.databricks.com/product/feature-store)の機能です。
**最新のデータを含めた特徴量をリアルタイムで提供し、モデルに推論**させることができます。

### Vector Search

いわゆる、**ベクトルDB** にあたる機能です。ドキュメントや非構造化データをベクトル空間に埋め込み、その意味と文脈を捉えることのできるベクトルに変換します。これを活用することで、テキスト情報をキーワード検索できるようになり、**Generative AIがドキュメントを参考に回答を生成することが可能に**なります。

https://aws.amazon.com/what-is/vector-databases/

![IMG_0765.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3194680/7a8473f0-1407-b5e4-d194-d7a657ad85ed.jpeg)
会場では、これらの機能を利用した具体的なユースケースの紹介も実施されました。

:::note
上記２つの機能は概念が難解ですが、具体的なユースケース内でどのように活用されるかを捉えることで、機能理解が容易になるかと思います。
:::

>とある企業のカスタマーサービスにおいて、顧客Aから「最後の注文を返品したい」との要望がありました。
カスタマーサポートの担当者が、LLMアプリケーションに、「顧客Aから最後の注文をキャンセルしたいと要望が来ている」と入力すると、アプリケーションは、まず **Feature Serving** によって実現されたオンライン特徴量ストアにアクセスして、この特定の顧客の最近の取引や注文に関する情報を取得し、それと合わせて、**Vector Search** が実現する文書検索エンジンによって、返品処理に関する企業の内部文書を検索し、返品に関するルールを取得しました。
これらの情報はLLMモデルに送信され、LLMアプリケーションから **「注文が過去30 分以内に行われているため、キャンセル可能です。キャンセルしますか」** と回答され、サポート担当者はキャンセル処理を正常に実施しました。




## 既存のモデル活用、または自身によるモデル構築
以下の3機能を活用することで、ユーザーは予め用意されたモデルを活用したり、GUIでモデルの学習やモデル毎の回答の比較を行ったりと、Generative AIのモデル活用のためのハードルを下げることができます。

### Curated AI Models

用途別に優れたモデルをDatabricks社が厳選した、オープンソースモデルのライブラリです。
本機能は特にデモも実施されていないため全容は不明ですが、以下Databricks公式ブログの記載を確認する限りは、用途別に厳選した[AIモデルがDatabricks Marketplace上で提供され](https://qiita.com/nttd-inoutk/items/c7087ba42622fb332061#databricks-marketplace)、ユーザーが自由にダウンロードできるようにするというものに見受けられます。


> **最適化されたモデルサービングに支えられたキュレートされたモデルで、高いパフォーマンスを実現します:** 
ユースケースに最適なオープンソースのジェネレーティブAIモデルの調査に時間を費やすよりも、Databricksのエキスパートが一般的なユースケース向けにキュレートしたモデルに頼ることができます。私たちのチームは、モデルの状況を常に監視し、品質や速度など多くの要素について新しいモデルをテストしています。私たちは、Databricks Marketplaceでベストオブブリードの基礎モデルを利用できるようにし、デフォルトのUnityカタログでタスク固有のLLMを利用できるようにしています。モデルがUnityカタログに掲載されると、データを直接使用したり、微調整したりすることができます。これらのモデルごとに、Lakehouse AIのコンポーネントをさらに最適化します。例えば、モデル提供の待ち時間を最大10倍短縮します。

引用：https://www.databricks.com/jp/blog/lakehouse-ai

![IMG_0767.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3194680/dc68c3e4-40cd-9f57-667f-5c4d5a8d0faf.jpeg)

### AutoML for LLM Training
Databricksの[AutoML](https://www.databricks.com/product/automl)機能を利用した、テキスト分類のための生成AIモデルの微調整や、データへの埋め込みモデルの微調整がサポートされます。これにより、[Curated AI Models](#curated-ai-models)のモデルをベースに、社内のデータを利用して独自のモデルをチューニングするような作業は、GUIにおけるマウス操作で完結できるようになります。技術的なバックグラウンドが薄いユーザーでも手軽にモデルのチューニングができるようになり、また技術者たちの作業効率も向上するため、より組織のLLMモデル開発を促進できる機能になっています。

![IMG_0768.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3194680/11fc4084-71ad-1d24-4b48-fd4dfa5b7080.jpeg)

### Mlflow Evaluation
MLflow 2.4で発表された、Generative AIのモデル評価を簡易にし、LLMモデルを適切に運用するための営み・テクニックである[LLMOps](https://www.databricks.com/glossary/llmops)を実現するための機能の1つです。

複数作成されたLLMモデルのうち、どれがベストな選択肢であるかを見極めるために、モデルごとの質問と回答を並べて表示するなどの機能を用いて、簡単に比較することができます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3194680/305f7dc8-3e02-68d8-48c3-b7fbb1df4e0e.png)
https://mlflow.org/docs/latest/_images/artifact-view-ui.png


https://www.databricks.com/jp/blog/announcing-mlflow-24-llmops-tools-robust-model-evaluation


## モデルのサービング・監視

### Mlflow AI Gateway
組織内で、OpenAIを始めとするLLMアプリケーションを活用する権限をメンバーに与えるにつれて、レートリミットや認証情報の管理、急増するコスト、外部へ送信されるデータの追跡といった問題に直面すると想定されます。
そこで、MLflow 2.5の新機能の1つである MLflow AI Gateway を利用することで、Databricksのワークスペースレベルで API ゲートウェイを作成し、組織がそれぞれのアプリケーションへの経路を作成、ユーザーのアクセス権限までを一元管理することを可能にし、そして、様々なレート制限、キャッシュ、コスト帰属などを設定してコストや使用量を管理することができます。

![IMG_0769.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3194680/b9f79738-4ea8-1646-297d-970356baf9d6.jpeg)


### Model Serving Optimized for LLMs

LLMモデルの[サービング](https://www.databricks.com/product/model-serving)を実施するにあたり、LLMに最適化されたコンピューティングリソースが提供されます。リクエスト数に応じてオートスケールされるため、コストも必要最低限に最適化されます。

これまではサービングに使用できるサーバレス SQL Warehouseには、GPUを利用可能な選択肢が存在せず、CPUのみで事足りるワークロードでないと提供することができませんでした。しかし、今回GPUを扱える選択肢が出てきたことで、より複雑なワークロードにも耐えることができるようになり、実はかなり嬉しいアップデートポイントです。

### Lakehouse Monitoring 
モデルやデータを[モニタリング](https://qiita.com/nttd-inoutk/items/c7087ba42622fb332061#lakehouse-monitoring)することで、感覚ではなく、メトリクスを用いてLLMのモデルを評価するための指標を提供します。モデルドリフトが発生した場合にはアラートを発出したり、それに限らず品質アラートを特徴量テーブルや[推論テーブル](https://www.databricks.com/jp/blog/lakehouse-ai#:~:text=%E3%81%8B%E3%82%89(here)%E3%80%82-,%E6%8E%A8%E8%AB%96%E3%83%86%E3%83%BC%E3%83%96%E3%83%AB,-%3A%C2%A0%E3%83%87%E3%83%BC%E3%82%BF%E4%B8%AD%E5%BF%83)などを含めたリネージ全体で関連付けることで、原因の特定やデバッグ、再学習といった対応が容易になります。



# おわりに
基調講演においては、Generative AIは利用するだけでは差別化要素にならず、自社が所有するデータを活用した独自のAIアプリケーションを作成し、特定の領域に特化したモデルを構築してビジネスに活用していく必要性が繰り返し説かれていました。そのうえで、ガバナンス、プライバシー、そしてコストとの兼ね合いを鑑みても、Databricksはそのどれも欠けることなく高いレベルで実現可能なソリューションであると思います。
是非、この強力なData+AIプラットフォームを活用して、組織や企業のデータ活用を促進していただければ幸いです！

# 関連リンク（随時追加予定）

* [Data and AI Summit 2023 - Databricks 現地レポート（6/27 Partner Summit)](https://qiita.com/nttd-yuan/items/76950df80898b48ad2d3)
* [Data and AI Summit 2023 - Databricks 現地レポート（6/28 基調講演 #1）](https://qiita.com/nttd-inoutk/items/c7087ba42622fb332061)
* [Data and AI Summit 2023 - Databricks 現地レポート（6/29 基調講演 #1）](https://qiita.com/nttd-yuan/items/22d4aec254f0439d6aa4)
* [Data and AI Summit 2023 - Databricks 現地レポート（6/29 基調講演 #2）](https://qiita.com/nttd-yuan/items/06efb8020e67bd91649d)
* Data and AI Summit 2023 - Databricks 現地レポート（EXPO)
# 仲間募集
NTTデータ テクノロジーコンサルティング事業本部 では、以下の職種を募集しています。

<details><summary> 1. クラウド技術を活用したデータ分析プラットフォームの開発・構築(ITアーキテクト/クラウドエンジニア) </summary>
クラウド／プラットフォーム技術の知見に基づき、DWH、BI、ETL領域におけるソリューション開発を推進します。

https://enterprise-aiiot.nttdata.com/recruitment/career_sp/cloud_engineer

</details>

<details><summary> 2. データサイエンス領域（データサイエンティスト／データアナリスト） </summary>
データ活用／情報処理／AI／BI／統計学などの情報科学を活用し、よりデータサイエンスの観点から、データ分析プロジェクトのリーダーとしてお客様のDX／デジタルサクセスを推進します。

https://enterprise-aiiot.nttdata.com/recruitment/career_sp/datascientist

</details>

<details><summary> 3.お客様のAI活用の成功を推進するAIサクセスマネージャー </summary>
DataRobotをはじめとしたAIソリューションやサービスを使って、
お客様のAIプロジェクトを成功させ、ビジネス価値を創出するための活動を実施し、
お客様内でのAI活用を拡大、NTTデータが提供するAIソリューションの利用継続を推進していただく人材を募集しています。

https://nttdata.jposting.net/u/job.phtml?job_code=804

</details>

<details><summary> 4.DX／デジタルサクセスを推進するデータサイエンティスト《管理職/管理職候補》 </summary>
データ分析プロジェクトのリーダとして、正確な課題の把握、適切な評価指標の設定、分析計画策定や適切な分析手法や技術の評価・選定といったデータ活用の具現化、高度化を行い分析結果の見える化・お客様の納得感醸成を行うことで、ビジネス成果・価値を出すアクションへとつなげることができるデータサイエンティスト人材を募集しています。

https://nttdata.jposting.net/u/job.phtml?job_code=898

</details>

# ソリューション紹介
<details><summary> Trusted Data Foundationについて </summary>
～データ資産を分析活用するための環境をオールインワンで提供するソリューション～

https://enterprise-aiiot.nttdata.com/tdf/
最新のクラウド技術を採用して弊社が独自に設計したリファレンスアーキテクチャ（Datalake+DWH+AI/BI）を顧客要件に合わせてカスタマイズして提供します。
可視化、機械学習、DeepLearningなどデータ資産を分析活用するための環境がオールインワンで用意されており、これまでとは別次元の量と質のデータを用いてアジリティ高くDX推進を実現できます。

</details>

<details><summary> TDF-AM（Trusted Data Foundation - Analytics Managed Service）について </summary>
～データ活用基盤の段階的な拡張支援（Quick Start) と保守運用のマネジメント（Analytics Managed）をご提供することでお客様のDXを成功に導く、データ活用プラットフォームサービス～

https://enterprise-aiiot.nttdata.com/service/tdf/tdf_am
TDF?-AMは、データ活用をQuickに始めることができ、データ活用の成熟度に応じて段階的に環境を拡張します。プラットフォームの保守運用はNTTデータが一括で実施し、お客様は成果創出に専念することが可能です。また、日々最新のテクノロジーをキャッチアップし、常に活用しやすい環境を提供します。なお、ご要望に応じて上流のコンサルティングフェーズからAI/BIなどのデータ活用支援に至るまで、End to Endで課題解決に向けて伴走することも可能です。

</details>

<details><summary> NTTデータとDatabricksについて </summary>
NTTデータは、お客様企業のデジタル変?・DXの成功に向けて、「databricks」のソリューションの提供に加え、情報活?戦略の?案から、AI技術の活?も含めたアナリティクス、分析基盤構築・運?、分析業務のアウトソースまで、ワンストップの?援を提供いたします。

 https://enterprise-aiiot.nttdata.com/service/databricks

</details>

</details>

<details><summary> NTTデータとSnowflakeについて </summary>
NTTデータでは、Snowflake Inc.とソリューションパートナー契約を締結し、クラウド・データプラットフォーム「Snowflake」の導入・構築、および活用支援を開始しています。
NTTデータではこれまでも、独自ノウハウに基づき、ビッグデータ・AIなど領域に係る市場競争力のあるさまざまなソリューションパートナーとともにエコシステムを形成し、お客さまのビジネス変革を導いてきました。
Snowflakeは、これら先端テクノロジーとのエコシステムの形成に強みがあり、NTTデータはこれらを組み合わせることでお客さまに最適なインテグレーションをご提供いたします。

https://enterprise-aiiot.nttdata.com/service/snowflake

</details>

</details>

<details><summary> NTTデータとInformaticaについて </summary>
データ連携や処理方式を専門領域として10年以上取り組んできたプロ集団であるNTTデータは、データマネジメント領域でグローバルでの高い評価を得ているInformatica社とパートナーシップを結び、サービス強化を推進しています。

https://enterprise-aiiot.nttdata.com/service/informatica

</details>

</details>

<details><summary> NTTデータとTableauについて </summary>
ビジュアル分析プラットフォームのTableauと2014年にパートナー契約を締結し、自社の経営ダッシュボード基盤への採用や独自のコンピテンシーセンターの設置などの取り組みを進めてきました。さらに2019年度にはSalesforceとワンストップでのサービスを提供開始するなど、積極的にビジネスを展開しています。

これまでPartner of the Year, Japanを4年連続で受賞しており、2021年にはアジア太平洋地域で最もビジネスに貢献したパートナーとして表彰されました。
また、2020年度からは、Tableauを活用したデータ活用促進のコンサルティングや導入サービスの他、AI活用やデータマネジメント整備など、お客さまの企業全体のデータ活用民主化を成功させるためのノウハウ・方法論を体系化した「デジタルサクセス」プログラムを提供開始しています。

https://enterprise-aiiot.nttdata.com/service/tableau

</details>

</details>

<details><summary> NTTデータとAlteryxについて </summary>
Alteryxは、業務ユーザーからIT部門まで誰でも使えるセルフサービス分析プラットフォームです。
Alteryx導入の豊富な実績を持つNTTデータは、最高位にあたるAlteryx Premiumパートナーとしてお客さまをご支援します。

導入時のプロフェッショナル支援など独自メニューを整備し、特定の業種によらない多くのお客さまに、Alteryxを活用したサービスの強化・拡充を提供します。

https://enterprise-aiiot.nttdata.com/service/alteryx

</details>

</details>

<details><summary> NTTデータとDataRobotについて </summary>
DataRobotは、包括的なAIライフサイクルプラットフォームです。
NTTデータはDataRobot社と戦略的資本業務提携を行い、経験豊富なデータサイエンティストがAI・データ活用を起点にお客様のビジネスにおける価値創出をご支援します。

https://enterprise-aiiot.nttdata.com/service/datarobot

</details>