Databricks Assistant システムテーブル を触ってみる

# はじめに

株式会社NTTデータ [デジタルサクセスソリューション事業部](https://enterprise-aiiot.nttdata.com/) の [nttd-saitouyun](https://qiita.com/nttd-saitouyun) です。

[Databricks のリリースノート](https://docs.databricks.com/ja/release-notes/product/index.html)を振り返っていたところ、2024年7月に、何やらシステムテーブルがたくさんリリースされていました。今回は **Databricks Assistant システムテーブル** を触ってみます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/67389863-35d0-c311-c399-32a44a872ba2.png)


他のテーブルについてはこちらです。

- [Databricks Query history システムテーブル を触ってみる](https://qiita.com/nttd-saitouyun/items/5cc40fbb660692125449)
- [Databricks Node timeline システムテーブル を触ってみる](https://qiita.com/nttd-saitouyun/items/35298f695fd955051e6e)



# アップデート内容

アップデートは以下の2つでした。

>- **Databricks Assistant system table now available (Public Preview)**
[July 10, 2024]
Databricks Assistant events are now logged in a system table located at system.access.assistant_events. See [Databricks Assistant system table reference](https://docs.databricks.com/ja/admin/system-tables/assistant.html).
>- **Monitor Databricks Assistant activities with system tables (Public Preview)**
[July 30, 2024]
You can now monitor Databricks Assistant activities in a dashboard by using system tables. For more information, see [Databricks Assistant system table reference](https://docs.databricks.com/ja/admin/system-tables/assistant.html).

Databricks Assistant のイベントを記録する**システムテーブル**とそのアクティビティを可視化する**ダッシュボード**がリリースされています。





# Databricks Assistant システムテーブル（system.access.assistant_events）

テーブルの詳細は以下のページにまとまっています。

https://docs.databricks.com/ja/admin/system-tables/assistant.html


実テーブルのイメージは以下の通りです。そこまで情報量は多くないシンプルなテーブルでした。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/b7c8bf79-326f-ef00-1cdd-d9b1fe65bfcd.png)


「いつ(event_time / event_date)」「誰が(initiatied_by)」「どのワークスペースで（workspace_id）」「どの端末で（user_agent）」で Databricks Assistant を利用したのかがわかります。









# アシスタントシステムテーブルダッシュボード


## ダッシュボードのインポート

Github にダッシュボードの[ファイル](https://github.com/databricks/tmm/tree/main/System-Tables-Demo/Assistant-Events)が公開されていますのでダウンロードします。




![download.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/69df94a1-d2ca-bece-e8f9-cc19d2745010.png)

Databricks の画面に戻り、以下のようにダッシュボードをインポートします。

![upload.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/b4f0a8fd-eabd-4d22-4bc1-d42409e3cba0.png)


databricks-assistant-metrics というダッシュボードが表示されれば完了です！

![dashboard](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/a21df88e-d00c-88c2-8753-55f9c3fc2383.png)


## ダッシュボードの見方

【Daily Active Users / Monthly Active Users】

![dashboard](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/a21df88e-d00c-88c2-8753-55f9c3fc2383.png)

initiatied_by カラムの内容を日、月の期間でカウントしてくれます。**Databricks Assistant を使っているユーザがどのくらいいるのか**がわかります。Databricks の研修や利活用促進イベントを行った後に、アクティブユーザ数が増えているのか？、使い続けてくれているのか？などをモニタリングするのに利用できそうです。


<br>

【Active Users Per Workspace】

![dashboard2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/203f6121-2b2a-2a6f-b865-42b0b3ba1ecf.png)

次のグラフはワークスペース別の Databricks Assistant を使っているユーザ数を表しています。ワークスペースを部門ごとに払い出しているときに、**どの部署でデータ活用が活発か**がわかりそうです。

表示されている**データは1年（365日）分**なので、一回使ってその後使わなくなっている人も含まれているので注意したほうが良さそうです。ダッシュボードをカスタマイズして月別にみるなど工夫をするとより理解が深まると思います。


<br>


【Total Submissions / Number of submissions per workspace】

![dashboard3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/3988e120-b71d-219e-d098-ef1c168310ea.png)

次のグラフはユーザではなく、**イベント（Databricks Assistant を使った数）がどのくらいあるのか**がグラフからわかります。日ごととワークスペースごとのイベント数が表示されています。

データパイプラインの開発、モデルの開発などのタイミングなどでスパイクが起きそうなグラフですね。
イベントが少ないと活用が進んでいないことがわかるので対策を考える、イベントが多すぎると開発で困っていることがないか確認する、などのアクションを行うとよいのではないでしょうか。

<br>

【Top Users Overall】

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3118781/8f11bb89-4a48-8b2b-e406-b05e18657c99.png" width = "500">

**Databricks Assistant のトップユーザのランキング**です。ct はカウントの略です。こちらも1年分の値になるので月別などで期間をつけて集計したほうが、深掘りができそうです。

**どの人が Databricks を積極的に使ってくれているか**わかりますね。その方に積極的に悩みを聞いたり、より使ってもらうための改善案をディスカションするなどのアクションが取れそうです。

（ユーザ名をぼかしていますが、上司がDatabricksを実機を動かしながら勉強していただいていることがよくわかりました！）


# おわりに
基本的にはマニュアルにも記載がありますが、より細かいところを記載してみました。特にダッシュボードは一部のスクリーンショットしか載っていなかったので厚めに記載してみました！

Databricks Assistant は便利すぎて使い始めるとついつい頼ってしまうため、**Databricks の利用状況がよく反映されたダッシュボード**になりそうです。

このテーブルとダッシュボードを活用することで、**データ利活用を効率的に推進していく**ことができそうです！







# 仲間募集
NTTデータ デザイン＆テクノロジーコンサルティング事業本部 では、以下の職種を募集しています。

<details><summary> 1. クラウド技術を活用したデータ分析プラットフォームの開発・構築(ITアーキテクト/クラウドエンジニア) </summary>
クラウド／プラットフォーム技術の知見に基づき、DWH、BI、ETL領域におけるソリューション開発を推進します。

https://enterprise-aiiot.nttdata.com/recruitment/career_sp/cloud_engineer

</details>

<details><summary> 2. データサイエンス領域（データサイエンティスト／データアナリスト） </summary>
データ活用／情報処理／AI／BI／統計学などの情報科学を活用し、よりデータサイエンスの観点から、データ分析プロジェクトのリーダーとしてお客様のDX／デジタルサクセスを推進します。

https://enterprise-aiiot.nttdata.com/recruitment/career_sp/datascientist

</details>

<details><summary> 3.お客様のAI活用の成功を推進するAIサクセスマネージャー </summary>
DataRobotをはじめとしたAIソリューションやサービスを使って、
お客様のAIプロジェクトを成功させ、ビジネス価値を創出するための活動を実施し、
お客様内でのAI活用を拡大、NTTデータが提供するAIソリューションの利用継続を推進していただく人材を募集しています。

https://nttdata.jposting.net/u/job.phtml?job_code=804

</details>

<details><summary> 4.DX／デジタルサクセスを推進するデータサイエンティスト《管理職/管理職候補》 </summary>
データ分析プロジェクトのリーダとして、正確な課題の把握、適切な評価指標の設定、分析計画策定や適切な分析手法や技術の評価・選定といったデータ活用の具現化、高度化を行い分析結果の見える化・お客様の納得感醸成を行うことで、ビジネス成果・価値を出すアクションへとつなげることができるデータサイエンティスト人材を募集しています。

https://nttdata.jposting.net/u/job.phtml?job_code=898

</details>

# ソリューション紹介
<details><summary> Trusted Data Foundationについて </summary>
～データ資産を分析活用するための環境をオールインワンで提供するソリューション～

https://enterprise-aiiot.nttdata.com/tdf/
最新のクラウド技術を採用して弊社が独自に設計したリファレンスアーキテクチャ（Datalake+DWH+AI/BI）を顧客要件に合わせてカスタマイズして提供します。
可視化、機械学習、DeepLearningなどデータ資産を分析活用するための環境がオールインワンで用意されており、これまでとは別次元の量と質のデータを用いてアジリティ高くDX推進を実現できます。

</details>

<details><summary> NTTデータとDatabricksについて </summary>
NTTデータは、お客様企業のデジタル変革・DXの成功に向けて、「databricks」のソリューションの提供に加え、情報活用戦略の立案から、AI技術の活用も含めたアナリティクス、分析基盤構築・運用、分析業務のアウトソースまで、ワンストップの支援を提供いたします。

 https://enterprise-aiiot.nttdata.com/service/databricks

</details>

<details><summary> TDF-AM（Trusted Data Foundation - Analytics Managed Service）について </summary>
～データ活用基盤の段階的な拡張支援（Quick Start) と保守運用のマネジメント（Analytics Managed）をご提供することでお客様のDXを成功に導く、データ活用プラットフォームサービス～

https://enterprise-aiiot.nttdata.com/service/tdf/tdf_am
TDF-AMは、データ活用をQuickに始めることができ、データ活用の成熟度に応じて段階的に環境を拡張します。プラットフォームの保守運用はNTTデータが一括で実施し、お客様は成果創出に専念することが可能です。また、日々最新のテクノロジーをキャッチアップし、常に活用しやすい環境を提供します。なお、ご要望に応じて上流のコンサルティングフェーズからAI/BIなどのデータ活用支援に至るまで、End to Endで課題解決に向けて伴走することも可能です。

</details>

</details>

<details><summary> NTTデータとSnowflakeについて </summary>
NTTデータでは、Snowflake Inc.とソリューションパートナー契約を締結し、クラウド・データプラットフォーム「Snowflake」の導入・構築、および活用支援を開始しています。
NTTデータではこれまでも、独自ノウハウに基づき、ビッグデータ・AIなど領域に係る市場競争力のあるさまざまなソリューションパートナーとともにエコシステムを形成し、お客さまのビジネス変革を導いてきました。
Snowflakeは、これら先端テクノロジーとのエコシステムの形成に強みがあり、NTTデータはこれらを組み合わせることでお客さまに最適なインテグレーションをご提供いたします。

https://enterprise-aiiot.nttdata.com/service/snowflake

</details>

</details>

<details><summary> NTTデータとInformaticaについて </summary>
データ連携や処理方式を専門領域として10年以上取り組んできたプロ集団であるNTTデータは、データマネジメント領域でグローバルでの高い評価を得ているInformatica社とパートナーシップを結び、サービス強化を推進しています。

https://enterprise-aiiot.nttdata.com/service/informatica

</details>

</details>

<details><summary> NTTデータとTableauについて </summary>
ビジュアル分析プラットフォームのTableauと2014年にパートナー契約を締結し、自社の経営ダッシュボード基盤への採用や独自のコンピテンシーセンターの設置などの取り組みを進めてきました。さらに2019年度にはSalesforceとワンストップでのサービスを提供開始するなど、積極的にビジネスを展開しています。

これまでPartner of the Year, Japanを4年連続で受賞しており、2021年にはアジア太平洋地域で最もビジネスに貢献したパートナーとして表彰されました。
また、2020年度からは、Tableauを活用したデータ活用促進のコンサルティングや導入サービスの他、AI活用やデータマネジメント整備など、お客さまの企業全体のデータ活用民主化を成功させるためのノウハウ・方法論を体系化した「デジタルサクセス」プログラムを提供開始しています。

https://enterprise-aiiot.nttdata.com/service/tableau

</details>

</details>

<details><summary> NTTデータとAlteryxについて </summary>
Alteryxは、業務ユーザーからIT部門まで誰でも使えるセルフサービス分析プラットフォームです。
Alteryx導入の豊富な実績を持つNTTデータは、最高位にあたるAlteryx Premiumパートナーとしてお客さまをご支援します。

導入時のプロフェッショナル支援など独自メニューを整備し、特定の業種によらない多くのお客さまに、Alteryxを活用したサービスの強化・拡充を提供します。

https://enterprise-aiiot.nttdata.com/service/alteryx

</details>

</details>

<details><summary> NTTデータとDataRobotについて </summary>
DataRobotは、包括的なAIライフサイクルプラットフォームです。
NTTデータはDataRobot社と戦略的資本業務提携を行い、経験豊富なデータサイエンティストがAI・データ活用を起点にお客様のビジネスにおける価値創出をご支援します。

https://enterprise-aiiot.nttdata.com/service/datarobot

</details>