Databricksアドベントカレンダー2024の振り返り

皆様お疲れ様でした & ありがとうございました！

https://qiita.com/advent-calendar/2024/databricks

スタート前から、これまでにない盛り上がりを見せていた今年のアドベントカレンダーでした！開始前の時点で参加者数、購読者数ともに過去最多となっておりました。おじさん嬉しいです。

https://qiita.com/taka_yayoi/items/07f87381bf6b9ab144ab

ということで、今日でアドベントカレンダーが終了となりますので、いろいろと振り返りをさせていただければと思います。

なお、今回は初めてシリーズ4まで行きました！

![Screenshot 2024-12-25 at 19.05.57.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1168882/4cb95db2-0022-5cc9-6ae9-f3c8b51a2998.png)


![Screenshot 2024-12-25 at 19.05.23.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1168882/ceeb1951-8dc9-79a8-337d-821aeef36060.png)
![Screenshot 2024-12-25 at 19.05.34.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1168882/02cef01e-2488-a2b0-3feb-edcd41977ff4.png)
![Screenshot 2024-12-25 at 19.05.42.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1168882/a33f00a3-a340-b157-0926-a0029d35ca58.png)
![Screenshot 2024-12-25 at 19.05.47.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1168882/46a76a0a-26f1-8200-2faa-24e23ac13714.png)


# 概要

まずは、データ&AIカンパニーとしてデータから。

![Screenshot 2024-12-25 at 19.09.10.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1168882/e9f17338-6499-8f15-8c65-ee57d9944d5b.png)

参加者数、購読者数に加え、お気に入り数も過去最多、昨年の2倍以上となっております！そして、特筆すべきはDatabricks社員以外の方の投稿比率の急激な増加です。Databricks社員の投稿以上にお客様に記事を投稿いただきました！これはまさに、多くのお客様にDatabricksを使ってもらえるようになったことの証左ではないでしょうか。

入社して4年経ちますが、最近のニュースでもDatabricksに取り上げられるようになって嬉しい限りです(先日はモーニングサテライトに取材いただき、私も背中だけテレビに映りました)。とは言っても、日本での認知はまだまだだと感じていますので、引き続き頑張っていきたいと思います！

# 記事のピックアップ

毎日通知がやってきて見るのも大変(うれしい悲鳴)でしたが、いくつかの記事を引用させていただければと思います。

## Data Platform Engineering Tool として Databricks Asset Bundles が便利だった

いきなり[アセットバンドル](https://docs.databricks.com/ja/dev-tools/bundles/index.html)がくるとは。渋い、素敵。**データプラットフォームエンジニアリング**という考え方は初めて知りました。セルフサービスでアプリケーションを提供するためのプラットフォームを整備するという考え方、まさにアセットバンドルがぴったりだと思いました。

https://zenn.dev/yohei/articles/2024-11-30-databricks-asb

## Azure Databricks ワークスペースにアクセスできないときのトラブルシューティング

Azure Databricksにログインできない6つの事象、それに対する解決策をまとめていただいています。

https://qiita.com/samskeyti/items/7861e7d5cb3e01b097f5

## Databricks社内環境をTerraformで構築した話

アセットバンドルと領域が近いですが、Terraformを用いることでDatabricksのワークスペース環境をIaCで構築できます。こちらの記事では、Terraformを用いたワークスペース作成、カタログ作成、計算リソース作成、ダッシュボード作成までをカバーされています。

https://zenn.dev/datum_studio/articles/3550e8c80dee10?redirected=1

## なぜDatabricksは人々を魅了するのか😊

個人的にはすごく刺さった記事です。Databricksの会社の沿革から、レイクハウスなどの概念、お気に入りの機能など、非常にDatabricks愛に溢れる記事を書いていただいています。ありがとうございます！

https://qiita.com/akihiro_suto/items/aba8a56b119a94dae519

## Databricks と TROCCO の融合で実現するシームレスなデータパイプライン構築入門

最近、パートナーシップを発表させていただいたTROCCOとの連携をSalesforceからのデータ取り込みパイプラインの構築を通じてウォークスルーいただいています。

https://qiita.com/manabian/items/3641ddb3d4e11a8d7eb1

## Databricks経由Machine Learningの旅 第三話 -Unity Catalogの特徴を捉える-

機械学習モデルの構築の観点からUnity Catalogを整理いただいています。次回の記事をお待ちしています！

https://qiita.com/wakama1994/items/18979f3232024284e8a0

## セルフ分析ツールとしてのDatabricks Genie：設定から活用まで

Databricks今年のビックリドッキリメカとも言える[Genie](https://www.databricks.com/jp/product/ai-bi/genie)、有効に活用するためのベストプラクティスに加え、組織内に浸透させるためのアプローチについてもまとめていただいています。ありがとうございます！

https://qiita.com/sonetaka_mikihiro/items/0198f62f9a580c82567b

## Databricksクラスターの起動状態をAWS Lambdaを利用して監視する

これは目から鱗、というかこういうアプローチがあるんですね。おっしゃる通り、意図しないクラスターの軌道はコストへのインパクトがあるので、クラスターポリシーだけではなくこういった手立ても有効だと思いました。

https://qiita.com/RyoOkaya/items/d51ff8a3b8b1338425c4

## Lakehouse Federation／データの仮想化：Databricks から AWS Glue Data Catalog につないでみる

Databricksのフェデレーション機能である、[Lakehouse Federation](https://docs.databricks.com/ja/query-federation/index.html)を用いてAWS Glue Data Catalogに接続する手順を丁寧にまとめていただいています。GlueのデータをあたかもDatabricksのデータのようにアクセスすることができるので、シームレスなデータ連携が可能になります。是非ご活用ください！

https://qiita.com/nttd-saitouyun/items/d6507dc2bf8d9dc1f989

## databricksの資格全部とってみた(かった)

今年は資格に関する記事も多く書いていただいています。試験対策のためのRAGをご自身で構築(!?)されたり、Udemyを活用され、Databricksの資格、2つを除いて合格されてます！すごい！！

https://zenn.dev/t88/articles/c8f3dab7de2b6c

## [Databricks]私的、できるだけ早期から考慮したい管理機能3選

こちらも非常に有益な記事です。Databricksに限らず、このようなプラットフォームにおいて管理の観点は非常に重要です。グループやサービスプリンシパルの活用、コスト管理に関してまとめていただいています。

https://zenn.dev/salesnow_tech/articles/077ce844322d74

## Databricks Appsを触ってみた

これも今年のビックリドッキリメカ(しつこい)、Databricks上で簡単にアプリを組める[Databricks Apps](https://www.databricks.com/jp/product/databricks-apps)をご紹介いただいています。

https://qiita.com/imgw0917/items/159f393a8e7ad0610321

## 【Databricks】Dashboardsでピボットテーブルを触ってみる

タイトル通りの内容なのですが、ダミーデータ作成のSQLが大変参考になりました。ありがとうございます！

https://zenn.dev/hama_matcha/articles/cfcea637217288

## Databricksの第一回推し地味アップデート選手権！(2024/12/06号)

弊社SAのKuwanoさんの記事です。Unity Catalogに外部クラウドアクセス用のサービスクレデンシャルを保存できる機能、SQL実行結果を保持する`_sqldf`、ワークフローのforeachタスクタイプをご紹介されています。

https://blog.akuwano.net/2024/12/06/databricks-jimi-update-20241206/

## 【翻訳】Azure Databricksセキュリティベストプラクティス（バージョン2.0 - 2024年7月）

弊社SSAのNakazatoさんの記事です。すごいボリューム、その分勉強になります。勉強します。

https://qiita.com/nakazax/items/d515c0da6355145b0a32

## MLflowをDatabricksで使うと嬉しいポイント5選

弊社ソフトウェアエンジニアのWatanabeさんの記事です。MLflow開発者の視点から嬉しいポイントをまとめられています。って、これはスゴいことだ。

https://qiita.com/bsatbeyp/items/9faba7471a57bfd513af

## ふつうのデータ基盤移行 - Part 2. 技術選定編

旧データ基盤からの移行先としてDatabricksを選定(ありがとうございます！)いただく過程を事細かにまとめられています。こういった流れで選定いただいているのかと新鮮な気持ちで読ませていただきました。技術的な側面のみならず、SAのサポートなども評価いただきありがとうございます！

https://soonraah.github.io/posts/ordinary-data-platform-migration-part-2/

## 貧者のDatabricks

こちらも示唆に富んだ記事です。Databricksは計算リソースを使った分だけお金がかかるので、どれだけ無駄なコストを発生させないかが重要となります。さまざまなTipsをまとめていただいています。ありがとうございます！自分もアドベントカレンダーで[こちら](https://qiita.com/taka_yayoi/items/5a896bba6b6dae577a14)を書きました。

https://marqs.hatenablog.com/entry/poormansdatabricks

## センター試験の英語が200点中18点でも、ChatGPTを使ってDatabricks全7資格に合格する方法

こちらも資格系です。というか、タイトルのインパクトがすごいです。様々な翻訳技術を駆使してすべての資格を合格されています。すごい！

https://qiita.com/ikejiri-makoto2/items/093dfb52d4d19904d1de

あと、こちらは私も同じ経験しているので全くもって同意です。

> 沢山の長文の問題を解くと、IT系の英文なら速読できる様になりました。

## Azure DatabricksでUnity Catalogテーブル毎のストレージ容量を一覧表示する

AzureではAzure Data Lake Storage Gen2 (ADLS)のPythonライブラリというものがあるんですね。知りませんでした。ありがとうございます。

https://qiita.com/k_k_k/items/bb5db9b006c0c4f48e95

## AWS S3×databricks×dbtでデータパイプラインを構築する方法

dbtとDatabricksの連携の話も最近は多く聞くようになりました。自分でも改めて勉強します(数年前に触ったきり)。

https://qiita.com/RyutoYoda/items/cdaec36dda6059291b62

## Databricksでモデルサービングを迅速デプロイするNotebook運用

これは勉強になりました。モデルサービングエンドポイントをデプロイする際には、当然デプロイするモデルをトレーニングする必要があり、それに付随して共通する前処理や後処理が存在するケースは多いと思います。それらをノートブックにテンプレート化し、データサイエンティストはテンプレート上にトレーニングのロジックを記述し、後処理の中にあるデプロイメントのコードでモデルサービングエンドポイントを作成すると。なるほど。

https://www.case-k.jp/entry/2024/12/25/000842

## [2024年12月版] Databricksとは何か？

私の記事ですが。毎年このタイミングで振り返るようにしています。

https://qiita.com/taka_yayoi/items/e6a6e7b1a427d66b1cd9

## DatabricksによるVポイントのAI基盤構築　システム構成と効果

Findyに寄稿いただいた記事です。選定理由やツールの良し悪し含めて網羅的にご説明いただいています。ありがとうございます！

https://findy-tools.io/products/databricks/11/344

## Databricks のフリートインスタンスの仕様調査DAYO！

こちらもKuwanoさんの記事。フリートインスタンス使ったことなかったですが、スポットインスタンスを有効に活用するには必須の機能ですね！

https://blog.akuwano.net/2024/12/21/databricks-fleet-instance-investigate/

## Genie教育のためにやったことあれこれ

Qiita初投稿おめでとうございます！Genieを素で使うと思った通りの挙動になりがちですが、こちらの記事ではインストラクションやサンプルクエリー、テーブルのコメントを工夫して精度を改善されています。

https://qiita.com/konappoikona/items/9715f343fb207b8718c1

# まとめ

数もさることながら、その質と多様性にびっくりしました。本当にご参加いただきありがとうございます！

- インフラ周り(アーキテクチャ、セキュリティ)
- Databricks運用(コスト管理、ユーザー管理、モデルデプロイ)
- ツール連携(dbt、TOROCCO、ADF、BQなどなど)
- Genieのベストプラクティス
- LLM活用
- 資格
- Spark(これは私か)

また来年もよろしくお願いします！良いお年を！

### はじめてのDatabricks

[はじめてのDatabricks](https://qiita.com/taka_yayoi/items/8dc72d083edb879a5e5d)

### Databricks無料トライアル

[Databricks無料トライアル](https://databricks.com/jp/try-databricks)