【Microsoft Tech Brief】 Fabric + Databricks 最新機能

# はじめに
11月7日、Microsoft様とDatabricks様が共同で開催したイベント「Microsofy Tech Brief」が開催され、両社より「Microsoft Fabric」と「Azure Databricks」の新機能についての発表や、両サービスを組み合わせることで実現できるデータ分析のデモンストレーションが行われました。

今回はその発表内容についてまとめていきます。

# Databricks と Fabric のデータ基盤統合について
Microsoft Fabric と Azure Databrics は両者の連携を強めていくためのアップデートを継続して行っています。
![2024-11-07_15h40_54.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/78105661-a4bd-0dac-6a0f-fea48b47c71a.png)
パブリックプレビュー中の機能として、Databricks のデータレイヤーを Fabric の OneLake と統合する機能が公開されました。OneLake 内の Unity カタログ内のテーブルのソースを OneLake に指定したり、逆に OneLake のショートカット機能で Unity Catalog を参照することで、両者のサービスで相互に利用可能になるということです。
![2024-11-07_15h43_46.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/804b1271-a2bc-ea04-5e34-f39f1c54d2d2.png)
これらはデータをコピーせず単一の信頼できるソースを利用できるため「**1つのデータで2倍の分析ができる**」と説明されていました。

なお、現時点で一般アクセス可能な手法として、FabricのSQLエンドポイントをDatabricksの接続先に指定する手法も紹介されていました。
![2024-11-07_15h44_45.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/bbd71269-f518-20fe-9d91-77285cec11b0.png)

データカタログ面的な部分として、Unity Catalog と Fabric の Microsoft Purview を統合するための開発も現在進行中と語られました。
![2024-11-07_16h05_37.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/6e06604a-6722-fb39-1afa-71b1fa59e6f0.png)

Microsoft は Purview の立ち位置を「Catalog of Catalog」と称しており、Databricks 以外のサービスにおけるデータカタログも束ねる働きをするとのことです。
![2024-11-07_16h04_48.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/3acc978d-47fb-ec4a-faee-708065beaf1d.png)

# Fabricの新機能
生成AIを活用した Copilot 機能を各所で推し進めている Microsoft ですが、 Fabric においてこれまで存在した開発者向けのチャットのみならず、エンドユーザー向けに Power BI ダッシュボード上で直接 Copilot に問い合わせるボタンを設置できるようになりました。 
![2024-11-07_15h55_55.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/4cb212bf-bbb2-bbc0-ec3e-7516d4c648a0.png)
![2024-11-07_15h57_00.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/b95f7b42-18f6-6a99-fa35-f93bdf5a2450.png)

前述した Databricks との統合機能の一つとして、Unity Catalog のミラーリング機能について実演されました。
![2024-11-07_15h58_33.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/6d5454f6-8115-2983-f644-c1f6d73460f2.png)
![2024-11-07_16h00_27.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/6e94cfc8-b36c-e529-6b5b-373e7f225cf3.png)
![2024-11-07_16h00_32.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/5dd18f9c-fda6-cacc-4c87-646186d62414.png)
![2024-11-07_16h00_48.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/83c2f604-8bfa-7dcf-105a-7b3e1b780613.png)

なお、現時点ではミラーリング可能な対象に制限があり、セキュリティ付きのデータ、Delta Sharing などの外部テーブル、Deltaテーブル以外のデータが対象外となっています。
![2024-11-07_16h02_15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/0334390e-8d4e-8097-9a55-b76eb43bade8.png)

# databricksの新機能

Fabric は Power BI との強力な連携機能をアピールしていますが、先日 Databricks からも直接 PBI にパブリッシュする機能が公開されました。

![2024-11-07_15h47_13.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/8e650477-4d2a-a710-3141-6e400c624cfd.png)
![2024-11-07_15h49_37.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/47813822-ad1e-aa78-53f8-b4cf4a4d8ad1.png)

また、生成 AI でカタログのメタデータを生成する機能が以前より公開されていましたが、こちらが日本語に対応してさらに使いやすくなりました。
![790c91cf-8a89-4c7b-9629-19608bc8d16e.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/0e1ce23c-2663-1331-3b9a-14365002bae4.jpeg)

また、コスト管理に関わる機能として、以前公開されたダッシュボード機能が紹介されると共に、新たに「予算ポリシー」機能が公開されました。
![2024-11-07_16h26_37.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/ef0d71a2-ba9b-bf5f-08a0-aa079d80e8df.png)

こちらは、Databricks がサーバレスコンピューティングの利用範囲を拡大させていくにあたって、従来のクラスターに紐づけられたタグだけではなく、ユーザーの所属によってタグ付けを行ってコスト管理を可能にするというものでした。
![2024-11-07_16h28_52.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/3350e070-720b-b7ec-a4b9-250754e1c1b5.png)
![2024-11-07_16h29_20.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/74f320e2-72df-9446-48ee-f31ff83eedcd.png)

他社アプリからのデータ取り込みコネクタの強化について。プレゼン内では Azure SQL Database との統合が実演されていました。
![2024-11-07_16h32_34.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/1d04d60e-01f8-7c01-3809-4a331c234c1e.png)
![2024-11-07_16h37_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/0fb961af-dec6-680b-ea14-2154ff57a08b.png)
![2024-11-07_16h37_41.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/726eafc9-028f-2c02-c06c-22ca28320205.png)
![2024-11-07_16h37_59.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/07fbcdf4-eff2-4878-9240-2441f3e8ae33.png)

そして、Databricks 上でデータ+AI活用アプリの開発を完結できる機能「Databricks Apps」の紹介。
![2024-11-07_16h45_15.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/7f699be0-a607-566d-47e1-05727949a584.png)
![2024-11-07_16h48_46.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/268cac74-dbe6-f914-7b5c-becfdda028a1.png)
アプリは Databricks のサーバレスコンピュート上で動作し、ユーザーは Unity Catalog のアカウントを使って認証することが可能です。
![2024-11-07_16h45_51.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/196bdac2-f654-a3ee-257a-2979821ce080.png)
![2024-11-07_16h47_07.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/a16f4fd6-93d0-8192-5a23-3756563c7d66.png)

アプリ開発は Git 統合での CI/CD の他、ブラウザ上でのローコード開発についても説明されていました。
![2024-11-07_16h46_12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/729a2043-0115-bcc7-2cd1-e3a9571fe2d7.png)
![2024-11-07_16h49_43.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/ea54b88b-d5cb-5d4b-9f79-7e4434c70c4a.png)

# おわりに
今回の講演では、Databricks と Fabric の両側から、単純な競合サービスとしてではなく、1つのデータを基にそれぞれの強みを生かすように統合を進めるという方向性が示されたのが興味深かったです。PurviewとUnity Catalogの立ち位置など、類似している各サービスの相違が自分のなかでより明確になったように思います。

また、12月の9日から12日にかけて、Microsoft Azure AI Innovation Week というウェビナーイベントが行われ、この中でも Databricks や Fabric のアップデート情報もあるとのことなので、こちらも忘れずにチェックしておきたいですね。
![2024-11-07_16h58_12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3327019/dd20e157-ba6b-66b3-9509-b4656f4f38f4.png)

https://aka.ms/aiinnovationweek