Databricksランタイム11.0におけるApache Spark™ 3.3のご紹介

[Introducing Apache Spark™ 3\.3 for Databricks Runtime 11\.0 \- The Databricks Blog](https://www.databricks.com/blog/2022/06/15/introducing-apache-spark-3-3-for-databricks-runtime-11-0.html)の翻訳です。

:::note warn
本書は抄訳であり内容の正確性を保証するものではありません。正確な内容に関しては原文を参照ください。
:::

本日(2022/6/15)、[Databricksランタイム 11\.0](https://docs.databricks.com/release-notes/runtime/11.0.html)の一部としてDatabricksで[Apache Spark™ 3\.3](https://spark.apache.org/releases/spark-release-3-3-0.html)を利用できるようになったことを発表できて嬉しく思います。Spark 3.3のリリースにおいて多大なる貢献をしたApache Sparkコミュニティに感謝の意を表します。

PySparkの[PyPI](https://pypi.org/)での月間ダウンロード数は急激に増加して**2100万**となり、今やPythonは最も人気のあるAPI言語となっています。今年の年度増加率は、昨年時点のPySparkの月間ダウンロードの倍増を示しています。また、Mavenの月間ダウンロード数は**2400万**を超えました。Sparkはスケーラブルな計算処理において最も広く使われるエンジンとなりました。
![](https://www.databricks.com/wp-content/uploads/2022/06/db-209-blog-img-1.png)

Sparkをさらに統合し、シンプルかつ高速、スケーラブルにするというゴールを追求し続けることで、以下の機能を用いてSpark 3.3はそのスコープを拡大しています。

- 最大10倍のスピードアップによるBloomフィルターを通じたjoinクエリー性能の改善
- [datetime\.timedelta](https://docs.python.org/3/library/datetime.html#timedelta-objects)や[merge\_asof](https://pandas.pydata.org/docs/reference/api/pandas.merge_asof.html?highlight=pa)のような人気のあるPandasの機能のサポートによるPandas APIカバレッジの増加
- ANSI準拠を改善し、数多くのビルトイン関数をサポートすることで、従来のデータウェアハウスからの移行をシンプルに
- 改善されたエラーハンドリング、オートコンプリート、パフォーマンス、プロファイリングによる開発生産性のブースト

# パフォーマンスの改善

**Bloomフィルターjoin**([SPARK\-32268](https://issues.apache.org/jira/browse/SPARK-32268)): Sparkはシャッフルの中間データサイズと計算量を削減するために、初期段階でデータをフィルタリングできるように、適切な際にはクエリープランにBloomフィルターを注入し、プッシュダウンすることができます。Bloomフィルターは、動的ファルスキッピングが十分に適用できない場合に、動的パーティションプルーニング(刈り込み)([DPP](https://www.databricks.com/session_eu19/dynamic-partition-pruning-in-apache-spark))と動的ファイルプルーニング([DFP](https://docs.databricks.com/delta/optimizations/dynamic-file-pruning.html))を補完するために設計された行レベルの実行時フィルターです。以下のグラフに示すように、3つの異なるバリエーションのデータソース(チューニングなしのDelta Lake、チューニングしたDelta Lake、生のParquetファイル)に対してTPC-DSベンチマークを行い、このBloomフィルターの機能を有効化することで最大10倍のスピードアップを観測しました。パフォーマンス改善の割合は、チューニング前のDelta Lakeデータソースや生のParquetファイルベースのデータソースのように、ストレージのチューニングや正確な統計情報がない場合に顕著になります。このような場合、Bloomフィルターはストレージ/統計情報のチューニングに関係なくより堅牢なクエリーパフォーマンスを実現します。
![](https://www.databricks.com/wp-content/uploads/2022/06/db-209-blog-img-2.png)

**クエリー実行のエンハンスメント**: このリリースではAdaptive Query Execution([AQE](https://qiita.com/taka_yayoi/items/38e59a224dfa40994638))に幾つかの改善が加えられました。

1. 集計/Unionを通じた中間の空のリレーションの伝播([SPARK\-35442](https://issues.apache.org/jira/browse/SPARK-35442))
1. 通常あるいはAQEオプティ魔座における1行のクエリープランの最適化([SPARK\-38162](https://issues.apache.org/jira/browse/SPARK-38162))
1. AQEにおける制限排除のサポート([SPARK\-36424](https://issues.apache.org/jira/browse/SPARK-36424))

Whole-stage codegenのカバレッジが以下のように複数の領域で改善されます。

- Full outer merge join ([SPARK\-35352](https://issues.apache.org/jira/browse/SPARK-35352)、20%~30%のスピードアップ)
- Full outer shuffled hash join ([SPARK\-32567](https://issues.apache.org/jira/browse/SPARK-32567)、10%~20%のスピードアップ)
- Existence sort merge join ([SPARK\-37316](https://issues.apache.org/jira/browse/SPARK-37316))
- グルーピングキーなしのSort aggregate ([SPARK\-37564](https://issues.apache.org/jira/browse/SPARK-37564))

**Parquetの複雑なデータタイプ**([SPARK\-34863](https://issues.apache.org/jira/browse/SPARK-34863)): この改善では、 list、map、arrayのような複雑なタイプに対してSparkのベクトル化Parquetリーダーのサポートが追加されます。[micro\-benchmarks](https://github.com/apache/spark/pull/33695)が示すように、Sparkではstructのフィールドをスキャンする際に最大15倍の性能改善を達成しており、struct、mapタイプの要素から構成されるarrayを読み込む際には最大1.5倍の性能改善が認められています。

# Pandasをスケールさせる

**最適化されたデフォルトインデックス**: このリリースでは、Pandas API on Spark([SPARK\-37649](https://issues.apache.org/jira/browse/SPARK-37649))において、デフォルトのインデックスを`sequence`から`distributed-sequence`に切り替えており、後者においてはCatalyst Optimizerによる最適化との親和性が高くなります。Pandas API on Sparkのデフォルトインデックスによるデータのスキャンは、i3.xlargeの5ノードのクラスターのベンチマークにおいて2倍高速になりました。
![](https://www.databricks.com/wp-content/uploads/2022/06/db-209-blog-img-3.png)

**Pandas APIのカバレッジ**: 今ではPySparkはネイティブで[datetime\.timedelta](https://docs.python.org/3/library/datetime.html#timedelta-objects)を理解することができます([SPARK\-37275](https://issues.apache.org/jira/browse/SPARK-37275)、[SPARK\-37525](https://issues.apache.org/jira/browse/SPARK-37525))。今では、このPython型はSpark SQLのdate-time interval型にマッピングされます。また、このリリースで、これまでPandas API on Sparkに欠けていたパラメーターや新たなAPIの機能がサポートされます。例としては、ps.merge_asof([SPARK\-36813](https://issues.apache.org/jira/browse/SPARK-36813))、ps.timedelta_range([SPARK\-37673](https://issues.apache.org/jira/browse/SPARK-37673))、ps.to_timedelta([SPARK\-37701](https://issues.apache.org/jira/browse/SPARK-37701))のようなエンドポイントが挙げられます。

# 移行をシンプルに

**ANSIのエンハンスメント**: このリリースでは、ANSIのintervalデータタイプのサポートを完全なものとします([SPARK\-27790](https://issues.apache.org/jira/browse/SPARK-27790))。今では、テーブルに対してintervalを読み書きし、集計や比較を含む日付/時間の計算処理を行うために多くの関数/オペレーターでintervalを使うことができます。ANSIモードでの明示的なキャストは、データの損失を防ぎつつも、タイプ間の安全なキャストをサポートします。`try_add`や`try_multiply`のような`try`関数のライブラリで追加されている関数において補完的なANSIモードにおいては、ユーザーはANSIモードの安全性を享受しつつも、耐障害性のあるクエリーを維持することができます。

**ビルトインの関数**: `try_*`関数以外にも([SPARK\-35161](https://issues.apache.org/jira/browse/SPARK-35161))、このリリースでは、新たな9つの線形回帰関数や統計関数、4つの文字列処理関数、aes_encryptionと復号化関数、一般的なfloor、ceiling関数、"to_number"フォーマットなどが含まれています。

# 生産性をブーストする

**エラーメッセージの改善**: このリリースでは、`DIVIDE_BY_ZERO`のような明示的なエラークラスの導入をユーザーが確認できる旅をスタートしました。これによって、より多くの文脈を踏まえて、正式な[ドキュメント](https://docs.databricks.com/error-messages/index.html)を含むオンラインの情報を検索することが容易になります。

今では、Sparkが返却する多くの実行時エラーには、特定のネスト化された参照内容における行番号、列番号のように、どこでエラーが発生したのかがわかるように正確な文脈を返却します。
![](https://www.databricks.com/wp-content/uploads/2022/06/db-209-blog-img-4.png)

**Python/Pandas UDF向けのプロファイラー**([SPARK\-37443](https://issues.apache.org/jira/browse/SPARK-37443)): このリリースでは、有用な統計情報を示す決定論的なUDFのプロファイリングを行う、新たなPython/Pandas UDFプロファイラーを導入します。新たなインフラストラクチャを用いてPySparkを実行する例を示します。
![](https://www.databricks.com/wp-content/uploads/2022/06/db-209-blog-img-5.png)
![](https://www.databricks.com/wp-content/uploads/2022/06/db-209-blog-img-6.png)

**型ヒントのインラインコンプリートによるオートコンプリートの改善**([SPARK\-39370](https://issues.apache.org/jira/browse/SPARK-39370)): より改善されたオートコンプリートを提供するために、このリリースでは全ての型ヒントはstubファイルからインラインの型ヒントに移行されました。例えば、パラメーターの型を表示することで有用なコンテキストを提供する助けになります。
![](https://www.databricks.com/wp-content/uploads/2022/06/db-209-blog-img-7.png)

この記事では、Apache Spark 3.3.0におけるハイレベルの機能と改善をまとめました。これらの機能にディープダイブする今後の記事を楽しみにしていてください。全てのSparkコンポーネントにおける主要な機能の包括的なリストや解決されたJIRAチケットに関しては、Apache Spark 3.3.0の[リリースノート](https://spark.apache.org/releases/spark-release-3-3-0.html)をご覧ください。
![](https://www.databricks.com/wp-content/uploads/2022/06/db-209-blog-img-8.png)

# 今からSpark 3.3を使い始める

Databricksランタイム11.0でApache Spark 3.3を試すには、[Databricks Community EditionかDatabricksのトライアル](https://www.databricks.com/jp/try-databricks)にサインアップしてください。両方とも無料ですぐにスタートすることができます。Spark 3.3を使用するには、クラスターを起動する際にランタイムでバージョン`11.0`以降を選ぶだけです。
![](https://www.databricks.com/wp-content/uploads/2022/06/517ceb27-e082-496d-a590-717664218585.png)
*Databrikcsランタイム11.0*

### Databricks 無料トライアル

[Databricks 無料トライアル](https://databricks.com/jp/try-databricks)