PySpark によるデータエンジニアリング実践

## 概要

PySparkにてデータエンジニアリングを実施する際に知っておくべき次のテーマを説明する。

1. ACID トランザクションの保証されているデータフォーマットの利用
1. レイテンシーに応じたデータ処理方法の選択
1. メダリオンアーキテクチャによるデータエンジニアリング
1. Spark によるデータエンジニアリングに利用すべきプログラミング言語とライブラリー
1. パフォーマン最適化
1. データエンジニアリングにおける Spark 関連
1. 処理の共通化

本記事のコードを含むノートブックを以下のリンクに保存しておりますので、興味がある方は Databricks 等の環境にインポートして実行してみてください。

https://github.com/manabian-/databricks_development_practices/blob/main/docs/jp/notebooks/T20__L100__010_PySpark%20%E3%81%AB%E3%82%88%E3%82%8B%E3%83%87%E3%83%BC%E3%82%BF%E3%82%A8%E3%83%B3%E3%82%B8%E3%83%8B%E3%82%A2%E3%83%AA%E3%83%B3%E3%82%B0%E5%AE%9F%E8%B7%B5.ipynb

## 本記事の位置付け

次の開発ガイドシリーズにおけるデータエンジニアリング分野の1記事であり、リンク先には記事にて記事の全体像を整理している。

| GroupID | 分野               |
| ------- | ---------------------- |
| T10     | Spark概要                  |
| **T20**     | **データエンジニアリング** |
| T30     | データ品質チェック     |
| T40     | データサイエンス       |                                         |
| T50     | メタデータデプロイ     |
| T60     | テスト                 |
| T70     | DevOps                 |

https://qiita.com/manabian/items/67bcb6c5823bc4d5d944


## 1. ACID トランザクションが保証されるデータフォーマットの利用

データレイクでは、ソースから連携される CSV などのファイルをそのまま蓄積するものという固定概念があるが、構造データと半構造データを ACID トランザクションをサポートしているファイル形式（実際には複数種のファイルやディレクトリで構成されていることからファイルレイヤーと記載されていることもあり）として保存する方法が普及している。

OSSとして次のファイル形式がよく利用さている。Databricks では、基本的には Delta Lake 形式を用いることが推奨事項である。
-   [Delta Lake](https://delta.io/)
-   [Apache Iceberg](https://iceberg.apache.org/)
-   [Apache Hudi](https://hudi.apache.org/)


Delta Lake 形式では、差分連携時に Merge 処理（ Upsert 処理）が最適な方法として提供されているなどデータエンジニアリングのプログラムがシンプルとなる。従来の DWH 製品では更新処理が性能ボトルネックとなることからデータ書き込みプログラムが複雑となることがあった。

- [Delta Lake Tutorial: How to Easily Delete, Update, and Merge Using DML - The Databricks Blog](https://databricks.com/blog/2020/09/29/diving-into-delta-lake-dml-internals-update-delete-merge.html)

分離レベルが`WriteSerializable`であるため、従来の DWH 製品で実施される参照ロックを行われないこともあり、利用者が少ない夜間などのバッチ処理としてデータの書き込みを実施する必要もない。

- [分離レベル - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/delta/optimizations/isolation-level)
- [コンカレンシー制御 - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/delta/concurrency-control)

スキーマ適用（ schema enforcement ）とスキーマ展開（ schema evolution ）により、プログラムの拡張性と信頼性のバランスをとることができる。

- [Schema Evolution & Enforcement on Delta Lake - Databricks](https://databricks.com/jp/blog/2019/09/24/diving-into-delta-lake-schema-enforcement-evolution.html)

## 2. レイテンシーに応じたデータ処理方法の選択

データの生成からデータが利用可能になるまでの時間差（レイテンシー）要件に応じて、データ処理方法を選択する必要がある。データ処理方法に合わせて、ワークフローとして管理する方法の検討も行う。

| #    | レイテンシーに応じた処理方法                     | 実装例                                           |
| ---- | ---------------------------- | ------------------------------------------------------------ |
| 1    | バッチ                       | 1-1. スケジュールトリガーによるSparkデータフレーム処理<br/>1-2. Delta live tableのトリガーパイプラインによる処理 |
| 2    | 準リアルタイムとイベント駆動 | 2-1. ファイル到着イベントトリガーによる実行               |
| 3    | リアルタイム               | 3-1. Sparkストリーミング処理<br/>3-2. Databricksオートローダーによる処理<br/>3-3. Delta live tableの連続パイプラインによる処理 |

リアルタイム処理を実装する際には、システム間を直接連携（例： Kafka -> Spark ）させるのではなく、ストレージに対するオートローダーによる処理（例: Kafka -> ストレージ -> Databricks ）がコストや可用性の観点で有効な場合もある。

## 3. メダリオンアーキテクチャによるデータエンジニアリング

メダリオンアーキテクチャとはソースシステムのデータを、Bronze、Silver、Goldの三層で管理する手法であり、それをベースにデータレイヤーの設計を行うべき。

データレイヤーに分けることにより、次のようなメリットがある。

- データレイヤーごとの役割が明確となること
- データ品質が担保されたデータの提供が可能となること
- ローデータから再度テーブルを再作成できること

参考リンク

- [Medallion Architecture | Databricks](https://databricks.com/jp/glossary/medallion-architecture)
- [What's Data Lake ? Azure Data Lake best practice - Speaker Deck](https://speakerdeck.com/ryomaru0825/whats-data-lake-azure-data-lake-best-practice?slide=18)


次がレイヤーのサンプルである。

| #    | データレイヤー | 概要                                                   | 類義語             |
| ---- | -------------- | ------------------------------------------------------ | ------------------ |
| 1    | Bronze         | 生データを保持するレイヤー                             | Raw、Data lake     |
| 2    | Silver         | ソースシステムと同様の粒度で検証済みのデータを保持するレイヤー | Enriched、DWH      |
| 3    | Gold           | 集計したデータを保持するレイヤー   | Curated、Data Mart |


**Bronze の特徴について**

- 取り込んだ生データのコピーを、履歴として保持。
- データを削除する場合には、物理削除ではなく、論理削除が推奨。
- スキーマ展開を許可するなどソースシステム側の変更対応を容易化。
- データ型を文字型として保持するなどシステムエラーの発生を低減。

**Silver の特徴について**
- Bronze のデータに基づき、ソースシステムと同等のデータ粒度で保持。
- スキーマを適用し、dropDuplicates 関数を利用した重複排除等によるデータ品質チェック処理を実施。


**Gold の特徴について**
- データ利活用（消費）の目的に合致するように編成・集計したデータを保持。
- ACLや行レベルセキュリティ等のデータアクセス制御を考慮することが多い。

参考リンク

- [データ ランディング ゾーンごとに 3 つの Azure Data Lake Storage Gen2 アカウントをプロビジョニングする - Cloud Adoption Framework | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/cloud-adoption-framework/scenarios/data-management/best-practices/data-lake-services)

### 3-1. Bronze テーブルへのデータ書き込み例

```python
# 事前準備
db_name = 'sample_tpch'
brz_tbl_name = 'part_raw'
brz_tbl_full_name = f'{db_name}.{brz_tbl_name}'

spark.sql(f'''
CREATE DATABASE IF NOT EXISTS {db_name}
''')

# 
spark.sql(f"""
CREATE OR REPLACE TABLE {brz_tbl_full_name}
(
  p_partkey string,
  p_name string,
  p_mfgr string,
  p_brand string,
  p_type string,
  p_size string,
  p_container string,
  p_retailprice string,
  p_comment string,
  _datasource string,
  _ingest_timestamp timestamp
)
USING delta
""")
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/992c3141-3729-89b7-3803-492bf0d62a31.png)

```python
src_file_path = 'dbfs:/databricks-datasets/tpch/data-001/part/part.tbl'
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/83d54ae4-4675-f8a0-d703-55149674e11a.png)

```python
# ファイル内容の一部を確認
print(dbutils.fs.head(src_file_path, 1030))
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/146fc2d3-c070-9900-17ce-5bc15098654a.png)

```python
from  pyspark.sql.functions import input_file_name,current_timestamp

# ソースファイルから読み込み
df = (spark
      .read
      .format("csv")
      .option("header", "False")
      .option("inferSchema", "False")
      .option("sep", "|")
      .load(src_file_path)
    )

# ソースファイルにヘッダーがないため、カラム名を変更
renamed_cols_names = {
    '_c0':'p_partkey',
    '_c1':'p_name',
    '_c2':'p_mfgr',
    '_c3':'p_brand',
    '_c4':'p_type',
    '_c5':'p_size',
    '_c6':'p_container',
    '_c7':'p_retailprice',
    '_c8':'p_comment',
}
for existing_col,new_col in renamed_cols_names.items():
    df = df.withColumnRenamed(existing_col, new_col)

# 最後のカラムを削除
df = df.drop('_c9')

# 監査列として、`_datasource`列と`_ingest_timestamp`列を追加
df = (df
        .withColumn("_datasource", input_file_name())
        .withColumn("_ingest_timestamp", current_timestamp())
     )

# `append`によりデータの書き込み
(df.write
     .format('delta')
     .mode('append')
     .option("mergeSchema", "true")
     .saveAsTable(brz_tbl_full_name)
)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/c8dd06a3-4583-2bbd-315a-82e8bf43f50d.png)

```python
# データを確認
spark.table(brz_tbl_full_name).printSchema()
display(spark.table(brz_tbl_full_name))
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/319bd3f2-949c-88bc-c4ef-3beb0416a73e.png)

Spark SQL にて同等のことを実施することも可能

```python
%sql
-- テキスト区切りファイルからデータを読み込む
CREATE OR REPLACE TEMPORARY VIEW tmp_part_001
USING csv
OPTIONS (
  path 'dbfs:/databricks-datasets/tpch/data-001/part/part.tbl',
  header false,
  SEP '|'
)
;

-- ソースファイルにヘッダーがないため、カラム名を変更
-- 最後のカラム('_c9)を削除
CREATE OR REPLACE TEMPORARY VIEW tmp_part_002
AS
SELECT
  _c0 AS p_partkey,
  _c1 AS p_name,
  _c2 AS p_mfgr,
  _c3 AS p_brand,
  _c4 AS p_type,
  _c5 AS p_size,
  _c6 AS p_container,
  _c7 AS p_retailprice,
  _c8 AS p_comment
  FROM
    tmp_part_001
;

-- 監査列として、`_datasource`列と`_ingest_timestamp`列を追加
CREATE OR REPLACE TEMPORARY VIEW tmp_part_003
AS
SELECT
  *
  ,input_file_name() AS _datasource
  ,current_timestamp() AS _ingest_timestamp
  FROM 
    tmp_part_002
;
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/35424125-9353-3beb-02e6-9df89b2d4b48.png)


```python
spark.conf.set('da.brz_tbl_full_name', brz_tbl_full_name)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/a3fbf2d9-c89f-62a0-79a1-cc2798fede5e.png)

```python
%sql
-- `append`によりデータの書き込み

-- スキーマ展開を許可
SET spark.databricks.delta.schema.autoMerge = True;

INSERT INTO  ${da.brz_tbl_full_name}
SELECT
  *
  FROM
    tmp_part_003
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/96a3c63a-b196-aa80-e8e6-537bce3a6636.png)

```python
%sql
SELECT
  version,
  operation,
  operationParameters

  FROM (
    DESCRIBE HISTORY sample_tpch.part_raw
  )
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/6a2c5629-5226-5f85-7c20-869b458818da.png)

### 3-2. Silver テーブルへのデータ書き込み例

```python
# 事前準備
slv_tbl_name = 'part'
slv_tbl_full_name = f'{db_name}.{slv_tbl_name}'

spark.sql(f"""
CREATE OR REPLACE TABLE {slv_tbl_full_name}
(
  p_partkey long,
  p_name string,
  p_mfgr string,
  p_brand string,
  p_type string,
  p_size int,
  p_container string,
  p_retailprice decimal(12, 2),
  p_comment string,
  _datasource STRING,
  _ingest_timestamp timestamp
)
USING delta
""")
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/cfcb7507-0018-1e81-10b3-7f2bfa740421.png)

```python
from  pyspark.sql.functions import current_timestamp,lit

# 下記の処理を実行したデータフレーム（df）を作成
## 1. ブロンズテーブルから主キー（`p_partkey`）ごとに`_ingest_timestamp`列の最大日を抽出したサブセットを作成
## 2. 主キー＋`_ingest_timestamp`列の条件で、1のサブセットとブロンズテーブルを結合
## 3. ブロンズテーブルのデータ型をシルバーテーブルと同一のデータ型に変換
brz_to_slv_sql = f'''
with slv_records (
  SELECT
    p_partkey,
    MAX(_ingest_timestamp) AS max_ingest_timestamp
    
    FROM
      {brz_tbl_full_name}
    GROUP BY
      p_partkey      
)

SELECT
  brz.p_partkey::long,
  brz.p_name,
  brz.p_mfgr,
  brz.p_brand,
  brz.p_type,
  brz.p_size::int,
  brz.p_container,
  brz.p_retailprice::decimal(12, 2),
  brz.p_comment,
  brz._datasource,
  brz._ingest_timestamp
  
  FROM
    {brz_tbl_full_name} AS brz
  INNER JOIN 
    slv_records AS slv
    ON 
      brz.p_partkey =  slv.p_partkey
      AND brz._ingest_timestamp =  slv.max_ingest_timestamp
'''
df = spark.sql(brz_to_slv_sql)

# dropDuplicates関数にて、主キーの一意性を保証。連携日ごとの一意性が保証されないことがあるため。
df = df.drop_duplicates(['p_partkey'])



# 一時ビューからシルバーテーブルに対して、MERGE文によりアップサート処理を実施。
# 一時ビューの`_ingest_timestamp`列がシルバーテーブルの`_ingest_timestamp`列以降である場合のみ、UPDATE処理を実行。

# 一時ビューを作成
temp_view_name = f'_tmp_{brz_tbl_name}'
df.createOrReplaceTempView(temp_view_name)


# Merge処理を実行
spark.sql(f'''
MERGE INTO {slv_tbl_full_name} AS tgt
  USING {temp_view_name} AS src
  
  ON tgt.p_partkey = src.p_partkey
  
  WHEN MATCHED
  AND tgt._ingest_timestamp < src._ingest_timestamp
    THEN UPDATE SET *
  WHEN NOT MATCHED
    THEN INSERT *
''')

```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/69497181-c8b1-6172-764f-53888c207619.png)


```python
spark.table(slv_tbl_full_name).display()
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/70b172ed-6fc4-865e-f2e0-3b64c6a93419.png)

### 3-3. Gold テーブルへのデータ書き込み例

```python
# 事前準備
gld_tbl_name = 'part_counts_by_mfgr'
gld_tbl_full_name = f'{db_name}.{gld_tbl_name}'

# `p_mfgr`ごとのカウント数を保持したデータフレームを定義
slv_to_gld_sql = f"""
SELECT
  p_mfgr,
  count(*) AS part_counts
  
  FROM
    {slv_tbl_full_name}
  GROUP BY
    p_mfgr    
"""
df = spark.sql(slv_to_gld_sql)


# CTAS（CREAT TABLE AS SLECT）により、テーブルを作成。
## 一時ビューを作成
tmp_view_name = f'_tmp_{slv_tbl_name}'
df.createOrReplaceTempView(tmp_view_name)

## CTASを実行
ctas_sql = f'''
create or replace table {gld_tbl_full_name}
  using delta
  TBLPROPERTIES (
    delta.autoOptimize.optimizeWrite = True, 
    delta.autoOptimize.autoCompact   = True,
    delta.dataSkippingNumIndexedCols = 1
  )
  AS 
  select 
    * 
    from 
      {tmp_view_name}
'''
spark.sql(ctas_sql)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/88eec86b-9a6e-57e3-8720-7347aa371e46.png)

```python
spark.table(gld_tbl_full_name).display()
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/5f8ee60d-e2cf-dec5-6803-cf3e6c97dd6e.png)

## 4. Spark によるデータエンジニアリングに利用すべきプログラミング言語とライブラリー

### 4-1. PySpark、および、Spark SQLの利用が推奨

Spark では、ScalaやRなどの多様な言語で実装できるが、プログラミング言語の普及率やSparkに関する情報量の観点で、PySpark、および、Spark SQL を用いることが推奨。<br>
異なる言語でデータフレームのやり取りを行う際には、 Spark 一時ビュー経由で行う方法が容易である。

データエンジニアリング時には、PySpark、あるいは、Spark SQL のいずれかでのみでの実施も可能であるが、変数やコンポーネント化を実施するために Python の基本的なスキルが必要となる。<br>

### 4-2. PySpark(Spark SQL)、pandas-on-Spark、Pandas の利用指針

PySpark(Spark SQL)、pandas-on-Spark、Pandas の順での利用が推奨。PySpark -> pandas-on-Spark -> PySpark の順で利用する場合には性能に課題をかかえることがある。

Excel や SAS などのファイルを読み込む際には、Pandas で読み込み、PySpark に変換することで追加のコンポーネントが必要なくなる場合があり、データ量を想定した上で対応方針を検討する。
- [Input/output — pandas 1.4.3 documentation (pydata.org)](https://pandas.pydata.org/docs/reference/io.html)

## 5. 処理の共通化

### 5-1. 処理を共通化する方法

システム規模やメンバーのスキルセットに応じて、次のような開発方針を定める。<br>

1. PySpark、あるいは、Spark SQL により個別処理を実装する方法
2. Python により処理を共通化して実装する方法
3. 共通化処理を保持させたライブラリーを用いて実装する方法

`共通化処理を保持させたライブラリーを用いた実装`を複数チームで行う場合には、複数プロジェクトの総意をリードするCoE（center of excellence）のような組織が必要となるなど難易度は高い。

#### 1. PySpark、あるいは、Spark SQL により個別処理を実装する方法

```python
from  pyspark.sql.functions import input_file_name,current_timestamp

# ソースファイルから読み込み
df = (spark
      .read
      .format("csv")
      .option("header", "False")
      .option("inferSchema", "False")
      .option("sep", "|")
      .load(src_file_path)
    )

# ソースファイルにヘッダーがないため、カラム名を変更
renamed_cols_names = {
    '_c0':'p_partkey',
    '_c1':'p_name',
    '_c2':'p_mfgr',
    '_c3':'p_brand',
    '_c4':'p_type',
    '_c5':'p_size',
    '_c6':'p_container',
    '_c7':'p_retailprice',
    '_c8':'p_comment',
}
for existing_col,new_col in renamed_cols_names.items():
    df = df.withColumnRenamed(existing_col, new_col)

# 最後のカラムを削除
dropped_cols_names = ['_c9']
for dropped_cols_name in dropped_cols_names:
    df = df.drop(dropped_cols_name)

# 監査列として、`_datasource`列と`_ingest_timestamp`列を追加
df = (df
      .withColumn("_datasource", input_file_name())
       .withColumn("_ingest_timestamp", current_timestamp())
     )
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/52022f62-e4d1-ea3c-db8e-cb616291de75.png)

#### 2. Python により処理を共通化して実装する方法

```python
# 共通化した関数
from pyspark.sql import SparkSession
from pyspark.sql.functions import input_file_name,current_timestamp

def read_from_csv(
    header,
    inferSchema,
    sep,
    src_file_path,
):
    spark = SparkSession.getActiveSession()
    return (
        spark
        .read
        .format("csv")
        .option("header", header)
        .option("inferSchema", inferSchema)
        .option("sep", sep)
        .load(src_file_path)
    )

def rename_cols(
    df,
    renamed_cols_names,
):
    for existing_col,new_col in renamed_cols_names.items():
        df = df.withColumnRenamed(existing_col, new_col)
    return df

def drop_cols(
    df,
    cols,
):
    for col in cols:
        df = df.drop(col)
    return df

def with_audit_cols(
    df,
):
    return (
        df
        .withColumn("_datasource", input_file_name())
        .withColumn("_ingest_timestamp", current_timestamp())
    )
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/61f619a6-ac4f-6cbf-a78a-34f2f9dc0ae2.png)

```python
# 個別処理の設定値
src_file_path = 'dbfs:/databricks-datasets/tpch/data-001/part/part.tbl'
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/a7f9ca28-07ab-ba89-fe66-35a6a3fd9b12.png)

```python
# データエンジニアリングのコード
spark = SparkSession.builder.getOrCreate()

df_1 = read_from_csv(
    header = "False",
    inferSchema = "False",
    sep = "|",
    src_file_path = src_file_path,
)

renamed_cols_names = {
    '_c0':'p_partkey',
    '_c1':'p_name',
    '_c2':'p_mfgr',
    '_c3':'p_brand',
    '_c4':'p_type',
    '_c5':'p_size',
    '_c6':'p_container',
    '_c7':'p_retailprice',
    '_c8':'p_comment',
}
df_2 = rename_cols(df_1,renamed_cols_names) 

dropped_cols_names = ['_c9']
df_3 = drop_cols(df_2,dropped_cols_names)

df_4 = with_audit_cols(df_3)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/66ee95a5-ca4a-1bd9-b25e-879e01957daa.png)

```python
# データを確認
df_4.display()
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/ef8f7d2b-ba83-0781-f78e-6f9540ac211b.png)

#### 3. 共通化処理を保持させたライブラリーを用いて実装する方法

```python
# クラスを定義
from pyspark.sql import SparkSession
from pyspark.sql.functions import input_file_name,current_timestamp

class DataEngineering:

    def __init__(self):
        # `data_engineer_main*`で利用している変数
        self.spark = SparkSession.builder.getOrCreate()
        self.read_stage_dataframes = {}

    def data_engineering_main(
            self,
            data_eng_conf,
        ):
        read_stage_dataframes = {}
        for tasks_config_name, tasks_config_value in data_eng_conf.items():
            method_name = tasks_config_value['method']
            task_options = tasks_config_value['task_options']

            # メソッド実行時の引数の文字列を生成
            task_options_paras_list = []
            # ２回目以降のループ時のみ、以前の処理結果のデータフレームを取得
            if self.read_stage_dataframes != {}:
                read_stage_df = list(self.read_stage_dataframes.values())[-1]
                task_options_paras_list.append('tgt_df=read_stage_df')

            for task_options_key, task_options_value in task_options.items():
                # 引数が文字の場合には、`"""`で囲む
                if type(task_options_value) == str:
                    task_options_value = f'"""{task_options_value}"""'
                task_options_paras_list.append(f'{task_options_key}={task_options_value}')
            task_options_paras = ','.join(task_options_paras_list)

            read_stage_dataframe = eval(f'{method_name}({task_options_paras})')
            self.read_stage_dataframes[tasks_config_name] = read_stage_dataframe

    @staticmethod
    def read_from_csv(
        header,
        inferSchema,
        sep,
        src_file_path,
    ):
        spark = SparkSession.getActiveSession()
        return (
            spark
            .read
            .format("csv")
            .option("header", header)
            .option("inferSchema", inferSchema)
            .option("sep", sep)
            .load(src_file_path)
        )

    @staticmethod
    def rename_cols(
        tgt_df,
        renamed_cols_names,
    ):
        for existing_col,new_col in renamed_cols_names.items():
            tgt_df = tgt_df.withColumnRenamed(existing_col, new_col)
        return tgt_df

    @staticmethod
    def drop_cols(
        tgt_df,
        dropped_cols_names,
    ):
        for col in dropped_cols_names:
            tgt_df = tgt_df.drop(col)
        return tgt_df

    @staticmethod
    def with_audit_cols(
        tgt_df,
    ):
        return (
            tgt_df
            .withColumn("_datasource", input_file_name())
            .withColumn("_ingest_timestamp", current_timestamp())
        )
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/cdf20241-bcc2-8bbd-e983-5edeb135f912.png)

```python
# config を設定
data_eng_conf = {
    'read_from_data_source': {
        'method': 'DataEngineering.read_from_csv',
        'task_options': {
            'header': 'False',
            'inferSchema': 'False',
            'sep': '|',
            'src_file_path': 'dbfs:/databricks-datasets/tpch/data-001/part/part.tbl',
        },
    },
    'rename_cols_names': {
        'method': 'DataEngineering.rename_cols',
        'task_options': {
            'renamed_cols_names': {
                '_c0':'p_partkey',
                '_c1':'p_name',
                '_c2':'p_mfgr',
                '_c3':'p_brand',
                '_c4':'p_type',
                '_c5':'p_size',
                '_c6':'p_container',
                '_c7':'p_retailprice',
                '_c8':'p_comment',
            },
        },
    },
    'drop_cols': {
        'method': 'DataEngineering.drop_cols',
        'task_options': {
            'dropped_cols_names': ['_c9'],
        },
    },
    'with_audit_cols': {
        'method': 'DataEngineering.with_audit_cols',
        'task_options': {},
    },
}
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/af9acf79-803b-f247-5aaf-18a2dbaadf77.png)

```python
# 処理を実行
data_engineering = DataEngineering()
data_engineering.data_engineering_main(data_eng_conf)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/92b26591-bd0f-6e4d-4dd4-ab13c01a4c02.png)

```python
# 実行計画を確認
import pprint
pprint.pprint(data_engineering.read_stage_dataframes)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/c82e6ecc-f77d-032b-633e-a012bb49af96.png)

```python
# 最終的なデータフレームを確認
display(list(data_engineering.read_stage_dataframes.values())[-1])
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/9a2d574a-149d-f876-8c8d-a3e0c6da50e1.png)

### 5-2. 監査列の付与方法

付与する監査列を検討を行い、その監査列を付与する関数の利用がおすすめ。<br>
本ノートブックでは次のカラム付与を行っている。

| #    | カラム名          | 概要                                                 |
| ---- | ----------------- | ---------------------------------------------------- |
| 1    | _datasource       | 取り込みファイルの完全パス                           |
| 2    | _ingest_timestamp | データ取り込みを実施した日付時刻（グリニッジ標準時） |

```python
def with_audit_cols(tgt_df):
    return (tgt_df
        .withColumn("_datasource", input_file_name())
        .withColumn("_ingest_timestamp", current_timestamp())
     )
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/6689d5b4-3a00-b56d-5e61-a6be50a25371.png)

### 5-3. UDF（User-defined scalar functions）の利用方針

性能のボトルネットとなるため、基本的には利用しないこと。利用する場合には、UDFの管理業務フローを含めて設計すること。

## 6. データエンジニアリングにおける Spark 関連機能

### 6-1. Spark コア機能

#### 1. データフレーム、および、データストリーム時におけるデータソースごとのパラメータ

CSV や JSON などのデータソースごとに設定できるパラメータが異なるため、Spark Dcos 、および、PySpark Docs にて確認する。

-   Spark Docs
    -   [CSV Files - Spark 3.3.0 Documentation (apache.org)](https://spark.apache.org/docs/latest/sql-data-sources-csv.html#data-source-option)
    -   [JSON Files - Spark 3.3.0 Documentation (apache.org)](https://spark.apache.org/docs/latest/sql-data-sources-json.html#data-source-option)
    -   [Parquet Files - Spark 3.3.0 Documentation (apache.org)](https://spark.apache.org/docs/latest/sql-data-sources-parquet.html)
    -   [Apache Avro Data Source Guide - Spark 3.3.0 Documentation](https://spark.apache.org/docs/latest/sql-data-sources-avro.html)
    -   [JDBC To Other Databases - Spark 3.3.0 Documentation (apache.org)](https://spark.apache.org/docs/latest/sql-data-sources-jdbc.html#data-source-option)
-   PySpark Docs
    -   CSV
        -   [pyspark.sql.DataFrameReader.csv — PySpark 3.3.0 documentation (apache.org)](https://spark.apache.org/docs/latest/api/python/reference/pyspark.sql/api/pyspark.sql.DataFrameReader.csv.html)
        -   [pyspark.sql.DataFrameWriter.csv — PySpark 3.3.0 documentation (apache.org)](https://spark.apache.org/docs/latest/api/python/reference/pyspark.sql/api/pyspark.sql.DataFrameWriter.csv.html)
        -   [pyspark.sql.streaming.DataStreamReader.csv — PySpark 3.3.0 documentation (apache.org)](https://spark.apache.org/docs/latest/api/python/reference/pyspark.ss/api/pyspark.sql.streaming.DataStreamReader.csv.html)
    -   JSON
        -   [pyspark.sql.DataFrameReader.json — PySpark 3.3.0 documentation (apache.org)](https://spark.apache.org/docs/latest/api/python/reference/pyspark.sql/api/pyspark.sql.DataFrameReader.json.html)
        -   [pyspark.sql.DataFrameWriter.json — PySpark 3.3.0 documentation (apache.org)](https://spark.apache.org/docs/latest/api/python/reference/pyspark.sql/api/pyspark.sql.DataFrameWriter.json.html)
        -   [pyspark.sql.streaming.DataStreamReader.json — PySpark 3.3.0 documentation (apache.org)](https://spark.apache.org/docs/latest/api/python/reference/pyspark.ss/api/pyspark.sql.streaming.DataStreamReader.json.html)


JDBC 、Spark コネクターについては、提供元のドキュメント等にて確認する。

-   [JDBC ドライバーの接続パラメーターリファレンス — Snowflake Documentation](https://docs.snowflake.com/ja/user-guide/jdbc-parameters.html)
-   [Sparkコネクタの使用 — Snowflake Documentation](https://docs.snowflake.com/ja/user-guide/spark-connector-use.html#setting-configuration-options-for-the-connector)
-   [接続プロパティの設定 - JDBC Driver for SQL Server | Microsoft Docs](https://docs.microsoft.com/ja-jp/sql/connect/jdbc/setting-the-connection-properties?view=sql-server-ver16)
-   [SQL Server 用の Apache Spark コネクタ - Spark connector for SQL Server | Microsoft Docs](https://docs.microsoft.com/ja-jp/sql/connect/spark/connector?view=sql-server-ver16#supported-options)
-   [Connecting to the Database (postgresql.org)](https://jdbc.postgresql.org/documentation/head/connect.html)

#### 2. Spark テーブルにおける外部テーブルとマネージドテーブルの利用指針

Spark テーブルには、外部テーブル（アンマネージドテーブル）とマネージドテーブルがあるが、基本的には外部テーブルを利用すること。<br>
テスト実行時や短期的な利用を目的とする場合には、マネージドテーブルを利用してもよい。マネージドテーブルのロケーションを参照した外部テーブルを作成することも可能。

マネージドテーブルを削除する際には、データサイズによっては事前にデータを削除する必要あり。

- [マネージド Delta Lake テーブルの削除のベスト プラクティス - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/kb/delta/drop-delta-table)

```python
def get_table_location(
    tgt_full_name: str,
):
    spark = SparkSession.getActiveSession()

    location = (
        spark.sql(f"DESC TABLE EXTENDED {tgt_full_name}")
        .filter('col_name = "Location"')
        .select("data_type")
        .collect()[0][0]
    )
    return location
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/9369bdee-2438-4cb9-4d26-384188f9c9d8.png)

```python
db_name = 'sample_tpch'
tbl_name = 'orders'
tbl_full_name = f'{db_name}.{tbl_name}'

spark.sql(f'''
CREATE OR REPLACE TABLE {tbl_full_name}
(
    o_orderkey long,
    o_custkey long,
    o_orderstatus string,
    o_totalprice decimal(12, 2),
    o_orderdate date,
    o_orderpriority string,
    o_clerk string,
    o_shippriority int,
    o_comment string
)
USING delta
''')
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/20184181-e789-5268-ceaf-c15bada0930d.png)

```python
# tbl_location を取得
tbl_location = get_table_location(tbl_full_name)
print(tbl_location)
spark.table(f"delta.`{tbl_location}`").printSchema()
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/827220fb-8fbc-4416-96a3-f360eeb987db.png)

```python
# マネージドテーブルの Location を参照した外部テーブルを作成
db_name = 'sample_tpch'
tbl_name_2 = 'orders_2'
tbl_full_name_2 = f'{db_name}.{tbl_name_2}'

spark.sql(f'''
DROP TABLE IF EXISTS {tbl_full_name_2}
''')
spark.sql(f'''
CREATE TABLE {tbl_full_name_2}
USING delta
LOCATION '{tbl_location}'
''')

print(spark.sql(f'SHOW CREATE TABLE {tbl_full_name_2}').collect()[0][0])
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/09125425-9c62-4fa6-b002-baff66024a17.png)


```python
# 外部テーブルを削除しても、マネージドテーブルは残っている
spark.sql(f'''
DROP TABLE IF EXISTS {tbl_full_name_2}
''')

spark.table(f"delta.`{tbl_location}`").printSchema()
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/6adbb91a-4a25-db41-5c5a-9ecc8331fcad.png)


#### 3. シークレットの利用

Spark を利用する際には、パスワード等のシークレットが平文で表示されないように、Spark プロバイダーが提供するシークレット管理機能を用いる必要がある。

-   [シークレットの管理 - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/security/secrets/)
-   [資格情報ユーティリティ | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/synapse-analytics/spark/microsoft-spark-utilities?pivots=programming-language-python#credentials-utilities)

#### 4. サロゲートキー列の付与

サロゲートキー列を付与する場合には、プログラムの複雑度と要求性能に応じて、次のいずれの方法での実装を検討。<br>
自テーブルのサロゲートキー列の値を他テーブルに保持させる場合には、プログラムが複雑になる可能性がある。

| #    | 実装方法                                   | サロゲートキーカラムのデータ型 | 再現性 |
| ---- | ------------------------------------------ | ------------------------------ | ------ |
| 1    | 主キー項目によるハッシュ値を利用する方法   | 文字列                         | 有     |
| 2    | Delta Lake の Identity Column 機能を利用する方法     | 数値型                         | 無   |
| 3    | テーブルへの書き込み時に連番を付与する方法 | 数値型                         | 無   |

<br>

- 関連リンク
  - 主キー項目によるハッシュ値を利用する方法
    - [pyspark.sql.functions.sha2 — PySpark 3.1.3 documentation (apache.org)](https://spark.apache.org/docs/3.1.3/api/python/reference/api/pyspark.sql.functions.sha2.html)
    - [sha2 関数 (Databricks SQL)-Azure Databricks - Databricks SQL | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/sql/language-manual/functions/sha2)
  - Delta Lake の Identity Column 機能を利用する方法
    - [CREATE TABLE [USING] (Databricks SQL) - Azure Databricks - Databricks SQL | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/sql/language-manual/sql-ref-syntax-ddl-create-table-using#parameters)
  - テーブルへの書き込み時に連番を付与する方法
    - [一意の増加する数値を生成する - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/kb/sql/gen-unique-increasing-values)

#### 5. Spark におけるタイムスタンプ型カラムの仕様

Spark におけるタイムスタンプ型には、次の注意事項がある。

- タイムゾーンのオフセットは、Spark で処理する際に損失し、Spark セッションのタイムゾーンに統一される。
- データ取得元のタイムゾーンを保持する場合には、別カラムにタイムゾーンの値を保持する方法、あるいは、タイムゾーンのオフセットを加減した値を保持する方法のいずれかを実施する必要がある。
- Spark では`TIMESTAMP WITH SESSION TIME ZONE`の timestamp 型のみがサポートさていることから、後者の方法を採用する場合には`spark.sql.session.timeZone`の固定化が必要となる。

参考リンク
- [日付とタイムスタンプ - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/spark/latest/dataframes-datasets/dates-timestamps)
- [pyspark.sql.functions.from_utc_timestamp — PySpark 3.1.3 documentation (apache.org)](https://spark.apache.org/docs/3.1.3/api/python/reference/api/pyspark.sql.functions.from_utc_timestamp.html)



Oracle database などのデータベースでは TIMESTAMP WITH TIME ZONE がサポートされており、Spark からデータを取得する場合には注意が必要となる。

- [日時データ型とタイム・ゾーン・サポート (oracle.com)](https://docs.oracle.com/cd/E16338_01/server.112/b56307/ch4datetime.htm#i1006081)
- [Getting py4j.protocol.Py4JJavaError: An error occurred while calling o65.jdbc. : java.sql.SQLException: Unsupported type TIMESTAMP_WITH_TIMEZONE (denodo.com)](https://community.denodo.com/answers/question/details?questionId=9064u000000HAePAAW)

```python
# 事前準備
from pyspark.sql.functions import from_utc_timestamp,col
df = spark.createDataFrame(
        [
            (2020, 6, 28, 10, 31, 30, 'UTC'),
            (2019, 3, 1, 0, 1, 2, 'America/Los_Angeles'), 
            (2019, 11, 3, 1, 30, 2, 'America/Los_Angeles'), 
            (2019, 2, 28, 9, 29, 1, 'Asia/Tokyo'),
        ],
        ['YEAR', 'MONTH', 'DAY', 'HOUR', 'MINUTE', 'SECOND', 'TZ']
)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/b4b53dff-3381-0fba-0feb-e555426726ef.png)


```python
# デフォルトのタイムゾーンを確認
spark.conf.unset('spark.sql.session.timeZone')
print(spark.conf.get('spark.sql.session.timeZone'))
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/d33db818-e51c-c4ca-020d-728945859b5d.png)

```python
# デフォルトのタイムゾーンに統一される
df.selectExpr(
    'make_timestamp(YEAR, MONTH, DAY, HOUR, MINUTE, SECOND, TZ) as timestamp_with_session_time_zone',
).display()
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/fed798cd-0dc1-d750-a368-bc2b8b249054.png)

```python
# タイムゾーンを指定すると、それに統一される
spark.conf.set('spark.sql.session.timeZone', 'Asia/Tokyo')

df.selectExpr(
    'make_timestamp(YEAR, MONTH, DAY, HOUR, MINUTE, SECOND, TZ) as timestamp_with_session_time_zone',
).display()
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/64ff4a5f-c051-66e1-0c4a-fcf84e639d70.png)

別カラムにタイムゾーンの値を保持する方法を実施する方法の例

```python
spark.conf.unset('spark.sql.session.timeZone')
(
    df.selectExpr(
        'make_timestamp(YEAR, MONTH, DAY, HOUR, MINUTE, SECOND, TZ) as timestamp_with_session_time_zone',
        'TZ AS time_zone_id',
    )
    .display()
)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/d64d436f-6b80-f15d-2969-5a47cafa35aa.png)

タイムゾーンのオフセットを加減した値を保持する方法の例

```python
spark.conf.unset('spark.sql.session.timeZone')
(
    df
    .selectExpr(
        'make_timestamp(YEAR, MONTH, DAY, HOUR, MINUTE, SECOND, TZ) as timestamp_with_session_time_zone',
        'TZ AS time_zone_id',
    )
    .withColumn(
        'timestamp_without_time_zone',
        from_utc_timestamp(col('timestamp_with_session_time_zone'),col('time_zone_id'))
    )
    .drop('time_zone_id')
    .display()
)
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/6aefa06e-757c-f900-4313-446f361d0213.png)

#### 6. 破損したファイル（corrupt files）を参照する場合の対応方法

CSV や JSON などのファイルを適切に読めこめないことをファイル破損（corrupt files）と言われており、PySpark では次の方法により破損理由を探すことができる。

- ファイル内容を確認する方法
  - [Text Files - Spark 3.3.0 Documentation (apache.org)](https://spark.apache.org/docs/latest/sql-data-sources-text.html)
  - [dbutils.fs.head](https://docs.microsoft.com/ja-jp/azure/databricks/dev-tools/databricks-utils#dbutils-fs)
- データ型が適切であるかを確認する方法
  - [Databricks（Spark）にてDataFrameReaderのmode機能を用いたエラーレコードの抽出方法 - Qiita](https://qiita.com/manabian/items/827601a421b4bde297c8)


区切りテキストファイル（CSV、TSV） のファイル破損（corrupt CSV files）の原因としては次のようなものがある。

- 全体の設定値が適切でないこと
  - ファイルの文字エンコーディング（encoding）（例： UTF-8 、 Shift_JIS ）が適切でない
  - 区切り文字（separator）が適切でない
  - 改行コード（delimiter）が適切でない
  - テキスト修飾子（quote）が適切でない
  - テキスト修飾子のエスケープ（escape）が適切でない
  - 改行コード（line separator）適切でない
  - ヘッダーの有無（header）が適切でない
  - ファイル圧縮の形式（compression）が適切でない
- 個別の値が適切でないこと
  - テキスト修飾子が指定されてない場合に、改行コードが値に含まれている
  - テキスト修飾子のエスケープが追記されていないテキスト修飾子が値に含まれている
  - 想定のデータ型と一致していない
    - 桁数が想定値を上回っている
    - 数値型である値に、`,` や `$`などの記号が記載されている
    - 日付型のフォーマット（dateFormat）、あるいは、タイムスタンプ型のフォーマット（timestampFormat）が異なる
    - ヘッダーが有無の設定が適切でなく、ヘッダーのカラム名がレコードとして認識されている
    
区切りテキストファイルにおける設定値は、次のリンクが参考となる。

-  [Data Source Option](https://spark.apache.org/docs/latest/sql-data-sources-csv.html#data-source-option)

### 6-2. Delta Lake 機能

#### 1. Delta Lake におけるタイムトラベル機能

Delta Lake形式のテーブルでは、parquet ファイルが追記される仕様であることから、過去の時点のバージョンへのクエリ（タイムトラベル）が可能。

保存期間は次のパラメータと VACUUM 操作に依存。

- delta.logRetentionDuration
- delta.deletedFileRetentionDuration

参考リンク

- [データの保持 - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/delta/delta-batch#data-retention)

誤って書き込みを実施してしまったデータを削除する場合には、追加のオペレーションが必要となる場合がある。

- [ベスト プラクティス:Delta Lake を使用した GDPR と CCPA のコンプライアンス - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/security/privacy/gdpr-delta)

#### 2. Delta Lake における変更データフィード機能

変更データフィードを有効にすることで行レベルでの追跡が有効となるため、基本的には有効とすること。

設定による性能への大きな影響はないとの記載あり。

> 変更データ フィードを有効にするオーバーヘッドはありますか。
> 大きな影響はありません。

引用元：[データ フィードの変更 - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/delta/delta-change-data-feed#what-is-the-overhead-of-enabling-the-change-data-feed)

#### 3. Delta Lake における CLONE 機能

マルチクラウド・マルチリージョンでの展開を行う際に、増分更新が実際されることもあり、データ書き込み後のDEEP CLONE が有効。

2022年7月25日時点で、CLONE は Databricks でのみ利用でき、OSS の Delta Lake に実装予定。

#### 4. Delta Lake における Delta Sharing 機能

```python
# Delta Sharing 機能が GA 後に検証予定
```

## 7. パフォーマン最適化

### 7-1. 他データストアと連携する場合にSpark コネクターを優先して利用

Spark にてデータベースからデータ連携を行う場合には、jdbc や Python のライブラリーを利用せずに、Spark コネクターを利用すること。

-   [Spark用Snowflakeコネクター — Snowflake Documentation](https://docs.snowflake.com/ja/user-guide/spark-connector.html)
-   [SQL Server 用の Apache Spark コネクタ - Spark connector for SQL Server | Microsoft Docs](https://docs.microsoft.com/ja-jp/sql/connect/spark/connector?view=sql-server-ver16)
-   [TD Python Spark Driver with Databricks - Product Documentation - Treasure Data Product Documentation](https://docs.treasuredata.com/display/public/PD/TD+Python+Spark+Driver+with+Databricks)

### 7-2. Delta Lakeにおけるパフォーマンス最適化

次のようなドキュメントを参考に、テーブルプロパティやデータ連携前後の処理を検討。

- 参考リンク
  - [ファイル管理を使用してパフォーマンスを最適化する - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/delta/optimizations/file-mgmt)
  - [自動最適化 - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/delta/optimizations/auto-optimize)
  - [ANALYZE TABLE - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/spark/latest/spark-sql/language-manual/sql-ref-syntax-aux-analyze-table)
  - [VACUUM - Azure Databricks | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/spark/latest/spark-sql/language-manual/delta-vacuum)
  - [What's the best practice on running ANALYZE on Delta Tables for query performance optimization? (databricks.com)](https://community.databricks.com/s/question/0D53f00001GHVicCAH/whats-the-best-practice-on-running-analyze-on-delta-tables-for-query-performance-optimization)


- 設定例
  - テーブルプロパティ
    - delta.autoOptimize.optimizeWrite
    - delta.autoOptimize.autoCompact
    - delta.dataSkippingNumIndexedCols
  - データ連携後に行うべき処理
    - Optimnize
    - Z-order
    - Vacuum
    - Analyze table


### 7-3. データエンジニアリング時におけるクラスターの利用指針

分散処理でデータエンジニアリングを行う場合には、複数台の汎用的なサーバーにて処理を行われることがあるが、次のような記載がある通り、小数のサーバーの方が性能が高くなることがある。

> 複数のテーブルにまたがる和集合や結合を必要とする処理など、より複雑な ETL ジョブは、シャッフルされるデータ量を最小限に抑えることができれば最適に実行されます。 クラスター内のワーカー数を減らすことでシャッフルを最小限に抑えることができるため、クラスター D のような大規模なクラスターよりも、次の図のクラスター A のような小さなクラスターを検討することをお勧めします。

引用元：[複雑なバッチ ETL | Microsoft Docs](https://docs.microsoft.com/ja-jp/azure/databricks/clusters/cluster-config-best-practices#--complex-batch-etl)

## リソースのクリーンアップ

```python
db_name = 'sample_tpch'

spark.sql(f'''
DROP DATABASE {db_name} CASCADE
''')
```
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/24031/e6aa0f4a-1f29-c9a8-040a-cd73f272d48f.png)