AWS データ分析周りのサービスまとめ

# データ分析サービスの各論

## 1. Amazon OpenSearch Service

- ログ分析、リアルタイムのアプリケーションモニタリング、クリックストリーム分析などのユースケース向けの、完全なオープンソースの検索および分析エンジン
- Apache Lucene検索ライブラリを搭載

### 1.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/9624fc40-0343-9234-5242-7644799c7ed5.png)

- データ階層として、インデックス(RDBのテーブルの概念)とその中にシャード(RDBでのパーティションの概念)が存在する。
- インデックス単位でシャード数、レプリカ数を設定。

#### 参考
- https://pages.awscloud.com/rs/112-TZM-766/images/AWS-Black-Belt_2023_Amazon-OpenSearch-Service-Basic_0131_v1.pdf
- https://zenn.dev/hassaku63/scraps/f18e9085a4f5ef#comment-1da6844f5bd367
- https://zenn.dev/amezousan/scraps/68fb0e8e8778ba
- https://dev.classmethod.jp/articles/getting-started-amazon-opensearch-service/
- https://docs.aws.amazon.com/ja_jp/opensearch-service/latest/developerguide/sizing-domains.html#bp-sharding
- https://www.slideshare.net/snuffkin/elasticsearch-107454226

### 1.2. AWSサービス間の連携

#### 1.2.1. データロードにおける連携

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/e0e3d06c-7505-53da-cf1f-0be2c3de3836.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

#### 考察

[公式のベストプラクティス](https://docs.aws.amazon.com/ja_jp/opensearch-service/latest/developerguide/bp.html)を参照すると、1ドキュメントのリクエストを複数回投げるよりも複数回まとめてBulk APIで投げる方がいい旨の記載がある。
リファレンスアーキテクチャ(2022/11時点)でも以下のようにBulk APIを叩く構成が示されている。
一方で、リアルタイム性を求める場合、Bulk APIを大量に叩くとスロットリングが発生してしまう(*8)。
参照先の記事ではLambdaで頑張り、エラー時はFirehoseに流している。
Firehoseに1分などデータを蓄積して反映させるニアリアルタイム性で問題ないのであれば初めかFirehoseに流すことが管理面でも良さそう。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/c8bdfec4-a46f-286a-6696-bc44b5f4b9ab.png)
▲ [AWSリファレンスアーキテクチャ](https://d1.awsstatic.com/architecture-diagrams/ArchitectureDiagrams/centralized-log-analytics-ra.pdf?did=wp_card&trk=wp_card)より転載

__■ リファアーキの読み解き__
CloudTrailやVPCフローログ、CloudWatchのログをOpenSeaechで検索できるようにするアーキテクチャ。
1. CloudTrailやVPCフローログは5min毎[^1]にS3バケットにログを転送する。
1. S3のイベントをトリガしてSQSにメッセージを送る。
1. SQSエンキューをトリガにLambda関数を実行する。
1. Lambda関数でBulk APIでOpenSearchへデータ一括投入する。
1. ダッシュボード上でデータを閲覧/検索する。

#### 参考

1. https://tech.connehito.com/entry/2021/12/07/174254
2. https://docs.aws.amazon.com/ja_jp/dms/latest/userguide/CHAP_Introduction.Sources.html
3. https://docs.aws.amazon.com/ja_jp/dms/latest/userguide/CHAP_Task.CDC.html
4. https://aws.amazon.com/jp/blogs/news/amazon-dynamodb-zero-etl-integration-with-amazon-opensearch-service-is-now-generally-available/
5. https://pages.awscloud.com/rs/112-TZM-766/images/AWS-Black-Belt_2023_Amazon-OpenSearch-Service-Advanced-Search_0131_v1.pdf
6. https://medium.com/levi-niners-crafts/syncing-data-from-documentdb-to-opensearch-using-change-streams-61753fe77d6e
7. https://dev.classmethod.jp/articles/reinvent2020-emb019-deep-dive-on-aws-glue-elastic-views/
8. https://www.wantedly.com/companies/company_7005547/post_articles/870209
9. https://aws.amazon.com/jp/about-aws/whats-new/2022/09/amazon-vpc-flow-logs-delivered-amazon-kinesis-firehose/
10. https://buildersbox.corp-sansan.com/entry/2022/06/14/110000
11. https://www.estie.jp/blog/entry/2023/03/03/114001
12. https://d1.awsstatic.com/architecture-diagrams/ArchitectureDiagrams/centralized-log-analytics-ra.pdf?did=wp_card&trk=wp_card
13. https://aws.amazon.com/jp/about-aws/whats-new/2020/12/announcing-aws-glue-elastic-view-preview/?nc1=h_ls
14. https://docs.aws.amazon.com/ja_jp/dms/latest/userguide/CHAP_Source.DocumentDB.html#CHAP_Source.DocumentDB.ConfigureCDC
15. https://aws.amazon.com/jp/about-aws/whats-new/2023/11/amazon-opensearch-zero-etl-integration-s3-preview/
16. https://aws.amazon.com/jp/blogs/news/cloudfront-realtime-dashboard/
17. https://dev.classmethod.jp/articles/amazon-opensearch-ingestion-announce/
18. https://docs.aws.amazon.com/ja_jp/opensearch-service/latest/developerguide/configure-client-s3.html 
19. https://docs.aws.amazon.com/ja_jp/opensearch-service/latest/developerguide/bp.html
20. https://aws.amazon.com/jp/blogs/aws/new-logstash-plugin-search-dynamodb-content-using-elasticsearch/

## 2. Amazon CloudSearch

- 全文検索用のマネージドサービス。
- 内部ではSolrが稼働するインスタンスを立てている。
- LuceneはJavaで書かれた検索エンジン・ライブラリであり、SolrはLuceneを使って作成された検索エンジン・サーバ。
- RDSのLike検索で対応できない理由は以下。
    - Like検索ではインデックスが効かないため負荷が大きい。
    - データ量の増加と共にクエリが重くなる。
    - 語彙が考慮されないため表記揺れをまとめて検索できない。
- 形態素解析(京都vs東京都)やサジェスト(半分くらいまで入力すると補完した候補が出るアレ)機能を利用できる。

### 2.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/8a72626c-508c-fa32-e48e-eba22ca5d8c4.png)

- ドメイン作成時にインデックスフィールドを定義する(※ コンソールではサンプルをアップロードすると自動で解析してくれるので手直しするだけでOK)。
- 検索対象のデータを直接CloudSearchに格納しクエリを投げるのではない。データ本体はRDSやDynamoDB、S3などに置かれており検索のためのインデックスフィールドにキーワードをマッピングした情報をJSONやXMLでCloudSearchに渡す。

クエリパーサの種類は以下。
|パーサ|説明|
|:---|:---|
|Simple|ベーシックなマッチング|
|Structured|複雑なboolean検索や重み付けなど対応|
|Lucene|CloudSearchではパフォーマンスは保証されていない。<br>曖昧検索、正規表現など対応。|
|Dismax|Luceneを補うためにSolrで開発。単語の出現位置の考慮など対応。|

__■ 用語整理__

- 全文検索

> 複数の文書（ファイル）から特定の文字列を検索すること。「ファイル名検索」や「単一ファイル内の文字列検索」と異なり、「複数文書にまたがって、文書に含まれる全文を対象とした検索」という意味で使用される。

https://ja.wikipedia.org/wiki/%E5%85%A8%E6%96%87%E6%A4%9C%E7%B4%A2

- パーサ

> コンピュータプログラムのソースコードやXML文書など、何らかの言語で記述された構造的な文字データを解析し、プログラムで扱えるようなデータ構造の集合体に変換するプログラムのこと。そのような処理のことを「構文解析」「パース」（parse）という。

https://e-words.jp/w/%E3%83%91%E3%83%BC%E3%82%B5.html

#### 参考
1. https://www.rondhuit.com/apache-lucene-apache-solr.html
2. https://www.slideshare.net/shuji_w6e/cloudsearch-cm-20140801
3. https://jun-app.com/articles/static-site-search
4. https://pages.awscloud.com/rs/112-TZM-766/images/20160323_AWS-BlackBelt-CloudSearch_AmazonES.pdf
5. https://techblog.recochoku.jp/tag/cloudsearch
6. https://www.slideshare.net/AmazonWebServicesJapan/aws-black-belt-tech-amazon-cloudsearch
7. https://dev.classmethod.jp/articles/amazon-cloudsearch-japanese-text/

### 2.2. AWSサービス間の連携

#### 2.2.1. データロード/検索における連携

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/e96f6616-a9af-5045-8e6b-5a6f1dac7665.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

#### 考察

CloudSearchを利用したアーキテクチャは検索してもあまり出てこない印象。
OpenSearchほどカスタマイズ性が高くなく、データ連携の手法も限られている(DBと直接連携する機能は提供されていない)ため何かしらのコンピュートリソースからAPI経由でインデクシングする構成しかないものと思われる。
なお、CloudSearchのインデクシングは時間を要することからDBの更新とCloudSearchのインデクシングを同期的に実行するのは微妙。キューやS3に差分を放り込み非同期で処理する方法が望ましい。

#### 参考

1. https://sal-blog.com/cloudsearch%E3%81%AE%E3%82%AA%E3%83%BC%E3%83%88%E3%82%B9%E3%82%B1%E3%83%BC%E3%83%AB%E3%81%AE%E5%8B%95%E3%81%8D%E3%81%A8%E9%81%8B%E7%94%A8%E6%99%82%E3%81%AE%E7%9B%A3%E8%A6%96%E8%A8%AD%E8%A8%88/
2. https://dev.classmethod.jp/articles/amazon-cloudsearch-rds-dynamodb/
3. https://devblog.thebase.in/entry/2019/12/09/110000

## 3. AWS Glue Elastic Views (提供終了)

- コードを書かずに複数のデータストア間でデータを結合して複製するためのマテリアライズド・ビューを簡単に構築できる。

> Update 7/26/2023: Glue Elastic Views is no longer available as of April 2022.

https://aws.amazon.com/jp/about-aws/whats-new/2020/12/announcing-aws-glue-elastic-view-preview/?nc1=h_ls

### 3.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/3f495bf3-036a-7b72-a33c-ef23fd37f3c4.png)

- https://www.cloudthat.com/resources/blog/integrate-data-across-multiple-sources-with-aws-glue-elastic-views#:~:text=What%20types%20of%20data%20sources,%2C%20Amazon%20Redshift%2C%20and%20more.
- https://dev.classmethod.jp/articles/reinvent2020-emb019-deep-dive-on-aws-glue-elastic-views/

PartiQLによりビューの定義を行う。

__■ 用語整理__
- PartiQL

> ドキュメント指向のデータモデルへのSQL準拠のアクセスをサポートする新しいオープン標準のクエリ言語

https://blog.serverworks.co.jp/introducing-partiql-1

ドキュメント指向データベースに対してクエリを投げる際にSQLと同様のインターフェースを提供してくれているものと理解。

### 3.2. AWSサービス間の連携

#### 3.2.1. データ連携

従来(?)`Glue Elastic Views`でできたデータ連携部分について連携方法を考察する。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/1ad47317-d65c-b521-8532-856a7e665bc7.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

##### 考察

OpenSearch、RedShiftへのデータ連携はゼロETL統合が広くサポートされていることを踏まえるとGlue EVはゼロETL統合に取って代わったように伺える。

##### 参考

1. OpenSearchの[リファレンスアーキテクチャ](#-1.1.-リファレンスアーキテクチャ)
2. https://docs.aws.amazon.com/ja_jp/AmazonRDS/latest/AuroraUserGuide/zero-etl.html
3. https://mindtech.jp/?p=895
4. https://dev.classmethod.jp/articles/zero-etl-integrations-amazon-redshift-reinvent/
5. https://techblog.kayac.com/import-from-dynamodb-to-redshift-using-super-type
6. https://techblog.finatext.com/realtime-integration-of-aurora-and-snowflake-using-dynamic-table-ff9ff762bda4
7. https://dev.classmethod.jp/articles/aws-dms_aurora-mysql/
8. https://engineer.crowdworks.jp/entry/aws-dms
9. https://dev.classmethod.jp/articles/capture-dynamodb-data-changes-directly-in-kinesis-data-streams-and-save-them-to-s3/

## 4. AWS Glue

- `Apache Spark`というOSSの並列分散処理フレームワークのフルマネージドサービスであり、分析用データのETL(Extract/Transform/Load)処理を行う。
- EMRではインスタンスの管理などは利用者側で実施する必要がある一方、Glueはそれらが不要で必要なタイミングでのみ実行できる。
- ETLの処理単位をジョブと言い、Apache Spark(PySpark/Scala)かPython Shellを利用可能。
- Glueの自動生成するコードや自身のスクリプトをジョブとして実行可能。
- 種々のデータソースのスキーマを推論・作成し、メタデータをカタログとして管理し、ジョブ実行時に参照する。
- ETL処理の歴史的背景
    - 昔はデータはRDBやCSVファイルに保存され、いずれも構造化されており、それらを処理して`分析`していた。
    - 現在では大量のデータかつ非構造化データも含めた分析が必要とされるようになったことで従来に`分析`では対応できなくなった。
    - 収集した生データを保存する先としてデータレイクという概念が生まれ、データレイクの生データを`分析`する前処理としてETL処理を行う手法が取られた。
- Glue StudioではETLジョブを定義するビジュアルエディタを提供する他、パフォーマンスチェックも可能。

__■ 用語整理__
- ETL(Extract/Transform/Load)処理
    - Extract : ERPやDB、CSVファイルなどに散在するデータを集約し、分析に必要なデータのみに抽出する処理。
    - Transform : DWHにて分析しやすいデータ形式に変換する処理。
    - Load : 加工したデータをDWHに取り込む処理。

- スキーマ
    - 概念スキーマ、外部スキーマ、内部スキーマの3層で構成され、DBの操作方法やデータの物理的な格納方法などを定義したDBの設計図。

https://itmanabi.com/db-schema/

__■ ETL処理の使い分け__

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/aac7c43e-26f0-e962-06b5-bf4207f4ce5e.png)
▲ [BlackBelt](https://www.slideshare.net/AmazonWebServicesJapan/20190806-aws-black-belt-online-seminar-aws-glue#44)より転載

__■ EMRとの使い分け__

> AWS Glue は Apache Spark 環境で動作させることができ、データ変換ジョブのスケールアウト実行環境が提供されます。AWS Glue では ETL ジョブの推測、展開、モニタリングが行われ、ジョブの作成とメンテナンスのプロセスが大幅に簡略化されます。Amazon EMR では Hadoop 環境に直接アクセスでき、下位レベルへのアクセスや、Spark 以外のツールを使用できる柔軟性が向上します。

https://aws.amazon.com/jp/glue/faqs/

#### 参考

- https://boxil.jp/mag/a2415/
- https://d1.awsstatic.com/webinars/jp/pdf/services/202108_Blackbelt_glue_etl_performance1.pdf
- https://scrapbox.io/inteltank/EMR%E3%82%88%E3%82%8AGlue%E3%82%92%E5%A5%BD%E3%82%80%E7%90%86%E7%94%B1
- https://dev.classmethod.jp/articles/20200924-aws-glue-studio/

### 4.1 アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/549e6b0c-acb9-d2c1-1e3e-4a89cfc9d38f.png)

- 内部ではEMRが動きSparkクラスタを構築せずジョブが実行できる。

#### クローラ

- cronやイベントトリガでデータソースにアクセスしデータ抽出を行う。
- 分類子(Classifier)を参照してデータソースのスキーマを推論・作成する。
- データソースを全てクロールするか差分のみをクロールするかを選択可能。

#### 分類子

- 「データソースに投げ込まれるファイルはこういうファイルだよ」を定義しておくものと理解した。
- 分類子にはあらかじめ用意された[組み込み分類子](https://docs.aws.amazon.com/ja_jp/glue/latest/dg/add-classifier.html#classifier-built-in)(JSONやCSVなど)と独自に定義するカスタム分類子が存在する。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/af2dac94-9ee6-af3d-bedc-e6e0d00ae772.png)

#### データカタログ

- クローラの抽出したデータのメタデータ(DBやテーブル、パーティションの情報)の出力先。
- データカタログのメタデータはS3に保存される。なお、データの実体をカタログが持つわけではなく「データの実体がどこにあるか」などのメタデータのみが保持される。
- Apache Hiveメタストア互換であり、EMRから参照可能。
- クローラを利用せずAPIを介して直接テーブル定義を登録することも可能。

#### 参考

- https://aws.amazon.com/jp/blogs/news/webinar-bb-aws-glue-2019/
- https://dev.classmethod.jp/articles/s3-double-quote-csv-glue-crawler/
- https://dev.classmethod.jp/articles/re-introduction-2022-aws-glue/
- https://qiita.com/yutachaos/items/65bc2fd4f1db2ed816dd
- https://www.ryucom.co.jp/blog/aws/3789
- https://docs.aws.amazon.com/ja_jp/glue/latest/dg/crawler-running.html
- https://qiita.com/pioho07/items/32f76a16cbf49f9f712f
- https://future-architect.github.io/articles/20180828/

### 4.2. AWSサービス間の連携

#### 4.2.1. ネットワーク

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/e3a39077-9ffa-cb56-527a-234cfc4b7385.png)
▲[BlackBelt](https://aws.amazon.com/jp/blogs/news/webinar-bb-aws-glue-2019/)より転載

##### 参考

1. https://aws.amazon.com/jp/blogs/news/webinar-bb-aws-glue-2019/
2. https://aws.amazon.com/jp/blogs/news/connecting-to-and-running-etl-jobs-across-multiple-vpcs-using-a-dedicated-aws-glue-vpc/

#### 4.2.2. 分析実行における連携

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/b2d1d3e1-ce4e-62bc-1f75-d5c14958be81.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

##### 考察

基本的にログ分析の場合はS3にデータを流してGlueにかけると理解。
IoT系のストリーミングデータはストリームETLジョブによりGlueに投げらる。以前は間にFirehoseもしくはLambda+FirehoseやKinesis Data Analytics (Amazon Managed Service for Apache Flink)で処理して投げる必要があった。

Glueジョブの各実行元の使い分けとしては以下(*2)。
1. ジョブ実行の契機が数個程度。 → トリガ (ただし基本的には拡張性を考慮するとワークフローの方がいい?)
2. 複数のジョブ実行がある。 → ワークフロー
3. Glue以外のリソースへのアクセス/処理実行が挟まる → SFn
なお、現在ではSFnとGlueが統合しているためLambda関数を挟まずに直接実行も可能。

なおS3→Glueのような表現がたまにあったが実際公式ドキュメントの[S3イベントの送信先](https://docs.aws.amazon.com/ja_jp/AmazonS3/latest/userguide/notification-how-to-event-types-and-destinations.html#supported-notification-destinations
)を確認するとGlueはなかった。おそらく何かしら(上の絵だとSQSやEventBridge)を経由していると思われる。実際以下のリファレンスアーキテクチャ(2022/11時点)を見るとS3トリガでEventBridgeを介してGlueジョブを実行している。ここのSQSとの使い分けはイベントを複数の処理に繋げたいかどうかなのだろうか？

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/506151f4-ad97-3ed8-31b6-df301788a22c.png)
▲ [AWSリファレンスアーキテクチャ](https://d1.awsstatic.com/architecture-diagrams/ArchitectureDiagrams/industrial-data-lake-for-predictive-maintenance-using-amazon-monitron-and-amazon-kinesis-ra.pdf?did=wp_card&trk=wp_card)より転載

__■ リファアーキの読み解き__

1. 工場内に設置したMonitronセンサーとゲートウェイからKinesis Data Streamsへデータを転送。
2. Firehoseを介してデータレイクであるS3へ転送。
3. S3イベントをEventBridgeへ通知。
4. Lambdaを起動してIoT EventsへS3イベントを渡し、警告をERPへ。
5. 同じくIoT EventsからSNSトピックを介してスタッフに通知。
6. EventBridgeからGlueジョブを実行し、S3のデータを処理。その後AthenaがS3データへクエリする。
7. Grafanaで可視化する。

##### 参考

1. https://dev.classmethod.jp/articles/step-functions-glue-sync-output/
2. https://dev.classmethod.jp/articles/glue-trigger-workflow-stepfunctions/
3. https://www.slideshare.net/matetsu/awseight-121480234
4. https://blog.serverworks.co.jp/run-glue-workflow-when-the-files-is-reached
5. https://developer.mamezou-tech.com/in-house-project/sss/glue/
6. https://techblog.nhn-techorus.com/archives/21903
7. https://dev.classmethod.jp/articles/kinesis-data-firehose-json-parse-glue-jobs/
8. https://blog.serverworks.co.jp/2023/01/05/091657
9. https://blog.jp.square-enix.com/iteng-blog/posts/00035-aws-log-etl/
10. https://aws.amazon.com/jp/blogs/aws/new-serverless-streaming-etl-with-aws-glue/?utm_source=thenewstack&utm_medium=twitter&utm_campaign=Feed%3A+AmazonWebServicesBlog+%28Amazon+Web+Services+Blog%29
11. https://dev.classmethod.jp/articles/aws-glue-now-supports-serverless-streaming-etl/
12. https://blog.serverworks.co.jp/amazon-connect-save-ctrs
13. https://aws.amazon.com/jp/blogs/news/generate-actionable-insights-for-predictive-maintenance-management-with-amazon-monitron-and-amazon-kinesis/
14. https://d1.awsstatic.com/architecture-diagrams/ArchitectureDiagrams/industrial-data-lake-for-predictive-maintenance-using-amazon-monitron-and-amazon-kinesis-ra.pdf?did=wp_card&trk=wp_card
15. https://www.tis.jp/special/platform_knowledge/cloud25/
16. https://tech.connehito.com/entry/2022/08/24/184911

## 5. AWS Clean Rooms

- 複数のAWSアカウント間でデータの実体をコピーすることなくセキュアに共有する。
- 現状、プライバシーの観点やセキュリティの観点から、個人情報のマスキングやデータ移動に制限があるなどデータコラボレーションが進みにくい。
- Clean Roomsでは生データをコピーやDB自体の共有を行わずにパートナーとデータ共有を行う方法を提供する。

### 5.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/5fd79d5e-5049-94a1-02dd-f53ae26fd21b.png)

#### 参考

- https://www.youtube.com/watch?v=bGDkUPmrU64
- https://dev.classmethod.jp/articles/try-aws-clean-rooms-ga/

### 5.2. AWSサービス間の連携

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/43eb8a15-162e-4935-d53b-509003c2a850.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

#### 考察

メンバーアカウントのうち1つしかクエリ実行できないとするとそんな一方的なデータ提供をしてくれるものなの？と思っていたがBlackBeltで実際のユースケースとしてグループ企業間でのデータ連携や業務提携として相互に共有する使い方が示されていた。
なお、2023/6時点のリファアーキとして以下が示されている。個人的にはNeptuneに投げ込むところがCleanRoomsの用途として一番示唆を与えてくれてる感じがした。クロスデバイスユーザデータや世帯データなど本来関連するデータがアカウントや企業に跨って点在し、制約上データを移動できないケースは実際ありそうで、かつそれらを紐づけることで導ける予測がある気がする。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/fd44249d-aca1-1630-0526-cdbbeb38dc5c.png)
▲ [AWSリファレンスアーキテクチャ](https://d1.awsstatic.com/solutions/guidance/architecture-diagrams/predictive-segmentation-using-third-party-data-with-aws-clean-rooms.pdf)より転載

__■ リファアーキの読み解き__
1. Pinpointで収集したユーザの行動データをFirehose経由でS3に流す。
2. Glueでデータカタログを構成し、CleanRoomsにて外部の共有データと連携する。
3. 3-party側でCleanRoomsのメンバーシップの招待を承諾する。
4. CleanRoomsでクエリを実行する。
5. クエリの結果をS3に出力する。
6. クロスデバイスユーザデータや世帯データをNeptuneにロードする。
7. QuickSightで可視化する。
8. SageMakerでMLモデルを生成する。
9. SageMakerの予測結果をPinpointにフィードバックする。

#### 参考
1. https://aws.amazon.com/jp/blogs/news/managing-data-confidentiality-for-scope-3-emissions-using-aws-clean-rooms/
2. https://aws.amazon.com/jp/solutions/guidance/predictive-segmentation-using-third-party-data-with-aws-clean-rooms/

## 6. AWS Glue DataBrew

- 従来、データ分析や機械学習を行う場合、データのクリーニングや正規化を行う必要がある。データアナリスト/サイエンティストが細かなETL処理のコードを書くことなくそれらの前処理を行えるようにするためのビジュアルデータ準備ツールとしての位置付け。
- 入力ファイルはcsvやjson、xslxなどのファイルをサポートし、ファイルフォーマットを拡張子で自動判別。

__■ Glue Studioとの使い分け__

> AWS Glue DataBrewもAWS Glue Studioもビジュアルでデータ処理のジョブを作成しますが、AWS Glue DataBrewはデータのプレビュー機能やサマリーが表示されたりとデータの中身がわかりやすいです。一方でAWS Glue StudioはETLジョブ作成ツールというだけあってデータソースやターゲットがビジュアルでわかりやすい作りになっています。対象ユーザーを考えるとAWS Glue DataBrewは非エンジニアでも使いやすいツールだと言えます。

https://blog.serverworks.co.jp/aws-glue-databrew

### 6.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/91ab6aaf-cce8-fa6b-7f19-ce396a3a0591.png)

#### 参考

- https://aws.amazon.com/jp/blogs/news/announcing-aws-glue-databrew-a-visual-data-preparation-tool-that-helps-you-clean-and-normalize-data-faster/
- https://d1.awsstatic.com/webinars/jp/pdf/services/20210217_BlackBelt_GlueDataBrew.pdf

### 6.2. AWSサービス間の連携

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/25150c4b-d7fa-82b8-2a12-74db7e124924.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

#### 考察

分析対象のデータのパターンによって以下に集約されると考える。
- AWS内にあるデータ → S3/Glueデータカタログでつなぐ
- オンプレ環境にあるデータ → 閉域網を通りてJDBC接続/Glueデータカタログでつなぐ
- 外部のSaaSにあるデータ → AppFlowを通してS3に連携してつなぐ
- 外部のCSP(クラウドサービスプロバイダ)にあるデータ → S3に連携してつなぐ

結局、下のリファアーキでも示されるように少し込み入った処理をしたり他サービスとの連携、通知あたりを考えるようになるとSFnでフロー化することになるが、 __責務分担の観点__ では良いなと思った。
以前SFn+Lambda/ECSでデータ分析のフローを書くサービスを作っていたころ、データチームが書いたコードをzipでもらってLambdaに乗せる開発体制をとっており、結合テストでつらい思いをしたことがある。データチームはDataBrewの中を責務に、そこを呼び出し周辺環境を支えるのは開発チームとして責務を切ることでエラーのデバッグに両チームが呼び出される自体は避けられそう。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/e1ec2090-9d1b-4292-f00d-2b18a5d2f96f.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/3dc09bf6-9906-88a2-dfa5-9e983d14866f.png)
▲[AWSソリューションライブラリ](https://aws.amazon.com/jp/solutions/implementations/data-connectors-for-aws-clean-rooms/)より転載

#### 参考
1. https://dev.classmethod.jp/articles/aws-glue-databrew-pii-stepfunctions/
2. https://d1.awsstatic.com/webinars/jp/pdf/services/20210217_BlackBelt_GlueDataBrew.pdf
3. https://aws.amazon.com/jp/blogs/big-data/doing-data-preparation-using-on-premises-postgresql-databases-with-aws-glue-databrew/
4. https://aws.amazon.com/jp/blogs/big-data/extract-prepare-and-analyze-salesforce-com-data-using-amazon-appflow-aws-glue-databrew-and-amazon-athena/

## 7. Amazon EMR

- HadoopなどのOSSの分析フレームワークを用いてビッグデータの分析を行うネージドな環境を提供する。

近年、大量で多種多様のデータを用いてマーケティングなどに利用するビッグデータを利用するデータ分析のニーズが高まってきた。従来一般的だった、データを単一のサーバに蓄積し、クエリを投げて取得する方法では処理時間に限界が来た。そこで複数のサーバをクラスタ構成を取り、並列計算させる方法が考えられた。
単に並列に増やしてもサーバの障害に弱くスケーラビリティに欠ける。それらを考慮したものがHadoopなどの分散処理のフレームワークである。

__■ Hadoopとは__
Hadoopは分散ファイルシステムHDFSと計算処理を担う分散処理フレームワークHadoop MapReduceによって支えられる。

__HDFS__
HDFSはマスターノードであるNameNodeとスレーブノードであるDataNodeで構成され、NameNodeはメタ情報を保持し、データの実体はDataNodeに保持される。全てのファイルは最低3ノードにレプリケートされ、冗長構成を持ったファイルシステムとなっている。

__Hadoop MapReduce__
HadoopではマスターノードであるJobTrackerとスレーブノードであるTaskTrackerで構成される。JobTrackerは司令塔として各ノードのTAskTrackerにタスクを割り当てる。
なお、この処理はHadoop2系では分散リソース制御機構`Hadoop YARN`と`MapReduce ApplicationMaster`の2つに分離され、より多くのクラスタを構成可能となった。

- Mapタスク : HDFSの生データをの処理に基づきキーバリュー形式にデータを抽出する。
- Reduceタスク : 各ノードでMapタスクによってキーバリュー形式に意味付けされたデータを統合し集計する。

https://oss.nttdata.com/hadoop/hadoop.html

https://www.fujitsu.com/jp/products/computing/storage/lib-f/tech/beginner/hadoop/

__■ MapReduceとSpark__

MapReduceでは多段階のジョブ実行の際に処理間のデータの受け渡しに何度もHDFSとの間にIOが発生し非効率なケースがあったり、同一のデータを複数ジョブを並列で回す際に何度も同じデータの読み出しが発生する。こうした繰り返し処理の効率化を行うために、HDFSに特殊なキャッシュを設け、インメモリで高速な分散処理を行うことを考えたのがSpark。

https://open-groove.net/spark/spark-aws-emr-glue/

> Spark は、同じデータを何度も繰り返す反復計算では優位に立ちますが、データ変換やデータ統合など、１回で終わる ETL のようなジョブに関しては、まさに MapReduce が得意とするところです。
> 結論：Sparkは、特に専用クラスタ上で、データが全てメモリに収まる場合に優れた性能を発揮し、Hadoop MapReduce は、メモリに収まらないデータに適しており、他のサービスと並行した実行が可能。

https://www.integrate.io/jp/blog/apache-spark-vs-hadoop-mapreduce-ja/

__■ YARN__

計算リソースを一元管理する。クライアントからの計算リソース要求に応じて、どのスレーブでリソースを確保するかをスケジューリングする。

https://gihyo.jp/admin/serial/01/how_hadoop_works/0015

https://qiita.com/keigodasu/items/09f7e0a15d721b0b5212

__■ Hive__
Hadoop上に構築されたDWHで非構造化データの大規模なプールに対してクエリ実行可能(HiveQL)。

__■ HBase__
HDFS上に構築された列指向分散データベース。NoSQLキー/バリューストア。

https://www.integrate.io/jp/blog/hive-vs-hbase-ja/

### 7.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/e63ecb95-3b06-efc5-2848-c11defe7c1a1.png)

#### 参考

- https://d0.awsstatic.com/webinars/jp/pdf/services/20161026_AWS-BlackBelt-EMR.pdf
- https://docs.aws.amazon.com/ja_jp/emr/latest/ManagementGuide/emr-plan-output.html

### 7.2. AWSサービス間の連携

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/a49f8a31-ede1-6f77-e02e-1b6b2be6d010.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

#### 参考

1. https://pages.awscloud.com/rs/112-TZM-766/images/202308_AWS_CDP_%20EMRDistributedProcessingSystem.pdf
2. https://aws.amazon.com/jp/blogs/database/capture-key-source-table-headers-data-using-aws-dms-and-use-it-for-amazon-s3-data-lake-operations/
3. https://aws.amazon.com/jp/blogs/big-data/apply-record-level-changes-from-relational-databases-to-amazon-s3-data-lake-using-apache-hudi-on-amazon-emr-and-aws-database-migration-service/
4. https://aws.amazon.com/jp/blogs/news/real-time-bushfire-alerting-with-complex-event-processing-in-apache-flink-on-amazon-emr-and-iot-sensor-network/
5. https://repost.aws/ja/knowledge-center/alarm-emr-cluster-change
6. https://docs.aws.amazon.com/ja_jp/emr/latest/ReleaseGuide/emr-kinesis.html
7. https://aws.amazon.com/jp/blogs/news/use-the-aws-database-migration-service-to-stream-change-data-to-amazon-kinesis-data-streams/

## 8. Amazon Kineis

ストリーミング処理向けのスケーラブルなキュー。
内部的にキューのようなものを持ち、メッセージをバッファしてデーアコンシューマ側に送る/取りに来てもらう構成を取る一連のサービス群。

__■ Kinesis Data StreamsとFirehoseの使い分け__

Firehoseは中でバッファリングしてからある程度のまとまりを配信するpush型配信。そのため一定の遅延が生じるニアリアルタイムな構成になる。
Streamsはpull型で内部でデータを溜めないのでリアルタイム要件にはこちら。

なお、先日Firehoseでバッファせず配信することが可能となり、Firehoseでもリアルタイムで流すこと自体は可能になった。

https://dev.classmethod.jp/articles/amazon-kinesis-data-firehose-buffer-interval-zero-setting/

### 8.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/c832b42e-c69c-7d75-b51e-691ca36302b8.png)

#### 参考
- https://tech.blog.surbiton.jp/aws_kinesis_1_get_started/
- https://aws.amazon.com/jp/kinesis/data-firehose/faqs/
- https://d1.awsstatic.com/webinars/jp/pdf/services/20200930_BlackBelt_AmazonKinesisVideoStreams.pdf
- https://aws.amazon.com/jp/kinesis/data-firehose/faqs/
- https://techblog.zozo.com/entry/kinesis-data-streams

### 8.2. AWSサービス間の連携

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/11c14921-5bd2-3678-7fe6-68e517630245.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

#### 参考
1. https://dev.classmethod.jp/articles/rekognition-video-analyze-kinesis-video-stream/
2. https://aws.amazon.com/jp/blogs/news/analyze-live-video-at-scale-in-real-time-using-amazon-kinesis-video-streams-and-amazon-sagemaker/
3. https://d1.awsstatic.com/webinars/jp/pdf/services/20200930_BlackBelt_AmazonKinesisVideoStreams.pdf
4. https://dev.classmethod.jp/articles/kinesis-firehose-support-delivery-to-http-endpoint/
5. https://docs.aws.amazon.com/ja_jp/firehose/latest/dev/writing-with-iot.html
6. https://aws.amazon.com/jp/blogs/news/real-time-bushfire-alerting-with-complex-event-processing-in-apache-flink-on-amazon-emr-and-iot-sensor-network/
7. https://aws.amazon.com/jp/solutions/implementations/streaming-data-solution-for-amazon-kinesis/
8. https://pages.awscloud.com/rs/112-TZM-766/images/%5B%E9%85%8D%E5%B8%83%E7%94%A8%28%E4%BF%AE%E6%AD%A3%E7%89%88%29%5DDevAX%20-%20Near%20Real-Time%20Analytics%20%E3%82%92%E5%AE%9F%E7%8F%BE%E3%81%99%E3%82%8B%E3%82%A2%E3%83%BC%E3%82%AD%E3%83%86%E3%82%AF%E3%83%81%E3%83%A3%E3%83%BC%E3%81%A8%E5%AE%9F%E8%A3%85_20210708.pdf

## 9. Amazon Managed Streaming for Apache Kafka

Apache Kafkaのマネージドサービス。
kafkaについては以下。Kinesis Data Streamsと基本的には同じ。
現行kafkaを使用していてクラウドにリフト&シフトを想定するのであればMSKでいいが、これから開発するような場合ではKinesisを選択するべき。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/17c76b80-cd0a-7171-8e3c-c86089a7a7e6.png)
▲[DevAx connect資料](https://pages.awscloud.com/rs/112-TZM-766/images/%5B%E9%85%8D%E5%B8%83%E7%94%A8%28%E4%BF%AE%E6%AD%A3%E7%89%88%29%5DDevAX%20-%20Near%20Real-Time%20Analytics%20%E3%82%92%E5%AE%9F%E7%8F%BE%E3%81%99%E3%82%8B%E3%82%A2%E3%83%BC%E3%82%AD%E3%83%86%E3%82%AF%E3%83%81%E3%83%A3%E3%83%BC%E3%81%A8%E5%AE%9F%E8%A3%85_20210708.pdf)より転載

### 参考
- https://pages.awscloud.com/rs/112-TZM-766/images/20191120_AWS-BlackBelt_AmazonMSK.pdf

## 10. Amazon Managed Service for Apache Flink

- Kinesis Data Analyticsの後継。
- Kinesis Data AnalyticsにはSQLアプリケーション向けとFlink向けアプリケーションとがあったが、後者に統一されたのだろうか？まだ記事が少なすぎてこの辺不明確。

当初FirehoseにLambda関数噛ませるとかじゃだめなの？と思ってたが、以下の記事で納得した。
Lambdaはステートレス故に直前のデータに依存した結果を返すような処理苦手である。そのため直前のデータをどこか外部のストレージで保持しようにも遅延の観点でストリミーング処理と相性が悪い(それが許容できるならもちろんOK)。Data Analytics (現MSF)はWINDOWクエリのように特定の期間のストリーミングデータを参照するクエリをもち、区間のデータに対する分析が可能となる。

https://dev.classmethod.jp/articles/kinesis_data_analytics_sql_zundokokiyoshi/

### 10.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/0ff30a32-e08c-b45c-a98f-2ce9331553bb.png)

#### 参考
- https://dev.classmethod.jp/articles/first-time-kinesis-data-analytics/
- https://d1.awsstatic.com/webinars/jp/pdf/services/20180110_AWS-BlackBelt-Kinesis.pdf

### 10.2. AWSサービス間の連携

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/9f417905-91be-6a90-20ce-e9d07d9dce8b.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

#### 参考
1. https://d1.awsstatic.com/webinars/jp/pdf/services/20180110_AWS-BlackBelt-Kinesis.pdf
2. https://blog.soracom.com/ja-jp/2022/08/05/anomaly-detection-with-amazon-kinesis/
3. https://blog.serverworks.co.jp/aws/swx/kinesis-analytics

## 11. Lake Formation

従来、データ分析環境を作ろうとするとデータレイクとしてのS３とGlueのカタログやジョブ、ワークフローの作成、分析のためのAthena、権限管理のためのIAMを全て自前で用意する必要があった。これらの環境のセットアップをいい感じにやってくれるのがLake Formation。そのほかアカウントを跨いで存在するS3データへのアクセスを1つに集約するため内部でGlueデータカタログを連携する機構を持っている。(LF-tag以外にもRAMを利用して共有する方法もある。)

### 11.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/aeef7459-a788-5200-4432-b94c48410f58.png)

- 実体としてはS3とGlue。
- データレイクは実質S3。
- ブループリントとして予め用意された数パターン(接続先がDBかログか)のワークフローを作成可能。編集は不可。
- IAMよりもきめ細やかなデータレイクに対するアクセス制御を提供。

### 参考
- https://d1.awsstatic.com/webinars/jp/pdf/services/20191001_BlackBelt_LakeFormation_A.pdf
- https://dev.classmethod.jp/articles/20220111-datalake-build/
- https://dev.classmethod.jp/articles/lake-formation-features-summary/
- https://aws.amazon.com/jp/campaigns/manga/vol9-1/
- https://aws.amazon.com/jp/blogs/news/lake-formation-cross-account/

## 12. Amazon FinSpace

- 金融業界向けに分析基盤を提供する。
- 動きを見るとおそらくFinSpaceの環境を1つ立ち上げると裏で認証認可のためのCognitoやら分析のためのGlueやSageMakerの環境が構成されるものと予想。
- 金融の知見がないので中身はよくわからんが株式(Equity)の利回り(Treasury Spread)等のデータ分析の実施に利用される(?)。

### 参考
- https://www.youtube.com/watch?v=f94DBa6Bcog
- https://aws.amazon.com/jp/about-aws/whats-new/2021/05/introducing-amazon-finspace-a-fully-managed-service-to-store-prepare-and-analyze-data-for-the-financial-services-industry-fsi/

## 13. AWS Data Exchange

- データ版のMarketplace。
- Data Exchangeで無償もしくは有償で公開される3partyのデータセットをサブスクライブすることでシームレスに分析データを入手できる。逆にAWSに認定を受けることでプロバイダとしてデータを提供/販売することも可能。
- S3やRedShift、Lake Formation向けに統合されたデータセットがあり、データをエクスポート/コピーして自身のアカウントに移動することなく分析を開始できる。(Data Exchange For 〇〇)
- AWS Marketplaceと統合している。
- AWS Data Exchange for APIsにより、APIとしても提供/公開できるようになった。AWS SDKを介してRESTful/GraphQLを利用してデータセットにアクセス可能。データ全体を取得するのではなく特定のデータを取得したい/クエリしたい場合に有用。

### 参考
- https://pages.awscloud.com/rs/112-TZM-766/images/AWS-36_About_the_latest_DWH_and_Datalake_trends_KMD09.pdf
- https://www.acrovision.jp/service/aws/?p=2459
- https://www.infoq.com/jp/news/2022/01/aws-data-exchange-for-apis/
- https://dev.classmethod.jp/articles/aws-data-exchange-for-apis/

### 13.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/cb67dc3d-0bde-285b-84da-ab25066a633a.png)

#### 参考
- https://aws.amazon.com/jp/data-exchange/why-aws-data-exchange/lake-formation/
- https://docs.aws.amazon.com/ja_jp/data-exchange/latest/userguide/data-sets.html

## 14. Amazon RedShift

- スキーマオンライトモデルのDWH。予めスキーマを定義しておきSQLを介してデータを投入する。
- 列指向DBであり集計に強い。SQLベースなので非構造化データにはEMRを使う。

### 参考
- https://blog.serverworks.co.jp/redshift-federated-query
- https://qiita.com/ieiringoo/items/dd501cc3039422cf0d94
- https://qiita.com/sasaki_hir/items/2783154740ac91140ad2
- https://pages.awscloud.com/rs/112-TZM-766/images/AWS-Black-Belt_2023_Amazon-Redshift-Overview_v1.pdf

### 14.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/d0b085fc-8b7b-4a71-8d89-5c572e2d0fe1.png)

#### 参考
1. https://pages.awscloud.com/rs/112-TZM-766/images/AWS-Black-Belt_2023_Amazon-Redshift-Overview_v1.pdf

### 14.2. AWSサービス間の連携

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/8784d8ef-dcfa-0396-b205-378f542d0606.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

1. https://pages.awscloud.com/rs/112-TZM-766/images/AWS-Black-Belt_2023_Amazon-Redshift-Overview_v1.pdf
2. https://dev.classmethod.jp/articles/redshift-dataapi-from-lambda/
3. https://dev.classmethod.jp/articles/redshift-data-integration-services/
4. https://docs.aws.amazon.com/ja_jp/athena/latest/ug/connectors-redshift.html

## 15. Amazon Athena

- データレイクに対するスキーマオンリードモデルの分析サービス。
- アドホックなデータ分析ツールであり、大規模データの分析や複雑なデータの分析には不向き。

### 参考
- https://dev.classmethod.jp/articles/what-is-schema-on-read/
- https://www.sunnycloud.jp/column/20210204-01/

### 15.1. AWSサービス間の連携

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/bdf2e2a2-7de4-8e8f-93fd-e0da1bcf7c3a.png)
※ 図中のアスタは参考リンクのナンバリングと対応。

#### 参考

1. https://d1.awsstatic.com/webinars/jp/pdf/services/20200617_BlackBelt_Amazon_Athena.pdf
2. https://dev.classmethod.jp/articles/amazon-athena-federated-query-ga-in-tokyo/
3. https://docs.aws.amazon.com/ja_jp/ja_jp/athena/latest/ug/datazone-using.html

## 16. Amazon QuickSight

- BIツール
- 独自の権限管理下でユーザやグループを管理する。
- ある程度のカスタマイズは効くが限界はある。ユーザ単位での課金なので外部向けに出すには微妙。

### 16.1. アーキテクチャ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/406130/7a7bfad1-fc98-2232-fe06-a03c443ff1f9.png)

Viewだと分析にアクセスするたびに内部でクエリ実行してデータソースからデータ取得が発生する。テーブルとして持つことで予め計算済みの状態になる。

#### 参考
1. https://docs.aws.amazon.com/ja_jp/quicksight/latest/user/supported-data-sources.html

## 17. Amazon DataZone

- 組織の複数のプロジェクト間で散在するデータを管理、活用するためのサービス。
- AWSコンソールとは別でコンソール画面を持ち、データへのアクセス権の細かな設定やAthenaやRedShiftのクエリエディタでのシームレスなデータ分析を提供する。
- ビジネスカタログとしてGlueデータカタログよりも自由度の高くデータをカタログ化。

### 参考
- https://www.zead.co.jp/column/aws-amazondatazone/

## 18. AWS Entity Resolution

- 種々のデータストアに散在しサイロ化したデータから関連するレコードを検索しデータの関連性の示唆を与えるサービス。
- Glueデータカタログを読み取りレコードの関連性はルールベースまたはMLベースのマッチングを用いて判断される。
- データソースはS3

### 参考
- https://www.sunnycloud.jp/column/20230728-01/amp/

## 19. AWS Data Pipeline

### 19.1. AWSサービス間の連携

- 現在はメンテナンスモードとなり、マネコンからアクセス不可。GlueやMWAAへの移行が推奨されている。FAQにアクセスしてもGlueに飛ばされるあたりメッセージを感じる。
- マネージド型のコンテナオーケストレーションサービス。
- DynamoDB、RDS、Redshift、S3をデータソースとして、自身の環境に構築するEC2やEMRでETL処理を実施できる。
- スケジュール実行をサポート

#### 参考
- https://aws.amazon.com/jp/glue/faqs/
- https://qiita.com/ninomiyt/items/2879986208d60bf67864
- https://docs.aws.amazon.com/ja_jp/datapipeline/latest/DeveloperGuide/migration.html
- https://dev.classmethod.jp/articles/cm-advent-calendar-2015-getting-started-again-datapipeline/