AWS Certified Data Engineer - Associate Beta (DE1-C01) 受験体験記

2023/11/27から「AWS Certified Data Engineer - Associate」のBeta試験が始まりました。
Beta試験を受験する機会はそれほど多くありません。せっかくのチャンスなので2023/12/1に初めて受験してきました。

## AWS Certified Data Engineer - Associate について

試験の概要を見てみましょう。

https://aws.amazon.com/jp/certification/certified-data-engineer-associate/

>AWS Certified Data Engineer - Associate は、コアデータ関連の AWS サービスのスキルと知識や、データパイプラインの実装、問題のモニタリングとトラブルシューティング、ベストプラクティスに従ってコストとパフォーマンスを最適化する能力を検証します。AWS テクノロジーを使用して分析や実用的なインサイトを得るためにデータを変換することにご関心がおありの場合、このベータ試験は、この新しい認定の最初の取得者の仲間入りをする機会を提供します。

「Data Engineer」ということでデータをどう収集して、処理、変換し業務に活用するか、データを扱ううえでの応用的な知識・スキルが問われそうです。AutoMLやローコード・ノーコードツールによってデータ分析や機械学習が民主化されてきた昨今、データエンジニアリングの重要性が窺えます。

| 項目 | 説明 |
|:-:|:-:|
| カテゴリ  | Associate  |
| 試験期間 | 170 分  |
| 試験形式  | 85 問 (択一または多肢選択) |
|  料金 | 75 USD  |
| 対面テストまたはオンラインテスト  | Pearson VUE テストセンターまたはオンライン監督付き試験  |
|  対象言語 | 英語  |
|  ベータ試験の実施日 | 2023 年 11 月 27 日～2024 年 1 月 12 日  |

料金は「USD」と記載されていますが、税抜き7500円で請求されます。
通常のAssociate試験より20問多い、85問をすべて英語で読み進めなければならないといった点で難易度は高めと思われます。

## 受験者のプロフィール

参考までに筆者の情報を記載します。英語は簡単な読み書きができる程度です。
- 仕事での役割：インフラエンジニア(データエンジニアリングの経験なし)
- AWS Certified Data Analytics - Specialty取得済み
- TOEIC：750点

## 受験申込み

対象言語が英語のみのため、事前に「特別措置申請」を行います。
特別措置申請を行うと、英語を母国語としない方向けに試験時間を30分延長することができます。時間勝負になりがちな試験では嬉しい対応です。

AWS認定ページの「試験登録」タブを開くと、以下のような記載があります。
>[試験対応](https://www.certmetrics.com/amazon/candidate/exam_accommodations_default.aspx)は、試験のスケジューリングを行う前に申請してください。事前申請が必要なものには、英語を母国語としない方向けの追加試験時間も含まれます。

「試験対応」ページを開き、「特別措置のリクエスト」ボタンを押下します。
![特別措置](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/144187/f310d618-744c-ac34-8568-e95ca31fe4ad.png)

既に予約済みの試験が一つでもあると以下のような画面となり特別措置のリクエストができませんので、すべての試験をキャンセルしてから申請しましょう。
![特別措置NG](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/144187/99468b14-3413-35c3-dc03-5f38b8a272e3.png)

説明内容をよく読んで理解し、[対応の選択]で「ESL +30 MINUTES」を選択して、「作成」を押下します。
![作成](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/144187/29ba4f8a-38a4-31f5-1c6a-2b3ea5d19807.png)

申請後数分で承認されました。
![承認](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/144187/59fe9cdc-824f-713e-f12a-e7911b6f3421.png)

試験を登録すると、時間が30分間延長されていることが確認できました。一方、210分(3時間30分)も集中力が続くのかという不安はあります。

![申し込み](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/144187/c1c95d34-2e22-8b2f-fdbf-b54d6203fa06.png)
![詳細](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/144187/e771b382-c9e1-2f6a-eb76-43432b54c477.png)

## 勉強法
本試験を対象にした学習教材はまだ少ないため、試しにAmazon Q(Preview)に聞いてみました。Amazon Qは執筆時点で日本語対応していませんが、分かりやすいよう機械翻訳した内容を記載します。

質問
>AWS Certified Data Engineer - Associateの勉強方法を教えてください。

回答
>AWS 認定データエンジニア - アソシエイト試験の勉強手順は次のとおりです。
>
>1. 試験ガイドを参照して、試験の形式と対象となる内容領域を理解してください。試験ガイドは AWS 認定ページで入手できます。
>
>2. AWS 認定データエンジニア - アソシエイト公式練習問題を受講して、問題のスタイルと難易度を理解してください。これは、さらに注力すべき領域を特定するのに役立ちます。
>
>3. AWS でのデータ分析やデータ ウェアハウジングなどの AWS トレーニング コースを通じて試験のトピックについて学習します。これらは、AWS のサービスに関する実践的なスキルの開発に役立ちます。
>
>4. Amazon S3、AWS Glue、Amazon Athena など、試験で対象となるサービスのドキュメント ページを参照して、それらの機能と、それらを使用してデータ パイプラインを実装する方法を理解してください。
>
>5. AWS アカウントでサービスを起動し、チュートリアルに従ってサービスの設定を練習します。これにより、試験中に概念をよりよく思い出すことができます。
>
>6. オンラインで利用できる模擬テストを受けて、試験環境をシミュレートします。間違った解答に対する解説を復習することが重要です。
>
>7. 試験ガイドに記載されている、AWS 上で費用対効果が高くパフォーマンスの高いデータ ソリューションを構築するためのベスト プラクティスをよく理解していることを確認してください。
>
>Sources
>[1] [Registration open for AWS Certified Data Engineer – Associate beta exam](https://aws.amazon.com/jp/blogs/training-and-certification/registration-open-for-aws-certified-data-engineer-associate-beta-exam/)

模範的な回答ですね。試験ガイドを確認して公式練習問題を受講するというのはどの認定にも通用する王道です。

参考リンクには重要なヒントが書かれています。

>AWS 認定データエンジニア – アソシエイトと AWS 認定データ分析 – スペシャリティの主な違い
>(中略)
>AWS 認定データエンジニア – アソシエイトはデータエンジニアの職務に密接に連携し、データの取り込み、変換、保存、管理に重点を置きます。AWS 認定データ分析 – 専門分野は幅広いドメインをカバーしており、データエンジニアとデータアナリストの両方に関連するトピックが含まれています。AWS 認定データエンジニア – アソシエイトにはプログラミング概念の適用が含まれていますが、AWS 認定データ分析 – スペシャリティには含まれていません。AWS 認定データエンジニア – アソシエイトは、AWS 認定データ分析 – スペシャリティよりもデータの運用、サポート、セキュリティに重点を置いています。

**「AWS Data Analytics - Speciality」にはデータエンジニアに関連するトピックが含まれている**とのこと。

そこで、公式サイトの「試験ガイド」を参考に、「AWS Certified Data Engineer - Associate」(以下、「Data Engineer」と記載)と「AWS Data Analytics - Speciality」(以下、「Data Analytics」と記載)を比較してみました。

[AWS Certified Data Engineer - Associate 試験ガイド](https://d1.awsstatic.com/training-and-certification/docs-data-engineer-associate/AWS-Certified-Data-Engineer-Associate_Exam-Guide.pdf)
[AWS Data Analytics - Speciality 試験ガイド](https://d1.awsstatic.com/ja_JP/training-and-certification/docs-data-analytics-specialty/AWS-Certified-Data-Analytics-Specialty_Exam-Guide.pdf)

まずは概要から。
Data Analyticsではデータ分析や処理の比重が大きいのに対し、Data Engineerではデータパイプラインやデータの取り込みと変換に比重が置かれています。

| カテゴリ | AWS Certified Data Engineer - Associate (DEA-C01) | AWS Certified Data Analytics – Specialty (DAS-C01) |
|:-:|:-:|:-:|
|対象者|候補者が**データ パイプライン**を実装し、ベスト プラクティスに従ってコストとパフォーマンスの問題を監視、トラブルシューティング、最適化できる能力を検証します。|**データ分析**の役割を担う個人を対象としています。この試験では、受験者が AWS のサービスを使って、データからのインサイトを提供する**分析ソリューション**を設計、構築、保護、および保守する能力を検証します。 |
|合格スコア|720|750|
|試験内容の概要| **データの取り込みと変換 (34%)** <br>データストア管理 (26%) <br>データの操作とサポート (22%) <br>データセキュリティとガバナンス (18%)|収集 (18%) <br>ストレージとデータ管理 (22%) <br>**処理 (24%)** <br>分析と可視化 (18%) <br>セキュリティ (18%)|

次に分野別のタスクステートメントを比較しました。分野はできるだけ近しいものを統合してタスクステートメントを配置しています。

Data AnalyticsとData Engineerで似たようなタスクステートメントが多いことが分かります。個別に存在するキーワードとしては、Data Analyticsでは「データ可視化」、Data Engineerでは「データパイプライン」や「データ品質」が挙げられます。

| 分野 |AWS Certified Data Engineer - Associate (DEA-C01) | AWS Certified Data Analytics – Specialty (DAS-C01) |
|:-:|:-:|:-:|
| データ収集・変換  | 1.1: データの取り込みを実行する。<br>1.2: **データを変換**および処理する。<br>1.3: **データパイプライン**を調整する。<br>1.4: **プログラミングの概念**を適用する。|  1.1: 収集システムの運用上の特性を判断する。<br> 1.2: データが発生する頻度、ボリューム、およびデータ ソースを処理する収集システムを選択する。<br>1.3: データの主要特性 (順序、形式、圧縮など) に対応する収集システムを選択する。 |
| データストア管理  | 2.1: データストアを選択する。<br>2.2: データカタログシステムを理解する。<br>2.3: データのライフサイクルを管理する。<br>2.4: データモデルとスキーマの進化を設計する。  |  2.1: 分析用ストレージソリューションの運用上の特性を判断 する。<br>2.2: データアクセスとデータ取得のパターンを判断する。<br>2.3: 適切なデータレイアウト、スキーマ、構造、および形式を選択する。 <br>2.4: 使用パターンとビジネス要件に基づいて、データライフ サイクルを定義する。 <br>2.5: データのカタログ化とメタデータの管理に適したシステムを決定する。  |
| データ処理 | 3.1: AWS のサービスを使用してデータ処理を自動化する。<br>3.3: **データパイプライン**を維持および監視する。<br>3.4: **データ品質**を確保する。  |  3.1: 適切なデータ処理ソリューションの要件を判断する。 <br>3.2: 分析目的でデータを変換および準備するための ソリューションを設計する。 <br> 3.3: データ処理ソリューションの自動化と運用を実現する。 |
| 分析と可視化   |  3.2: AWS のサービスを使用してデータを分析する。 |  4.1: データ分析および**可視化ソリューション**の運用上の特性を判断する。<br>4.2: 特定のシナリオに適したデータ分析ソリューションを選択する。 <br>4.3: 特定のシナリオに適した**データ可視化ソリューション**を選択する。 |
| データセキュリティとガバナンス | 4.1: 認証メカニズムを適用する。<br>4.2: 認可メカニズムを適用する。<br>4.3: データの暗号化とマスキングを確実に行う。<br>4.4: **監査用のログ**を準備する。<br>4.5: データのプライバシーとガバナンスを理解する。  |  5.1: 適切な認証メカニズムおよび認可メカニズムを選択する。 <br> 5.2: データの保護と暗号化の手法を適用する。<br> 5.3: データガバナンスとコンプライアンス管理を適用する。  |

最後に試験範囲内のAWSサービスと機能をカテゴリごと比較しました。
違いがあるサービス名を太字にしています。
いずれのサービスも「聞いたことがない」状態にならないようBlack Beltや公式サイトで予習しておきましょう。

| カテゴリ | AWS Certified Data Engineer - Associate (DEA-C01) | AWS Certified Data Analytics – Specialty (DAS-C01) |
|:-:|:-:|:-:|
| Analytics |  Amazon Athena <br> Amazon EMR <br> AWS Glue <br> **AWS Glue DataBrew** <br> AWS Lake Formation <br> Amazon Kinesis Data Firehose <br> Amazon Kinesis Data Streams <br> Amazon Managed Service for Apache Flink(Amazon Kinesis Data Analyticsの後継) <br> Amazon Managed Streaming for Apache Kafka (Amazon MSK) <br> Amazon OpenSearch Service <br> Amazon QuickSight  | Amazon Athena <br> Amazon CloudSearch <br> Amazon EMR <br> AWS Glue <br> Amazon Kinesis <br> AWS Lake Formation <br> Amazon Managed Streaming for Apache Kafka (Amazon MSK) <br> Amazon OpenSearch Service <br> Amazon QuickSight   |
| Application Integration  |  **Amazon AppFlow** <br> **Amazon EventBridge** <br> **Amazon Managed Workflows for Apache Airflow (Amazon MWAA)** <br> Amazon Simple Notification Service (Amazon SNS) <br> Amazon Simple Queue Service (Amazon SQS) <br> AWS Step Functions | Amazon MQ <br> Amazon Simple Notification Service (Amazon SNS) <br> Amazon Simple Queue Service (Amazon SQS) <br> AWS Step Functions  |
|  Cloud Financial Management | **AWS Budgets** <br> **AWS Cost Explorer**  |  N/A |
|  Compute | **AWS Batch** <br> Amazon EC2 <br> AWS Lambda <br> **AWS Serverless Application Model (AWS SAM)** |  AWS Auto Scaling <br> Amazon EC2  <br> AWS Lambda  |
|  Containers |  **Amazon Elastic Container Registry (Amazon ECR)** <br> **Amazon Elastic Container Service (Amazon ECS)** <br> **Amazon Elastic Kubernetes Service (Amazon EKS)** | N/A |
| Database  | Amazon DocumentDB (with MongoDB compatibility) <br> Amazon DynamoDB <br> **Amazon Keyspaces (for Apache Cassandra)** <br> **Amazon MemoryDB for Redis** <br> Amazon Neptune <br> Amazon RDS <br> Amazon Redshift  | Amazon DocumentDB (MongoDB 互換) <br> Amazon DynamoDB <br> Amazon ElastiCache <br> Amazon Neptune <br> Amazon RDS <br> Amazon Redshift <br> **Amazon Timestream**  |
|  Developer Tools |  **AWS CLI <br> AWS Cloud9 <br> AWS Cloud Development Kit (AWS CDK) <br> AWS CodeBuild <br> AWS CodeCommit <br> AWS CodeDeploy <br> AWS CodePipeline**  | N/A |
| Frontend Web and Mobile  | Amazon API Gateway   |  Amazon API Gateway <br> **AWS AppSync <br> Amazon Simple Email Service (Amazon SES)**  |
| Machine Learning | Amazon SageMaker  | Amazon SageMaker |
| Management and Governance | AWS CloudFormation <br> AWS CloudTrail <br> Amazon CloudWatch <br> Amazon CloudWatch Logs <br> AWS Config <br> Amazon Managed Grafana <br> AWS Systems Manager <br> AWS Well-Architected Tool | AWS CloudFormation <br> AWS CloudTrail <br> Amazon CloudWatch <br> **AWS Trusted Advisor** |
| Migration and Transfer | **AWS Application Discovery Service <br> AWS Application Migration Service** <br> AWS Database Migration Service (AWS DMS) <br> AWS DataSync <br> **AWS Schema Conversion Tool (AWS SCT)** <br> AWS Snow Family <br> AWS Transfer Family | AWS Database Migration Service (AWS DMS) <br> AWS DataSync <br> AWS Snowball <br> AWS Transfer Family  |
| Networking and Content Delivery | **Amazon CloudFront <br> AWS PrivateLink <br> Amazon Route 53** <br> Amazon VPC | **AWS Direct Connect <br> Elastic Load Balancing (ELB)** <br> Amazon VPC |
| Security, Identity, and Compliance | AWS Identity and Access Management (IAM) <br> AWS Key Management Service (AWS KMS) <br> Amazon Macie <br> AWS Secrets Manager <br> **AWS Shield <br> AWS WAF** | **AWS Artifact <br> AWS Certificate Manager (ACM) <br> AWS CloudHSM <br> Amazon Cognito <br> AWS IAM Identity Center (AWS Single Sign-On の後継)** <br> AWS Identity and Access Management (IAM) <br> AWS Key Management Service (AWS KMS) <br> Amazon Macie <br> AWS Secrets Manager |
| Storage | **AWS Backup** <br> Amazon Elastic Block Store (Amazon EBS) <br> **Amazon Elastic File System (Amazon EFS)** <br> Amazon S3 <br> Amazon S3 Glacier | Amazon Elastic Block Store (Amazon EBS) <br> Amazon S3 <br> Amazon S3 Glacier |

Data EngineerとData Analyticsのおおまかな違いが理解できたと思います。
これを踏まえて私は次の試験準備を行いました。

**1. Data Analyticsのテキスト・問題集を使用してData Engineerと共通する分野を理解する。**

Data Analyticsの学習リソースは既にいくつかありますので、Data Engineerと共通する分野のサービスをしっかり理解しましょう。

- [要点整理から攻略する『AWS認定 データ分析-専門知識』 (Compass Booksシリーズ)](https://www.amazon.co.jp/dp/B0C23C64TF/)
- [1週間で攻略！AWS認定データ分析 – 専門知識 本番用問題集 140問（65問 × 2セット + 10問） 詳解付き AWS認定本番用問題集シリーズ](https://www.amazon.co.jp/dp/B09HH9WQ2Q/)

**2. Data Engineer個別のサービス範囲をBlack Beltや公式ドキュメントで理解する。**

私の場合、以下のサービスは聞いたことが無かったため個別に学習しました。
- [AWS Glue DataBrew](https://docs.aws.amazon.com/ja_jp/databrew/latest/dg/what-is.html)
- [Amazon AppFlow](https://docs.aws.amazon.com/ja_jp/appflow/latest/userguide/what-is-appflow.html)
- [Amazon Managed Workflows for Apache Airflow (Amazon MWAA)](https://docs.aws.amazon.com/ja_jp/mwaa/latest/userguide/what-is-mwaa.html)

他にも理解があやふやなサービス(AWS Lake Formationとか)はBlack Beltを活用しました。

https://aws.amazon.com/jp/events/aws-event-resource/

**3. Skill Builder の模擬試験**

試験の感じをつかむために、模擬試験を受験しました。無料で受験できます。

[AWS Certified Data Engineer - Associate 公式練習問題集](https://explore.skillbuilder.aws/learn/course/external/view/elearning/16985/aws-certified-data-engineer-associate-official-practice-question-set-dea-c01-english)

結果は以下の通り。このままだと厳しい。
![模擬試験](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/144187/e40e743a-8e0e-eecb-049b-184f55745e2e.png)

苦手分野は特に重点的に予習しておきましょう。

## 受験当日

ピアソンVUEのいつもの試験会場、9:30受付で試験を開始します。10:00からの予約ですが少し早く到着しても開始できます。
ポケットの中は空にします。
眼鏡をかけている方は眼鏡の裏(鼻あての部分)まで確認されます。
騒音が気になるようでしたら耳栓をもらうことができます。
上着を着たまま試験室に入室できません。試験室は意外と寒いので上着が無くても耐えられるようにしておきましょう。


## 受験後の感想

すべて解答するのに170分ぴったり使いました。想定はしていましたが、後半になってくると集中力が切れてきて、問題や選択肢を二度見、三度見することが多くなってきます。30分間の延長がなければ焦って全問解答は難しかったかもしれません。残りの30分はフラグを付けた問題の見直しに充てることができ、特別措置を申請しておいて本当によかったと思いました。試験結果は約90日後に発表されます。

試験の詳細は記載できませんが、Data Analyticsの学習リソースをベースとした勉強法は全くの的外れではなかったことを実感しました。(と書いておいて不合格だったら面目ないですが。)

一般受験は2024年3月から予約開始、4月から受験することができます。受験を検討されている皆さまにとって少しでもお役に立てたならば幸いです。