AWS re:Invent 2024（2日目）Matt Garman氏のキーノートセッション

## はじめに
株式会社NTTデータ デザイン＆テクノロジーコンサルティング事業本部の@nttd-kashiwabarayです。
re:Invent2024も2日目に突入し、本日はMatt Garman氏のキーノートセッションがありました。
キーノートセッションで発表された新サービスを中心に記載いたします。

## 概要・所感
本セッションでは、<b>「Compue」</b>、<b>「Storage」</b>、<b>「Database」</b>、<b>「Inference(AI)」</b>に加えて<b>「Analytics」</b>についての説明がなされ、<b>数多くの新サービス、新機能が発表</b>されました。
中でも注目したいのは新しく発表された<b>「Amazon SageMaker Unified Studio」</b>、<b>「Amazon SageMaker Lakehouse」</b>となります。
DatabricksやMicrosoft Fabricのようなコンセプトとなっており、<b>オールインワンのデータプラットフォーム</b>となります。
これまでは各サービスによって、UIも分かれていることで、必ずしもユーザビリティが良いというわけでもなかった中で、本サービスによってユーザビリティが大きく向上します。実際にこれまでの業務がどのように変わるのかを確認していければと思います。
また、本サービスを支えるのがDataZoneになると考えており、ガバナンス含めて構築、維持、運用も含めて、実プロジェクトで活用について見極める必要があると考えています。
![Unified SageMaker.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/74eab7b7-60b1-3bb5-74d3-e9a8d8f282b0.png)

## 発表された新サービス

<B>◇Compute</B>
<B>Amazon EC2 P6 istances[アナウンス]</B>
新しいGPUのインスタンスであるAmazon EC2 P6 instancesが発表されました。

<B>Amazon EC2 Trn2 instances[GA]/Trn2 UltraServers[プレビュー]</B>
<b>AI/MLトレーニングと推論のために設計</b>されたAmazon EC2 Trn2 instancesがリリースされました米国東部 (オハイオ)リージョンで利用が可能です。
Trn2 UltraServersは4つのTrn2インスタンスにまたがる64個のTrainium2チップを接続し、ディープラーニングと生成 AI ワークロードに対して<b>画期的なパフォーマンスを提供</b>します。

<B>AWS Trainium3[アナウンス]</B>
Trainiumの最新世代、Trainium3が発表されました。遅くとも2025年末までにリリースされる予定となっています。Trainium2と比較して、<B>2倍のコンピューティング性能</B>を備えており、<B>エネルギー効率が40%向上</B>します。

<B>◇Storage</B>
<B>・Amazon S3 Tables[GA]</B>
<b>Apache Icebergに特化</b>しており、<b>最大3倍のクエリパフォーマンス</b>と<b>最大10倍のトランザクション処理性能</b>が期待できます。AWSマネジメントコンソール上からもテーブル バケットを作成し、操作することも可能です。
すでにGAされておりますが、米国東部 (オハイオ、バージニア北部) および米国西部 (オレゴン)のリージョンでのみ利用可能となっており、まだ東京リージョンでは利用できません。

![S3 Tables.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/3b0bdab0-ba86-a0ae-f56b-6bbba10948f0.png)

<B>・Amazon S3 Metadata[プレビュー]</B>
お客様は現在ペタバイト級のデータを保管されており、特定のオブジェクトを見つけることが困難であるという背景の基、Amazon S3 Metadataが登場しました。ニアリアルタイムで自動更新される、メタデータを使用して、<b>特定のS3オブジェクトを即座に検出して理解するのに役立ちます</b>。
米国東部 (オハイオ、バージニア北部) および米国西部 (オレゴン) リージョンで、プレビューでの利用が可能です。

<B>◇Database</B>
<B>・Amazon Aurora DSQL[プレビュー]</B>
クティブ/アクティブの<b>高可用性</b>を備えた新しいサーバーレス分散SQLデータベースであるAmazon Aurora DSQLが発表されました。<b>Spannerと比較して、読み書きが4倍速い</b>ようです。
米国東部 (バージニア北部)、米国東部 (オハイオ)、米国西部 (オレゴン) リージョンで、プレビューでの利用が可能です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/1f7d81ee-a494-a9c5-a2e7-5057804a9e81.png)

<B>・Amazon DynamoDB global tablesがマルチリージョンの強力な一貫性をサポート[プレビュー]</B>
Amazon DynamoDB global tablesがマルチリージョンの強力な一貫性をサポートするようになりました。米国東部 (バージニア北部)、米国東部 (オハイオ)、米国西部 (オレゴン) リージョンで、プレビューでの利用が可能です。

<B>◇Inference（AI）</B>
<B>・Amazon Bedrock Model Distillation[プレビュー]</B>
大規模な基盤モデルから回答を生成し、生成された回答を活用して小規模な基盤モデルでファインチューニングを実施することによって、特定のユースケース向けのモデルの蒸留プロセスを自動化します。<b>最大5倍高速</b>で<b>最大75%のコスト効率化を実現</b>します。RAGなどのユースケースにおいては、<b>精度の低下は2%未満</b>となるようです。
現在は米国東部 (バージニア北部) および米国西部 (オレゴン) リージョンで、プレビューでの利用が可能です。

<B>・Amazon Bedrock Automated Reasoning checks[プレビュー]</B>
Amazon Bedrock Guardrailsの新しいセーフガード機能として、Amazon Bedrock Automated Reasoning checksが発表されました。LLMによって生成された<b>回答の精度を数学的に検証</b>し、<b>ハルシネーションを防ぐのに役立てる</b>ことができます。

<B>・Amazon Bedrock multi-agent collaboration[プレビュー]</B>
Amazon Bedrockがマルチエージェントコラボレーションをサポートしました。これにより、組織は<b>複雑なワークフローを解決するために連携して動作する複数のAIエージェントを構築および管理</b>できます。
米国東部 (バージニア北部)、米国西部 (オレゴン)、欧州 (アイルランド) のリージョンで、プレビューでの利用が可能です。

当社もマルチエージェントのサービスを提供しておりますので、本サービスの詳細も確認していけたらと思います。

https://www.nttdata.com/global/ja/news/topics/2024/073101/

https://www.nttdata.com/global/ja/news/release/2024/102401/

<B>・Amazon Nova</B>
<b>Amazonが開発した新しい基盤モデル</b>である、Amazon Novaが発表されました。以下の4つのモデルが発表され、3つのモデルがすでにGAとなっています。
・Amazon Nova Micro[GA]
・Amazon Nova Lite[GA]
・Amazon Nova Pro[GA]
・Amazon Nova Premier[アナウンス]

<B>・Amazon Nova Canvas[GA]</B>
<B>・Amazon Nova Reel[GA]</B>
Amazon Nova Canvasは、スタイルとコンテンツを正確に制御し、インペインティング、アウトペインティング、背景除去などの豊富な編集機能を備えたスタジオ品質の画像を生成する<b>最先端の画像生成モデル</b>です。
Amazon Nova Reelは<b>最先端のビデオ生成モデル</b>です。

<B>・Amazon Nova Speech-to-Speech[アナウンス]</B>
<B>・Amazon Nova Any-to-Any[アナウンス]</B>
Amazon Nova Speech-to-Speechは2025年第1四半期に導入される予定です。このモデルは、<b>自然言語でのストリーミング音声入力を理解</b>し、<b>言語的および非言語的な手がかり (トーンやリズムなど) を解釈</b>し、<>低遅延で自然な人間のようなやり取りを実現</b>することで、<b>会話型 AI アプリケーションを変革</b>するように設計されています。
Amazon Nova Any-to-Anyは2025年半ばに導入される予定です。このモデルにより、コンテンツをあるモダリティから別のモダリティに変換したり、コンテンツを編集したり、すべてのモダリティを理解して生成できる AI エージェントを強化したりするなど、<b>同じモデルを使用してさまざまなタスクを実行できるアプリケーションの開発が簡素化</b>されます。

<B>・Amazon Q generates and applies unit tests[GA]</B>
<B>・Amazon Q generates accurate documentaion[GA]</B>
<B>・Amazon Q Performs code reviews[GA]</B>
Amazon Q Developerは、単体テストの自動生成とテスト範囲の向上、コードベースでのドキュメントの強化、セキュリティとコード品質の問題を検出して解決するためのコードレビューのサポートの機能拡張をしました。

<B>・GitLab Duo with Amazon Q[プレビュー]</B>
GitLab Duo with Amazon Qは、AIエージェントを活用して、新機能の開発やJava8および11のコードベースのアップグレードなど、複雑で複数のステップから成るタスクを支援します。

<B>・Amazon Q Developerが.NET Frameworkアプリケーションのコード変換機能をサポート[プレビュー]</B>
<B>・Amazon Q DeveloperがVMwareワークロードのクラウドネイティブアーキテクチャ変換をサポート[プレビュー]</B>
<B>・Amazon Q Developerがメインフレームアプリケーションの変換をサポート[プレビュー]</B>
Amazon Q Developerの変換機能が発表されました。これにより、.NET、メインフレーム、VMwareの移行を加速することが可能です。

<B>・ISVがAmazon Q indexと統合できるように機能強化[GA]</B>
ISVがAmazon Q indexと統合し、Amazon Q組み込みのアシスタントのデザインをカスタマイズできるようになりました。

<B>・Amazon Q DeveloperがAWS環境の運用上の問題調査に対応[プレビュー]</B>
Amazon Q Developerで<b>運用上の問題を調査および修復する新しい機能が発表</b>されました。<b>AWS社が17年以上</b>にわたって世界中のお客様にクラウドサービスを提供してきた<b>ノウハウを基に</b>、<b>調査仮説を作成・提示し、トラブルシューティングと修復をガイド</b>します。

<B>・Combining QuickSight and Amazon Q Business data(and vice versa)</B>

<B>・Amazon Q Businessで複雑なワークフローを自動化[アナウンス]</B>
Amazon Q Businessで複雑なビジネスワークフローの作成とメンテナンスを簡素化する新しい機能が追加されます。

<B>◇Analytics</B>
<B>・Amazon SageMaker Unified Studio[プレビュー]</B>
DatabricksやMicrosoft Fabricのコンセプトに近い、<font color="red"><b>オールインワンのデータプラットフォーム</b></font>のサービスが発表されました。これまでは各サービスでユーザインターフェースが異なっていた部分もありましたが、本サービスを活用することで、<b>一貫したユーザ体験を実現することが可能</b>となります。AWS GlueやRedshift、Amazon SageMakerやQuickSight、Amazon Bedrockなどのサービスを単一のユーザインターフェースから活用することが可能となります。
本サービスを活用するにあたってポイントとなるのがAmazon DataZoneです。DataZoneを活用してデータカタログ、データガバナンスを実現する形となりますので、実現方法なども含めて確認を実施していけたらと思います。東京リージョンでもプレビューでの利用が可能となっています。
現在はプレビュー段階となりますが、現状GlueやRedshift、SageMakerなどを組み合わせているお客様に対しても比較的簡易に移行できる仕組みなども登場することも期待しつつ、我々のお客様の業務をどう変えていけるのかを考えていけたらと思います。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/53c6c040-f267-1f19-10f9-627d7fc02d6f.png)

出典：https://aws.amazon.com/jp/blogs/aws/simplify-analytics-and-aiml-with-new-amazon-sagemaker-lakehouse/

<B>Amazon SageMaker Lakehouse[GA]</B>
Amazon SageMaker LakehouseはS3、Redshift、サードパーティおよびフェデレーションデータソース全体の<b>データを統合</b>します。<b>Apache Iceberg</b>と互換性のあるすべてのツールとエンジンを使用して、クエリを実行することが可能となります。


## まとめ
本日はMatt Garman氏のキーノートセッションの中で様々な新サービスが発表されました。現在の主流であるオールインワンのデータプラットフォームである、Amazon SageMaker Unified Studioの発表、それを支えるicebetg形式でのデータ処理を実行するAmazon SageMaker Lakehouseの発表は我々にとっても大きなものになるかなと考えています。
本サービスにより、お客様の業務、そしてお客様を支える我々の業務がどう変わるのかをしっかりと理解し、訴求していけたらと考えております。
また、Amazon Bedrock Automated Reasoning checks、Amazon Bedrock multi-agent collaborationについても詳細について確認しながら、活用の検討を進めていけたらと考えています。


## 仲間募集

NTTデータ テクノロジーコンサルティング事業本部 では、以下の職種を募集しています。

<details><summary>1. クラウド技術を活用したデータ分析プラットフォームの開発・構築(ITアーキテクト/クラウドエンジニア)</summary>

クラウド／プラットフォーム技術の知見に基づき、DWH、BI、ETL領域におけるソリューション開発を推進します。
https://enterprise-aiiot.nttdata.com/recruitment/career_sp/cloud_engineer

</details>

<details><summary>2. データサイエンス領域（データサイエンティスト／データアナリスト）</summary>

データ活用／情報処理／AI／BI／統計学などの情報科学を活用し、よりデータサイエンスの観点から、データ分析プロジェクトのリーダーとしてお客様のDX／デジタルサクセスを推進します。
https://enterprise-aiiot.nttdata.com/recruitment/career_sp/datascientist

</details>

<details><summary>3.お客様のAI活用の成功を推進するAIサクセスマネージャー</summary>

DataRobotをはじめとしたAIソリューションやサービスを使って、
お客様のAIプロジェクトを成功させ、ビジネス価値を創出するための活動を実施し、
お客様内でのAI活用を拡大、NTTデータが提供するAIソリューションの利用継続を推進していただく人材を募集しています。
https://nttdata.jposting.net/u/job.phtml?job_code=804

</details>

<details><summary>4.DX／デジタルサクセスを推進するデータサイエンティスト《管理職/管理職候補》</summary>
データ分析プロジェクトのリーダとして、正確な課題の把握、適切な評価指標の設定、分析計画策定や適切な分析手法や技術の評価・選定といったデータ活用の具現化、高度化を行い分析結果の見える化・お客様の納得感醸成を行うことで、ビジネス成果・価値を出すアクションへとつなげることができるデータサイエンティスト人材を募集しています。

https://nttdata.jposting.net/u/job.phtml?job_code=898

</details>


## ソリューション紹介

<details><summary> Trusted Data Foundationについて</summary><div>

～データ資産を分析活用するための環境をオールインワンで提供するソリューション～
https://enterprise-aiiot.nttdata.com/tdf/
最新のクラウド技術を採用して弊社が独自に設計したリファレンスアーキテクチャ（Datalake+DWH+AI/BI）を顧客要件に合わせてカスタマイズして提供します。
可視化、機械学習、DeepLearningなどデータ資産を分析活用するための環境がオールインワンで用意されており、これまでとは別次元の量と質のデータを用いてアジリティ高くDX推進を実現できます。

</div></details>


<details><summary> TDF-AM（Trusted Data FoundationⓇ - Analytics Managed Service）について</summary><div>

～データ活用基盤の段階的な拡張支援（Quick Start) と保守運用のマネジメント（Analytics Managed）をご提供することでお客様のDXを成功に導く、データ活用プラットフォームサービス～
https://enterprise-aiiot.nttdata.com/service/tdf/tdf_am
TDFⓇ-AMは、データ活用をQuickに始めることができ、データ活用の成熟度に応じて段階的に環境を拡張します。プラットフォームの保守運用はNTTデータが一括で実施し、お客様は成果創出に専念することが可能です。また、日々最新のテクノロジーをキャッチアップし、常に活用しやすい環境を提供します。なお、ご要望に応じて上流のコンサルティングフェーズからAI/BIなどのデータ活用支援に至るまで、End to Endで課題解決に向けて伴走することも可能です。

</div></details>


<details><summary>NTTデータとTableauについて </summary><div>

ビジュアル分析プラットフォームのTableauと2014年にパートナー契約を締結し、自社の経営ダッシュボード基盤への採用や独自のコンピテンシーセンターの設置などの取り組みを進めてきました。さらに2019年度にはSalesforceとワンストップでのサービスを提供開始するなど、積極的にビジネスを展開しています。

これまでPartner of the Year, Japanを4年連続で受賞しており、2021年にはアジア太平洋地域で最もビジネスに貢献したパートナーとして表彰されました。
また、2020年度からは、Tableauを活用したデータ活用促進のコンサルティングや導入サービスの他、AI活用やデータマネジメント整備など、お客さまの企業全体のデータ活用民主化を成功させるためのノウハウ・方法論を体系化した「デジタルサクセス」プログラムを提供開始しています。
https://enterprise-aiiot.nttdata.com/service/tableau

</div></details>


<details><summary>NTTデータとAlteryxについて </summary><div>
Alteryxは、業務ユーザーからIT部門まで誰でも使えるセルフサービス分析プラットフォームです。

Alteryx導入の豊富な実績を持つNTTデータは、最高位にあたるAlteryx Premiumパートナーとしてお客さまをご支援します。

導入時のプロフェッショナル支援など独自メニューを整備し、特定の業種によらない多くのお客さまに、Alteryxを活用したサービスの強化・拡充を提供します。

https://enterprise-aiiot.nttdata.com/service/alteryx

</div></details>

<details><summary>NTTデータとDataRobotについて </summary><div>
DataRobotは、包括的なAIライフサイクルプラットフォームです。

NTTデータはDataRobot社と戦略的資本業務提携を行い、経験豊富なデータサイエンティストがAI・データ活用を起点にお客様のビジネスにおける価値創出をご支援します。

https://enterprise-aiiot.nttdata.com/service/datarobot

</div></details>

<details><summary> NTTデータとInformaticaについて</summary><div>

データ連携や処理方式を専門領域として10年以上取り組んできたプロ集団であるNTTデータは、データマネジメント領域でグローバルでの高い評価を得ているInformatica社とパートナーシップを結び、サービス強化を推進しています。
https://enterprise-aiiot.nttdata.com/service/informatica

</div></details>

<details><summary>NTTデータとSnowflakeについて </summary><div>
NTTデータでは、Snowflake Inc.とソリューションパートナー契約を締結し、クラウド・データプラットフォーム「Snowflake」の導入・構築、および活用支援を開始しています。

NTTデータではこれまでも、独自ノウハウに基づき、ビッグデータ・AIなど領域に係る市場競争力のあるさまざまなソリューションパートナーとともにエコシステムを形成し、お客さまのビジネス変革を導いてきました。
Snowflakeは、これら先端テクノロジーとのエコシステムの形成に強みがあり、NTTデータはこれらを組み合わせることでお客さまに最適なインテグレーションをご提供いたします。

https://enterprise-aiiot.nttdata.com/service/snowflake

</div></details>