AWS re:Invent 2024（3日目）Dr.Swami氏のキーノートセッション

## はじめに
株式会社NTTデータ テクノロジーコンサルティング事業本部の@nttd-kashiwabarayです。
re:Invent2024も3日目に突入し、本日はDr.Swami氏のキーノートセッションがありました。
キーノートセッションで発表された新サービスを中心に記載いたします。
本日のキーノートセッションはステージ中央の一番前の席から参加させていただきました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/e6414523-4de7-3fe2-d490-6c9562311bbb.png)


## 概要・所感
本日のキーノートセッションでは、Amazon SageMakerやAmazon Bedrockを中心にAI/MLの新サービス・機能アップデートが多く発表されました。

個人的に気になったのは、<b>コストの削減</b>につながる発表が多かったことです。Amazon Bedrockが<b>プロンプトキャッシュをサポート</b>したことや、<b>Amazon Bedrock Prompt Routingの発表</b>など、プロンプトで頻繁に仕様されるコンテキストをキャッシュしたり、プロンプトの複雑さに応じて活用するモデルを変えたり、<b>コストの削減につながるもののリリースが多かった印象</b>を受けています。これはモデルの価格が高いということを示しているのかなと考えております。
また、<b>AIエージェントで活用を見据える</b>と、<b>RAGと比較してトークンも10-20倍に増えていく</b>こともあるので、本格的な業務活用を見据えると<b>このような機能は必須</b>になってくると考えられます。

また、<b>Amazon Bedrock Marketplace</b>は<b>Bedrockの単一のAPIを介してアクセスできる</b>こと、またAWS基盤内で完結するため<b>セキュリティも確保</b>されていることも特長で、<b>100を超える基盤モデルにアクセスできる</b>ことは、今後強みになってくると思います。また、現状は<b>Amazon Bedrockでのクォータは本格的に活用していく上ではやや足りない</b>ものもあるのかなと思っていましたが、本サービスはインスタンス数やインスタンスタイプも指定して立ち上げることから、そのあたりも<b>緩和されるのではないか</b>と考えており、しっかりと理解を進めていけたらと思います。

## 発表された新サービス
<B>・Amazon SageMaker HyperPod flexible training plans[GA]</B>
https://aws.amazon.com/jp/about-aws/whats-new/2024/12/amazon-sagemaker-hyperpod-flexible-training-plans/
Amazon SageMaker HyperPodは<b>スケジュール</b>と<b>予算内</b>で生成AIモデルをトレーニングできる新しい機能である<b>柔軟なトレーニングプランを発表</b>しました。以下の画像のように、インスタンスタイプ、インスタンス数、開始日/終了日、期間を入力することによって、トレーニングプランの提案を価格とともにしてくれます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/4d312673-418e-ff12-4393-c19501d07bfc.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/d5a32464-236c-e1ab-a904-209f22a0d259.png)

米国東部 (バージニア北部)、米国東部 (オハイオ)、米国西部 (オレゴン) のリージョンで利用可能です。一部のインスタンスタイプについては、米国東部 (オハイオ)リージョンのみで利用可能です。

<B>・Amazon SageMaker HyperPod task governance[GA]</B>
トレーニングや推論などの<b>すべての生成AI開発タスクにわたる一元的なガバナンスを提供</b>するようになりました。コンピューティングリソースの割り当てを完全に可視化して制御できるため、<b>最も重要なタスクが優先</b>され、<b>コンピューティングリソースの使用率が最大化</b>され、<b>モデル開発コストが最大40%削減</b>されます。

米国東部 (バージニア北部)、米国東部 (オハイオ)、米国西部 (オレゴン) リージョンで利用可能です。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/e490a3e7-53d9-8ae6-c5fb-575d9aae0c97.png)


<B>・AWSパートナーのAIアプリケーションがSageMakerで利用可能に[GA]</B>
AWS パートナーの<b>AIアプリケーションがSageMakerで利用可能</b>になりました。Amazon SageMaker AIを離れることなく、主要なアプリプロバイダーが提供する機械学習および生成AI開発アプリケーションを<b>プライベートで簡単に利用</b>できるようにする新機能で、高性能な AI モデルをより迅速に開発することができます。

<B>・poolside Assistant[アナウンス]</B>
資金調達ラウンドで30億ドルの評価額を獲得した最先端のAIユニコーンである poolsideは本日、poolside の生成AIアシスタントと基盤モデルをAmazon Bedrockで利用できるようにする複数年契約を発表しました。

<B>・Amazon Bedrock Marketplace[GA]</B>
Amazon Bedrockを通じて<b>100を超える基盤モデルにアクセスできる</b>機能が発表されました。
Amazon Bedrock Marketplaceでデプロイされたモデルは、通常の<b>Amazon Bedrockと同様の標準APIを介してアクセス</b>でき、<b>Amazon Bedrock Agents、Amazon Bedrock Knowledge Bases、Amazon Bedrock Prompt Management、 Amazon Bedrock Guardrails、 Amazon Bedrock model evaluation</b>といったサービスからも<b>モデルを利用することができます</b>。
<b>SageMakerのエンドポイントを指定</b>し、<b>インスタンス数やインスタンスタイプも指定</b>して、デプロイを実施する形となります。重要な点としてはAWS内のリソースで完結し、インターネットを介すことなく、<b>セキュリティを確保</b>することが出来ます。
私の理解が間違っていなければ、インスタンス数やインスタイプも指定することから、もちろんリソースの中でという制約はあるものの、これまでAmazon Bedrockの各サービスで制限されていたクォータについても、緩和されるのかなと考えています。特に上限緩和の出来ないクォータなどもあったので、その辺りがどうなるのかといった点も今後確認していけたらと思います。
なお、Amazon Bedrock Marketplaceは<b>東京リージョンでも利用可能</b>となっているので、ぜひお試しください。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/da98e8b6-287b-b2b2-2627-7039ffee0e5d.png)
出典：https://aws.amazon.com/jp/blogs/aws/amazon-bedrock-marketplace-access-over-100-foundation-models-in-one-place/

<B>・Amazon Bedrockがプロンプトキャッシュをサポート[プレビュー]</B>
複数のモデル呼び出しにわたって<b>プロンプトで頻繁に使用されるコンテキストをキャッシュできる</b>ようになりました。ユーザーが<b>同じドキュメントについて複数の質問をするQ&Aシステム</b>や、<b>同じコンテキストを繰り返し使用するアプリケーション</b>などに特に役立ちます。<b>キャッシュされたコンテキストは、各アクセス後最大5分間利用できます</b>。Amazon Bedrockのプロンプトキャッシュにより、サポートされているモデルでは<b>コストを最大90%</b>、<b>レイテンシーを最大85%削減</b>することができます。

米国西部 (オレゴン) リージョンでAnthropicのClaude 3.5 Sonnet V2およびClaude 3.5 Haikuのプレビューでの利用が可能です。米国東部 (バージニア北部)リージョンでもAmazon Nova Micro、Amazon Nova Lite、Amazon Nova Proでプレビューでの利用が可能です。

本機能はユースケースによっての使いわけになるのかなと考えておりますが、次のAmazon Bedrock Prompt Routingなども含めてモデルのコストを意識したアップデートがされているなという印象を受けています。

<B>・Amazon Bedrock Prompt Routing[プレビュー]</B>
モデルを呼び出すときに、<b>同じモデルファミリーの基盤モデルを組み合わせて使用​​して、品質とコストを最適化</b>できるようになりました。例えば、AnthropicのClaudeモデルファミリーを使用すると、Amazon Bedrockはプロンプトの複雑さに応じて、Claude 3.5 SonnetとClaude 3 Haikuの間でリクエストをインテリジェントにルーティングできます。
米国東部 (バージニア北部) および米国西部 (オレゴン) リージョンで、プレビューでの利用が可能です。

特に<b>AIエージェント</b>などにおいては、通常の<b>RAGなどに比べてトークンが10-20倍程度</b>になってくるので、プロンプトの複雑さによって、<b>品質とコストを最適にできる本サービスはかなり有効</b>になるのではと考えております。

<B>・Amazon Kendra Generative AI Index[プレビュー]</B>
Amazon KendraのGenAI Indexが発表されました。RAGとインテリジェント検索向けに設計されたAmazon Kendraの新しいインデックスで、高度なセマンティックモデルと最新の情報検索テクノロジーを使用して、<b>高い検索精度を提供</b>します。Amazon Bedrock Knowledge BaseやAmazon Q BusinessなどのAWS生成AIサービス全体でサポートされております。
東京リージョンでも、プレビューでの利用が可能です。

<B>・Amazon Bedrock Knowledge Basesが構造化データ取得をサポート[プレビュー]</B>
Amazon Bedrock Knowledge Basesが、データソースから構造化データを取得するための自然言語クエリをサポートするようになりました。これらの新機能により、<b>構造化データソースと非構造化データソースから情報を処理できる包括的なAIアプリケーションの構築が容易</b>になります。

現時点では、Bedrock Knowledge Base は Amazon Redshift および Amazon Sagemaker Lakehouse からの構造化データ取得をサポートしており、東京リージョンでも、プレビューでの利用が可能です。

<B>・Amazon Bedrock Knowledge BasesがGraphRAGをサポート[プレビュー]</B>
Amazon Bedrock Knowledge Basesが<b>GraphRAGをサポート</b>しました。これにより、より精緻で文脈に即した応答を生成することが可能となります。東京リージョンでもプレビューにて利用することが可能です。

<B>・Amazon Bedrock Data Automation[プレビュー]</B>
ドキュメント、画像、音声、動画などの<b>非構造化マルチモーダルコンテンツから価値ある洞察を効率よく生成</b>する、Amazon Bedrockのフルマネージド機能を発表しました。開発者が単一のインターフェイスを通じてマルチモーダルコンテンツを処理するために使用できる、統合されたAPI駆動型のエクスペリエンスを提供します。
米国西部 (オレゴン) リージョンで、プレビューでの利用が可能です。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/0ccc9389-989f-576b-5528-cfa4238ac338.png)


<B>・SageMaker CanvasでAmazon Q Developerが利用可能に[プレビュー]</B>
Amazon Q Developer がAmazon SageMaker Canvasで利用可能になりました。MLの経験がないユーザーが、<b>ガイド付きのMLワークフローを通じてビジネス上の問題に対するソリューションを作成できる</b>ようになります。データ分析やモデルの選択から展開まで、ユーザーは自然言語を使用してビジネス上の問題を解決できるようになります。

<B>・Amazon Q in QuickSight Scenarios</B>
QuickSightのAmazon Qの新しい<b>シナリオ分析機能が発表</b>されました。<b>自然言語プロンプトを使用</b>して、詳細なデータ分析 (分析アプローチの提案、データの自動分析、推奨アクションによる調査結果の要約) を段階的にガイドすることで、<b>ビジネスユーザーが複雑な問題に対する答えを見つけるのに役立ちます</b>。

米国東部 (バージニア北部) および米国西部 (オレゴン)リージョンで、プレビューでの利用が可能です。

<B>・AWS Education Equity Initiative[GA]</B>
世界中で十分な教育を受けられていない学習者向けに支援するサービスが発表されました。今後5年間で最大1億ドルをクラウドテクノロジーと包括的な技術アドバイスに投じる予定となっています。

## まとめ
本日のキーノートセッションでも様々な新しい機能が発表されました。現状の業務にどう取り入れていくか、お客様にどのような価値提供ができるのかをしっかりと考えながら進めていければと考えております。

## 仲間募集

NTTデータ テクノロジーコンサルティング事業本部 では、以下の職種を募集しています。

<details><summary>1. クラウド技術を活用したデータ分析プラットフォームの開発・構築(ITアーキテクト/クラウドエンジニア)</summary>

クラウド／プラットフォーム技術の知見に基づき、DWH、BI、ETL領域におけるソリューション開発を推進します。
https://enterprise-aiiot.nttdata.com/recruitment/career_sp/cloud_engineer

</details>

<details><summary>2. データサイエンス領域（データサイエンティスト／データアナリスト）</summary>

データ活用／情報処理／AI／BI／統計学などの情報科学を活用し、よりデータサイエンスの観点から、データ分析プロジェクトのリーダーとしてお客様のDX／デジタルサクセスを推進します。
https://enterprise-aiiot.nttdata.com/recruitment/career_sp/datascientist

</details>

<details><summary>3.お客様のAI活用の成功を推進するAIサクセスマネージャー</summary>

DataRobotをはじめとしたAIソリューションやサービスを使って、
お客様のAIプロジェクトを成功させ、ビジネス価値を創出するための活動を実施し、
お客様内でのAI活用を拡大、NTTデータが提供するAIソリューションの利用継続を推進していただく人材を募集しています。
https://nttdata.jposting.net/u/job.phtml?job_code=804

</details>

<details><summary>4.DX／デジタルサクセスを推進するデータサイエンティスト《管理職/管理職候補》</summary>
データ分析プロジェクトのリーダとして、正確な課題の把握、適切な評価指標の設定、分析計画策定や適切な分析手法や技術の評価・選定といったデータ活用の具現化、高度化を行い分析結果の見える化・お客様の納得感醸成を行うことで、ビジネス成果・価値を出すアクションへとつなげることができるデータサイエンティスト人材を募集しています。

https://nttdata.jposting.net/u/job.phtml?job_code=898

</details>


## ソリューション紹介

<details><summary> Trusted Data Foundationについて</summary><div>

～データ資産を分析活用するための環境をオールインワンで提供するソリューション～
https://enterprise-aiiot.nttdata.com/tdf/
最新のクラウド技術を採用して弊社が独自に設計したリファレンスアーキテクチャ（Datalake+DWH+AI/BI）を顧客要件に合わせてカスタマイズして提供します。
可視化、機械学習、DeepLearningなどデータ資産を分析活用するための環境がオールインワンで用意されており、これまでとは別次元の量と質のデータを用いてアジリティ高くDX推進を実現できます。

</div></details>


<details><summary> TDF-AM（Trusted Data FoundationⓇ - Analytics Managed Service）について</summary><div>

～データ活用基盤の段階的な拡張支援（Quick Start) と保守運用のマネジメント（Analytics Managed）をご提供することでお客様のDXを成功に導く、データ活用プラットフォームサービス～
https://enterprise-aiiot.nttdata.com/service/tdf/tdf_am
TDFⓇ-AMは、データ活用をQuickに始めることができ、データ活用の成熟度に応じて段階的に環境を拡張します。プラットフォームの保守運用はNTTデータが一括で実施し、お客様は成果創出に専念することが可能です。また、日々最新のテクノロジーをキャッチアップし、常に活用しやすい環境を提供します。なお、ご要望に応じて上流のコンサルティングフェーズからAI/BIなどのデータ活用支援に至るまで、End to Endで課題解決に向けて伴走することも可能です。

</div></details>


<details><summary>NTTデータとTableauについて </summary><div>

ビジュアル分析プラットフォームのTableauと2014年にパートナー契約を締結し、自社の経営ダッシュボード基盤への採用や独自のコンピテンシーセンターの設置などの取り組みを進めてきました。さらに2019年度にはSalesforceとワンストップでのサービスを提供開始するなど、積極的にビジネスを展開しています。

これまでPartner of the Year, Japanを4年連続で受賞しており、2021年にはアジア太平洋地域で最もビジネスに貢献したパートナーとして表彰されました。
また、2020年度からは、Tableauを活用したデータ活用促進のコンサルティングや導入サービスの他、AI活用やデータマネジメント整備など、お客さまの企業全体のデータ活用民主化を成功させるためのノウハウ・方法論を体系化した「デジタルサクセス」プログラムを提供開始しています。
https://enterprise-aiiot.nttdata.com/service/tableau

</div></details>


<details><summary>NTTデータとAlteryxについて </summary><div>
Alteryxは、業務ユーザーからIT部門まで誰でも使えるセルフサービス分析プラットフォームです。

Alteryx導入の豊富な実績を持つNTTデータは、最高位にあたるAlteryx Premiumパートナーとしてお客さまをご支援します。

導入時のプロフェッショナル支援など独自メニューを整備し、特定の業種によらない多くのお客さまに、Alteryxを活用したサービスの強化・拡充を提供します。

https://enterprise-aiiot.nttdata.com/service/alteryx

</div></details>

<details><summary>NTTデータとDataRobotについて </summary><div>
DataRobotは、包括的なAIライフサイクルプラットフォームです。

NTTデータはDataRobot社と戦略的資本業務提携を行い、経験豊富なデータサイエンティストがAI・データ活用を起点にお客様のビジネスにおける価値創出をご支援します。

https://enterprise-aiiot.nttdata.com/service/datarobot

</div></details>

<details><summary> NTTデータとInformaticaについて</summary><div>

データ連携や処理方式を専門領域として10年以上取り組んできたプロ集団であるNTTデータは、データマネジメント領域でグローバルでの高い評価を得ているInformatica社とパートナーシップを結び、サービス強化を推進しています。
https://enterprise-aiiot.nttdata.com/service/informatica

</div></details>

<details><summary>NTTデータとSnowflakeについて </summary><div>
NTTデータでは、Snowflake Inc.とソリューションパートナー契約を締結し、クラウド・データプラットフォーム「Snowflake」の導入・構築、および活用支援を開始しています。

NTTデータではこれまでも、独自ノウハウに基づき、ビッグデータ・AIなど領域に係る市場競争力のあるさまざまなソリューションパートナーとともにエコシステムを形成し、お客さまのビジネス変革を導いてきました。
Snowflakeは、これら先端テクノロジーとのエコシステムの形成に強みがあり、NTTデータはこれらを組み合わせることでお客さまに最適なインテグレーションをご提供いたします。

https://enterprise-aiiot.nttdata.com/service/snowflake

</div></details>