AWS re:Invent 2023 2日目のアプデ特集（Bedrock、Amazon Q等）

クラウドサービスAWSで最大の年次カンファレンス「AWS re:Invent」が2023年も開幕しました🎉

https://reinvent.awsevents.com/

私は昨年までオンライン配信で楽しんでいましたが、今年は初めて現地ラスベガスに訪問できましたので、会場でしか聞けないナマ情報も含めてお届けします！

:::note info
発表直後のサービスや、現地で口頭でのみ聞き取った情報なども多いため誤りを含む可能性があります。あらかじめご了承くださいますと幸いです。
:::

初日分はこちらをどうぞ。

https://qiita.com/minorun365/items/eaf706509e5bf98d9c7e


# ２日目のキーノートはCEOからの目玉発表！

火曜朝は例年、AWSのCEO アダムさんから最も目玉となる新機能などがお披露目されます。

![5D25ABDA-E26F-4F6F-9C05-22933100D20E_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/4d338f06-c004-b1d0-b4eb-7a3728387878.jpeg)

すでにYouTubeでアーカイブ動画も公開されています。

https://youtu.be/PMfn9_nTDbM?si=wOkzlW_EgdTqCr-S


# 大きめの発表は以下でした

- Amazon S3 Express One Zone
- AWS Graviton 4（R8g Instances for EC2）
- AWS Trainium 2

#### Amazon Bedrock関連

- Amazon Bedrock ファインチューニング対応モデルの拡大
- Continued Pre-training for Amazon Titan
- Agents for Amazon Bedrock
- Knowledge Bases for Amazon Bedrock
- Guardrails for Amazon Bedrock

#### Amazon Q

#### Analytics関連

- Zero-ETL integrations with Amazon Redshift
- Amazon DataZone AI recommendations

※漏れがあったらご容赦ください🙏



# 私が気になったアプデを中心にクローズアップ！

### Amazon S3 Express One Zone

https://aws.amazon.com/blogs/aws/new-amazon-s3-express-one-zone-high-performance-storage-class/

シングルAZとなる代わりに、StandardクラスのS3バケットの10倍の性能を発揮できるパフォーマンス特化クラスです。

![EDCB4E8B-104E-4E35-873B-500E9DD60E4A_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/5c0e890b-504e-b097-7290-676fadbd123a.jpeg)


### AWS Graviton 4（R8g Instances for EC2）

https://aws.amazon.com/blogs/aws/join-the-preview-for-new-memory-optimized-aws-graviton4-powered-amazon-ec2-instances-r8g/

かつてはモバイル系で主に使われていたARM系のCPUをベースとして、近年多くの会社が自社チップを開発していますが、Amazonも例に漏れずGravitonシリーズのシリコンを開発しAWSリソースで利用可能にしています。その最新版となるGraviton 4が発表されました。前世代のGraviton 3より30%〜45%高速化しているようです。

第一弾のローンチ先として、EC2のR8gインスタンスが同時にプレビュー開始です。

![BD600E8F-BDBC-431A-B298-DDCA5E955F04_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/ddd483d8-8d81-65ab-94b5-efbea86321b3.jpeg)


### AWS Trainium 2

NVIDIA社との連携強化の話のあとに紹介されました。機械学習のトレーニングに特化したTraniumチップの第2世代で、4倍速くなったそうです。具体的なインスタンスへの実装はまだアナウンスされていません。

![FFCCB040-7B7A-489E-AD95-7E572258B7C6_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/42579020-4bf7-9b0e-b263-cb2940cf7088.jpeg)


### Amazon Bedrock ファインチューニング対応モデルの拡大

https://aws.amazon.com/blogs/aws/customize-models-in-amazon-bedrock-with-your-own-data-using-fine-tuning-and-continued-pre-training/

ここからはBedrock祭りです。まずはファインチューニング（追加学習による微調整）に対応する基盤モデルが増えました。従来のAmazon Titanに加えてMeta Llama 2、Cohere Commandが追加。またClaudeも近日対応するようです。

![3E8D5B62-8C3F-4F33-BB8A-EF1DF323001B_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/9d9c5984-17eb-d055-4fa7-d81e4ab705e6.jpeg)


### Continued Pre-training for Amazon Titan

https://aws.amazon.com/blogs/aws/customize-models-in-amazon-bedrock-with-your-own-data-using-fine-tuning-and-continued-pre-training/

こちらはモデルの「継続的な事前学習」にAmazon Titanが対応したというアップデートです。リージョン限定で公開プレビューの段階となります。

![F3633179-579C-4033-AC79-3B1E03FB6D96_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/27a37609-e16b-eb81-f1ca-7d4e79f91397.jpeg)

分かりにくい概念のため私もドキュメントを読んだのですが、ラベルされていないドメイン固有データを活用して学習させることは分かったものの、「継続的な」「事前」がそれぞれ何を指すのかが正直ピンと来ていません。

ざっくり「汎用データで学習済みの既成モデルを引き続きトレーニングすること」ぐらいにとらえています。「事前」は最後の微調整（ファインチューニング）よりも前、ぐらいのニュアンスでしょうか。詳しい方いたら教えてください🙏


### Agents for Amazon Bedrock

https://aws.amazon.com/jp/blogs/aws/agents-for-amazon-bedrock-is-now-available-with-improved-control-of-orchestration-and-visibility-into-reasoning/

今回もっとも事前に予想しやすかった発表の一つですね。Bedrockの目玉機能「Agents」が限定プレビュー期間を経てようやくGAになりました。

![C24E40BD-2FA9-41C9-A014-32EDEA1F3601_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/bfd23898-b61f-1f39-a59f-c55913701834.jpeg)

Bedrockの基盤モデルに対して、「組み込むアプリケーションの用途に合うように事前指示をインプットしておく」「自社固有のデータを参照させる（RAG）」などを実現するにはこれまで、Bedrockを呼び出す側のアプリケーションで実装を頑張る必要がありました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/acf7e415-9fe7-adde-316c-c1f4d6084a7d.png)

これをAWSのマネコンからGUIでポチポチやるだけで「どんな事前指示を出したいか」を設定したり「S3バケットにアップした自社文書を検索先として指定する」などがローコードで実装できてしまいます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/6488c78e-bc6f-645b-5963-617971f7a74e.png)

「ReAct」というプロンプトエンジニアリングの手法に基づいて、Agents for Bedrockが自ら「与えられた目的を達成するにはどういう計画で行動すればよいか」を考えて実行してくれます。作成したエージェントはデプロイして自分のアプリケーションに組み込むことができます。


### Knowledge Bases for Amazon Bedrock

https://aws.amazon.com/blogs/aws/knowledge-bases-now-delivers-fully-managed-rag-experience-in-amazon-bedrock/

前述のAgents for Bedrockで検索する「自社固有のデータソース」として使われるのがこのKnowledge Beseです。

![2F0A201E-D52A-4AD4-A65D-0E1BB59196A3_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/111c1b3e-2112-29c7-78a8-04e0edba91af.jpeg)

実は9月の段階でAgents for Bedrockと一緒に限定プレビューのアナウンスがされていたのですが、そもそもBedrock自体がGA前だったこともあり、Agentsの限定プレビューも全然降りてこないため私は存在を認識できていませんでした（笑）

https://aws.amazon.com/blogs/aws/preview-connect-foundation-models-to-your-company-data-sources-with-agents-for-amazon-bedrock/

データソースとしてS3バケットを指定し、そこにある文書を数値化（ベクトル変換）して保存するための格納先を選択します。OpenSearch Serverlessのほか、外部SaaSであるPineconeやRedis Enterprise Cloudにも対応しているようです。

![スクリーンショット 2023-11-29 14.41.00.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/69cead1e-29ea-2d70-3c43-47aa860a5579.png)


### Guardrails for Amazon Bedrock

https://aws.amazon.com/jp/blogs/aws/guardrails-for-amazon-bedrock-helps-implement-safeguards-customized-to-your-use-cases-and-responsible-ai-policies-preview/

こちらは完全にお初の機能で、まだ限定プレビューのようです。

![A42D5DC5-FE25-4EB4-A251-CE90746C95D4_4_5005_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/078cca3a-a58e-5d56-b4d6-8827a290dbcf.jpeg)

Bedrockの基盤モデルは元々、好ましくない表現を出力しないようにModerationが施されていますが、ユーザー固有の要件を加味して「NGワード」的なものを事前に設定して制限したりできるのがGuardrails機能のようです。すべてのBedrock基盤モデルとファインチューンしたカスタムモデル、およびAgentsにも対応。


### Amazon Q

今回のre:Inventの一番の目玉。一言でいうと「AWS版のCopilotシリーズ（※）」ですね。

※ECS用のデプロイツールである「AWS Copilot」は今回関係ありません。

![C73FA159-46CE-4A2F-A811-F975BFA93E1A_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/f7f03a17-9fbc-70f4-acd9-5bfb8ced355a.jpeg)

Amazon Qは色んなところに現れて、普通のビジネスマンからエンジニアまで様々な人の仕事を生成AIの力でサポートしてくれます。MS社の「Copilotシリーズ」同様、Amazon Qは一種のブランドであり具体的な実装やインターフェースはユースケースによりかなり異なっています。


#### Amazon Q （ビジネス向け）

https://aws.amazon.com/jp/blogs/aws/introducing-amazon-q-a-new-generative-ai-powered-assistant-preview/

AWSマネコンからのGUI操作だけでRAGチャットボットを簡単に作成することができます。
データソースにはS3やWebクローラーのほか、GoogleドライブやTeamsといった外部のSaaS製品を検索できるコネクターが多数用意されています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/ff1fbea9-988f-9acc-025a-b73d87d089ba.png)

こう聞くと前述のAgents for Bedrockと似ている気がしますが、現地で質問したところ「両者の位置するレイヤーが異なる」ということでした。

![F0D52D9A-5116-4388-B643-38F6DA4351E3_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/ad3b30ea-276a-2263-9b38-d84ad63b445e.jpeg)

Amazon Qは一番レイヤーの高いアプリケーション層を提供するサービスで、汎用的なアプリケーションを素早く市場提供することを重要視しており、一方でBedrock周辺機能は自分のアプリケーションへの組み込みやモデルのカスタマイズなど、より細かい要件に対応できるソリューションとなっています。


#### Amazon Q （開発者向け）

https://aws.amazon.com/jp/blogs/aws/amazon-q-brings-generative-ai-powered-assistance-to-it-pros-and-developers-preview/

- Amazon Q in the console：マネコンの右端に現れて技術QAに答えてくれる
- Amazon Q in the IDE：GitHubでいうCopilot Chatのようなもの
- Amazon Q feature development：例えばJavaバージョンアップ時のコード自動変換など
- Amazon Q generates tests：テストコードを書いてくれる？
- Amazon Q troubleshoots：マネコン上でトラブルシュートをQAで助けてくれる

すでにQuickSight Qというサービスもありましたが、あのような感じで様々なAWSサービスに各コンソール専用のQが登場してくるようです。


### Zero-ETL integrations with Amazon Redshift

マネージドなデータウェアハウス用RDB、Redshiftへのデータ変換を自動でやってくれるZero-ETL機能が従来のAurora MySQLに加えてAurora PostgreSQL、RDS for MySQL、DynamoDBの3種類に追加対応します。（まだプレビューです）

![EF76ECED-2F0D-4A6D-9CAC-907AAFF3A5E1_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/3d71913f-5dc6-70f7-f309-ecc39f70c357.jpeg)


### Amazon DataZone AI recommendations

https://aws.amazon.com/jp/blogs/aws/new-generative-ai-capabilities-for-amazon-datazone-to-further-simplify-data-cataloging-and-discovery-preview/

組織のデータ制御をマネージドに提供してくれるDataZoneに、AIがデータの説明や「どんな分析に使えそうか」といったアドバイスを生成してくれるそうです。（これもプレビューです）

![AA2AACE3-36F2-4FDC-9A77-19B633A629A5_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/0b31725c-5d71-d51c-e452-29362e97f734.jpeg)


### Project Kuiper

Amazon版のStarlink的なプロジェクトを始めたようです。AWS専用の衛星通信によって、どんな場所でもAWSリソースへプライベートな通信が確立できるようになるとのこと。

![5964540C-6605-4218-B179-CBE9E04B183D_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/c40280b9-e3b7-25c0-e735-069d5345819f.jpeg)



# 次回は3日目編！

機械学習系のVP、スワミさんのキーノートを特集します。生成AIや分析関連のさらなるアップデートがあります！

https://qiita.com/minorun365/items/037e04312bc8f4f3b25e

ちなみに来週12/6(水)のお昼に、ラスベガスで共に学んだ仲間とアップデートをおさらいするオンライン勉強会を企画していますので、ご興味あれば是非ご参加ください👍

https://jawsug.connpass.com/event/304168/