re:Invent2024 CEO Keynoteからの学び

* スピーカー
  * CEO Keynote with Matt Garman

* 公式サイトの紹介文 

> AWS CEO の Matt Garman が、世界をリードするクラウドのあらゆる側面で AWS がどのように革新を起こしているかについて語ります。AWS が基礎となる構成要素を改革し、まったく新しいエクスペリエンスを開発して、より良い未来を築くために必要なものをお客様とパートナーに提供している様子をご覧ください。

re:invent2024では、たくさんのセッションがあり、それぞれに学びがありました。新サービス発表が多かった、CEO Keynote with Matt Garmanについて、正確な日本語訳は、たくさん記事も出ているので他にお任せするとして、アーカイブ動画も英語字幕付きで公開されているので、個人的な感想と日々仕事で私が考えていることと重ねて書いてみたいと思います。


## まとめと学び

* re:invent2024に6万人が参加。
  - 確かにすごい人だなと思ったが6万人とは。
* AWSの考え方として、A OR Bと考えずに、A AND Bで何ができるかを考える。
  - 技術的な制約でAかBしかできないと思い込まないで、AもBも満たせないかと考えた時にブレークスルーが見つかるということです。
* AIの機械学習専用のTrainium2を発表。AppleのApple intelligenceも採用予定。
  - AIのアルゴリズム、ソフトウェアの競争ではAWSは圧倒的とは言えないが、独自HW開発でリードすべく取り組んでいるということと理解しました。炭素削減もその一つです。
  - NvidiaからはGPU提供を受け、同時にスタートアップと新しい推論チップの検証も実施しています。
* S3 Tablesバケットを発表。Parquet用のインスタンスで、スナップショット管理を自動化、サイズを管理。クエリパフォーマンスを最適化できる。
  - データレイクにS3を採用し、Parquetファイルで保存している会社は多いと思いますが、S3がApache Icebergに対応したことで、Apache Iceberg化する会社も増えそうです。
* Amazon Q developper
  - ドキュメント自動生成の機能。開発者のドキュメント生成の助けになり、ドキュメントとコードをセットでメンテナンスする助けになってくれるかもしれません。
  - また、CloudWatchLogやCloudtrailから問題を特定してくれる機能が発表されました。私は、現在ChatGPTにコピペしてヒントをもらっていますが、一歩進んだ使い勝手になる可能性があります。
* Pageduty。運用管理のSaaS。Amazon Qとの連携が発表された。
  - 運用管理の効率化にチェックしてみたいサービスです。
* Amazon Sagemakerの次世代バージョンのリリース。AIとデータ分析を1つのNotebookに統合した。
  - Sagemakerは最初は、InstanceとNotebookがバラバラだったものから、開発環境が統合され、今回AIも組み込まれたということで一段と統合が進みました。

---

## セッションの私的ポイント

### AWSの歩み
* re:invent2024に6万人が参加。
* 2006年にAWSがビジネスを始めた時、顧客はスタートアップだった。我々の中心にスタートアップがある。
* 当初、銀行はクラウドに移行することはないと言っていた、セキュリティ、規約etcの理由で。10年かけて、要件を満たしていった、現在では大手銀行が顧客になっている。
* 顧客に代わって発明してきた。それがAWSのDNA。Good Enoughではなく、Bestを。
* ビルディングブロックという仕組みを作った。要件に合わせて組み合わせて構築できる。
* セキュリティが最優先事項。多くの顧客をAWSを信頼している理由になっている。

### Conoputing
* EC2を実現するNitro。AWSの仮想化システム。柔軟性とスピードを実現できる仕組み。
* 独自のCPUを開発、最初は物議をかましたが、Gravitonで独自の多くのことを実現した。Graviton4が最新。
* CPU/Memory性能の向上、省電力を実現。
* Pintarestは、Garvitonで40%コスト削減、二酸化炭素を60%削減を実現。

#### Trainium2
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/6c254883-ea55-80cd-4fd1-3feca1907418.png)

* Generative AIはNvidia GPUで実現している。Nvidiaとは特別な提携をしている。
* Nvidia P6インスタンスを発表する。
* AIチップの開発にも進出。Alexaで採用した。新しいインスタンスを発表。Trainium2。
* AppleとAWSは、長期的な提携を結んでいる。
* AppleのSiriの検索に使っている。
* 機械学習のAWS利用は増えている。
* Gravitionやkvs、近傍検索に使っている。
* Apple Intelligenceには性能の高い、アクセレラレータが必要。Trainium2を採用予定。50%改善見込み。
* Traiunim3は来年リリース予定。

### Storage

#### S3 Tables
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/092ca0ad-adf5-26b0-8d72-3796af2d9bdc.png)
* S3。400兆個。1ペタ以上が数千社に及ぶ。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/6758b0f6-5513-0d4b-f92d-d93b5f1cbab5.png)

* S3 Intelliginet-Tieringが自動的にTierを判断してくれる。
* データレイクにParquetで保存するのが事実上の標準になっている。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/d123497b-69a1-3684-30de-d889c1ae968a.png)
* Apache Icebergは多くのことを実現できる。しかし、管理が大変。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/7eea90c0-39c9-4201-80a3-ee57bf74ad47.png)
* S3が代わりにできないかと考えた。解決策として、S3 Tablesバケットを発表する。
* スナップショット管理を自動化、サイズを管理。クエリパフォーマンスを最適化できる。

#### S3 Metadata
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/bf1b0531-747c-5538-d6ef-1c0b8f593c2e.png)
* メタデータは検索に役立つ。しかし、管理が大変。解決策として、S3 Metadataを発表する。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/9a43c6f7-c7d8-7fb4-1f2b-c2b732d061ac.png)
* メタデータの更新をリアルタイムでできる。数分で反映を完了する。


### Database

#### Amazon Aurora DSQL
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/547acb2e-6fc3-2461-5885-9c09e3fb64f3.png)
* 2004年、Amazonの90%がkvsのアクセスだと気づいた。そして、DynamoDBを作った。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/c3311887-056c-f146-9b47-a7a1ca1cf362.png)
* 親しみやすいオープンソースでAWS Auroraを作った。10周年になる。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/dabf6ea8-6ebd-59b3-527a-99300701cdd6.png)
* AWSは、A OR Bと考えず、A AND Bと考える。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/6a8ee493-3a31-d279-fcfd-04a270151f7c.png)
* 従来の方法では、DBのデータを全てのアプリケーションが最新のデータを確実に読み取れるように、トランザクションを正しい方法で順序付ける必要がある。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/ec4a8d20-75f2-5079-6ac1-4b0982df115d.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/d9c9a958-32c5-f9ac-f997-a4cd83e9a572.png)


* 東京とラスベガスで10往復の通信は1.6秒かかる。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/952ca5de-b36f-a76b-5e3e-3c4fe3faa6c7.png)
* タイムスタンプの同期が必要。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/61916dde-93d9-c079-a236-09f3e22e48be.png)
* 衛星に接続し原始時計で管理。マイクロセカンドで同期する。
* Commitをストレージ層から分離し、90%の時間を削減。
* Amazon Aurora DSQLを発表。
* DynamoDB Global tablesにも同じ仕組みを導入。
* J.P.Morganは、3リージョンでActive/Active/Active構成を実現。1Exadataを保管している。


### AI

#### Bedrockの新機能
* これからのCore Componentになる。
* Amazon Bedrock Guardrails
  - 保険のセールスAIに政策の回答をさせない等のガードレールを設定できる。
* AI Hallucination
  - 幻覚の問題。保険対象になるかどうかを正しく回答するときに90%ではだめ。
* Amazon Bedrock自動推論チェックを発表。
* モデルをビジネスルールで自動でテストしてくれる。

* Amnazon bedrock muti-agent collaborationを発表。
  - コーヒーチェーンの出店の例。各担当者が地域の出店可能性を調べるそれをどう統合するか。

#### Amazon.com
* Amazon CEO Andy Jassy
* テクノロジーをクールだから使っているのではない、顧客のためになるから使っている。
* Nova Canvas
  - 画像の生成AI
* Nova Reel
  - 動画の生成AI
* 今後は、speach-to-speach、Any-to-Anyが実現可能になる。


#### Amazon Q
* Amazon Q developper
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/ae8e3549-52c8-cb60-83af-c3c8218e2a9c.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/aee5e862-d73d-b09f-9cde-41f8bdf860f5.png)
* 自分のコードの素晴らしいドキュメントを書くのに時間を費やすので好きな開発者に会ったことは一度もないと思うが、それは重要だ。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/3f32eedd-036e-12b5-e594-fe84254c0307.png)
* ユニットテスト、ドキュメント、コード生成を支援する新しい自律エージェントを発表する。
  - コードの脆弱性や使用しているOpenソースの脆弱性もチェックしてくれる。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/fd655905-eb87-a3e0-2713-1b02b9cbb427.png)
* VS Code , Slackと連携可能。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/e64842e1-d3e1-a7c8-596d-28f8224c1faa.png)
* GitLab with Amazon Q

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/8e3d3c87-097c-bf5b-befa-0343be077212.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/dddd6016-6e8a-eaa1-8eef-27c65e414735.png)

* Javaバージョンアップグレードの自動変換をサポート
* .netからLinuxに変換できる機能
* VMWareからクラウドネイティブに変換する機能
* Mainframeから変換する機能。COBOLからの移行する機能。
* オペレーション。問題解析をする機能。
* CloudWatchLogやCloudtrailから問題を特定する機能。
* Pageduty。運用管理サービス。Amazon Qと連携する。

* QuickSightと外部サービスのデータ連携
- Asanaと連携。Gmailの未読メールから重要な情報を読み取りアドバイスしてくれる。

* どの会社にもある複雑なワークフローをQが簡略にできる。フォルクスワーゲンは複数のWBSコードの統合に使用した。


### Analitycs
* AnalitycsとAIの掛け合わせ

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/96597720-9ecf-2794-309f-ebf3b74ae59b.png)

* 4つのリングの掛け合わせにで高度な分析を実現。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3955146/20a24de5-b607-f721-499a-7ea49c29ae8f.png)

* Zero-ETL
* Sagemaker Lakehouse。iceberg対応。
* 同じnotebookからさまざまなデータセットにアクセスできる。

以上