C S A JA PA N S U M M I T 2 0 2 4

AWSによる発⾒的統制のベストプラクティス
機械学習や⽣成AIによる⾃動分析/イベントの可視化/検出制御と⾃動対応

アマゾン ウェブ サービス ジャパン 合同会社
執⾏役員
パブリックセクター 技術統括本部⻑
瀧澤与⼀© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Abstract
発⾒的統制により、潜在的なセキュリティ脅威やインシデントを特定できます。
これはガバナンスフレームワークの最重要機能であり、品質管理、コンプライアンス、脅威の特定に影響を与えます。AWSを利⽤すると、監査、機械学習や⽣成AIによる⾃動分析やアラート、監視、検出制御を実装できます。
本セッションでは、進化するビジネス要件に迅速に対応し、イノベーションを加速するための、セキュリティベストプラクティスを⽰します。

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

2Agenda
1. 発⾒的統制と対応するAWSサービスの概要
2. 機械学習を⽤いた発⾒的統制のベストプラクティス
3. 進化するビジネス要件 – ⽣成AIにおけるセキュリティ
4. まとめ© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

3

Agenda1. 発⾒的統制と対応するAWSサービスの概要
2. 機械学習を⽤いた発⾒的統制のベストプラクティス
3. 進化するビジネス要件 – ⽣成AIにおけるセキュリティ
4. まとめ© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

4

AWS セキュリティ ソリューション
IDとアクセス管理

検出と対応

ネットワークとアプリケーション保護

データ保護

コンプライアンスAWS Identity andAccess Management(IAM)

AWS Security Hub

AWS Firewall
Manager

Amazon MacieAWS Artifact

AWS NetworkFirewall

AWS KeyManagement
Service (KMS)AWS AuditManagerAWS ShieldAWS CloudHSM

AWS WAFAWS Certificate
ManagerAWS IAM Identity
CenterAWS Organizations

Amazon GuardDuty
Amazon Security Lake
Amazon Inspector
Amazon MacieAWS Directory
ServiceAmazon Detective

Amazon Cognito

Amazon CloudWatchAWS PrivateLink

AWS Resource Access
ManagerAWS Config

AWS Systems
ManagerAWS CloudTrail

Amazon VerifiedPermissions© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon VPCAWS Verified
AccessAWS Private CAAWS Secrets
Manager
AWS Payment
Cryptography
Server-Side
Encryption5発⾒的統制
リスクコンプライアンス
インシデントレス
ポンス

ID・アクセス管理

お客様のデータデータ
保護

発⾒的統制インフラストラク
チャ
保護© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

可視性を⾼めることが重要
ビジネスに影響が出る前に問題を発⾒し、セキュリティ体制を改善し、リスク発⽣を軽減させる

セキュリティチームが直⾯する課題
可視性の⽋如
セキュリティリスクとその影響組織のニーズに合わせてセキュリティ対策をスケールさせる必要性

セキュリティアラートの複数の情報源

アラートが多すぎるるコンテキストが⾜りない© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

発⾒的統制AWS Security Hub

AWS セキュリティチェックを⾃動化し、セキュリティアラートを⼀元化します。

Amazon GuardDuty

インテリジェントな脅威検出で AWS アカウントを保護します。
リスク
コンプラ
イアンス
インシデ
ントレス
ポンス

お客様のデータ

データ
保護

Amazon Inspector

ID・アクセス管理

⼤規模な⾃動的かつ継続的な脆弱性管理。

Amazon CloudWatch
発⾒的統制インフラストラク
チャ
保護

AWS、オンプレミス、その他のクラウド上のリソースとアプリケーションを観察および監視できます。

AWS Config

リソースの構成を評価、監査、評価します。

AWS CloudTrail

ユーザーアクティビティと API を追跡します。

VPC Flowlogs

VPC のネットワークインターフェースに出⼊りする IP トラフィックに関する情報を収集します。

Amazon Security lake

セキュリティデータを数ステップで⾃動的に⼀元化します。
© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Agenda1. 発⾒的統制と対応するAWSサービスの概要
2. 機械学習を⽤いた発⾒的統制のベストプラクティス
3. 進化するビジネス要件 – ⽣成AIにおけるセキュリティ
4. まとめ© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

9AWS 検出と対応サービス
AWS 上での検出と対応
Amazon GuardDuty脅威と異常⾏動を検出

Amazon Macie
機密データの検出と保護

AWS 環境全体のセキュリティ体制を強化し、セキュリティ運⽤を合理化するのに役⽴つ⼀連のサービス© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon Inspector
脆弱性の検出Amazon Detective
イベントと検出結果の調査

AWS Security Hub
セキュリティチェックの⾃動化とアラートの⼀元管理
AmazonSecurity Lake
セキュリティデータの正規化と分析

10

Amazon GuardDuty とは機械学習 (ML) 、異常検知、サービスと統合された脅威インテリジェンスを使⽤して潜在的な脅威を特定し、優先順位を付ける
マネージド脅威検出サービス

AWS 組織全体でのワンステップ
アクティベーション

AWS アカウントとリソースの継続的なモニタリング© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

機械学習と脅威インテリジェンスを活⽤した独⾃の検出機能

AWS およびリーディング企業の脅威インテリジェンス

フルマネージド型のAWS ワークロード保護

11

Amazon GuardDuty の仕組み
基礎的なデータソース

サービス統合と修復

VPC Flow Logs, DNS logs

AmazonDetective

CloudTrail イベント
(AWS IAM アクセスキーやAmazon EC2等の情報)

セキュリティ分析
AI/ML

AWS ワークロード保護毎のデータソース

脅威インテリジェンス

セキュリティ検出結果
継続的学習

実⽤的正確性
豊富なコンテキスト情報

••
•
•
•

AWS
Security HubAmazon
EventBridge

Amazon S3 データプレーンイベント
Amazon EKS 監査ログ
Amazon Aurora ログインイベントAWS Lambda ネットワークアクティビティ
Runtime アクティビティ© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

12

AWS ワークロード保護のための GuardDuty
S3 Protection

EKS Protection

Malware Protection

S3 バケット内のデータに関する潜在的なセキュリティリスクを特定

EKS 監査ログモニタリングは、Amazon EKS クラスターのKubernetes 監査ログを分析して、潜在的に悪質で疑わしいアクティビティがないか調べます。

RDS Protection

Lambda Protection

Runtime Monitoring

RDS ログインアクティビティを分析してプロファイリングし、Amazon Aurora データベースへの潜在的なアクセス脅威を特定¹

VPC フローログをはじめとするネットワークアクティビティを継続的に監視して、AWS Lambda
関数に対する脅威を検知

Amazon EKS、Amazon ECS(AWS Fargate を含む)、および
Amazon EC2 のオペレーティングシステムレベルのイベントを監視および分析して、潜在的な脅威を検出¹Amazon Aurora MySQL-Compatible Edition and
Aurora PostgreSQL-Compatible Edition© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

マルウェアによって侵害されたリソースまたは危険にさらされているリソースを特定

13

⾼度に統合されたサービスによる⾃動化とリスクの軽減
広範囲な API とセキュリティツールセット

継続的なモニタリングと保護運⽤を効率化し重要課題に集中© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

脅威の修復と対応

重要システムの安全なデプロイ

14

AWS Security Hub
Security Hub は、セキュリティのベストプラクティスチェックを継続的に実施し、AWS とサードパーティのサービスからのセキュリティ結果をシームレスに集約して⾃動対応を可能にするクラウドセ
キュリティポスチャ管理サービスです。

⾃動化された
継続的なベストプラク
ティスチェック

AWS セキュリティベ
ストプラクティス(FSBP) 標準、CISなどへの対応© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

導⼊が簡単で、最⼤ 10,000 ア
カウントまで拡張可能

アカウントとリージョンにわたる
AWSおよびサードパーティ
サービスの結果集約

⾃動応答とエンリッチメント
アクションSecurity Hubを取り巻くアクション

標準と統制

PCIDSSNICTCIS AWS ファンデー
ションベンチマークAWS FSBP

SecurityHub

修復アクション

サービス管理標準
AmazonEventBridge

検出結果の取り込みAWS Config

AmazonGuardDuty

AmazonInspector

AWS Identityand Access
Management(IAM)

AmazonMacie

AWS
FirewallManager

その他© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

AWS
LambdaAWS
Systems
ManagerAWS Step
Functions

AWS パートナーとの連携
検出結果の統合

AmazonDetective

AWS Audit
Manager

AWS Trusted Advisor

AmazonSecurity
Lake。。その他多数AWS Chatbot
これは完全なリストではありません。すべての AWS Security Hub パートナーを確認するには、Security Hub コンソールにアクセスしてください。このパートナーリスト
は、2023年11⽉28⽇現在のものです。

統合サービスによる⾃動化とリスクの軽減
包括的な API とセキュリティツールのセット

継続的モニタリングと保護

重要な問題に集中するための業務効率化© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

脅威対策と応答ビジネスクリティカルなアプリケーションを安全にデプロイ
17⾼い可視性の確保 –AWS の操作は API を通じて提供される
AWS
マネジメントコンソール

AWS のサービスのAPI エンドポイント

AWS CLI(コマンドラインツール)C:¥

AWS SDK(プログラム)SDK
いつ?

そのほかのAWS のサービス(サービス同⼠の連携)© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

どこ?

誰?

何?

監査やモニタリング、⾃動化につながる可視性18

お客様のワークロードに対して幅広い観点での可視性を導⼊お客様のワークロード・・・

AWS 操作履歴・証跡の記録と保護構成情報の収集と脅威のポリシー違反の検出 モニタリングと検出

セキュリティ状態の把握と⼀元管理

ソフトウェア
脆弱性管理

・・・
AWS CloudTrailAWS Config

Amazon GuardDuty

AWS Security Hub

Amazon Inspector

⼤規模運⽤に対応可能な「セキュリティモニタリング基盤」の実現© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

19

サービス連携によるセキュリティ⾃動化で、セキュリティ監視を素早いアクションへつなげていく
たとえば、⾃動化された脅威への対処（インシデントレスポンス）
検知

AmazonGuardDuty

機械学習による脅威の検出© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

通知

AmazonEventBridge

対処

Event

インシデント通知

AWS Lambda（他、様々な選択肢）

LambdaFunction

脅威への対処20

⾃動化による対応スピードの変化

オンプレミスクラウド

インシデント検知

ログ取得分析関連付け

イベント発⽣
ルール評価
アラート通知関連付け
ベースライン検証
修正© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

根本原因追跡構成準備

修正

⼤幅短縮・効率化（⾼頻度・観点増にも耐えられる）時間
21Agenda1. 発⾒的統制と対応するAWSサービスの概要
2. 機械学習を⽤いた発⾒的統制のベストプラクティス
3. 進化するビジネス要件 – ⽣成AIにおけるセキュリティ
4. まとめ© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

22

現実世界のタスクで⼈間が⽣成したコンテンツに⼗分近いオリジナルコンテンツを作成できるAI

数百億のパラメータを含む⼤規模なデータセットで事前学習された基盤モデルを利⽤

⽣成 AIとは︖

最⼩限のファインチューニングで特定のドメイン向けにカスタマイズが可能

テキストの要約、質問への回答、デジタルアートの創造、コード⽣成など、多くのユースケースに適⽤可能

機械学習モデルの開発に関わる時間とコストを削減してイノベーションを加速© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

23

⽣成 AI セキュリティスコーピングマトリックス
ユースケースを分類するメンタルモデル© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

⽣成 AI セキュリティスコーピングマトリックス
ユースケースを分類するメンタルモデル© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

⽣成AI アプリケーションのデータフローの例
1. アプリケーションはユーザーからの⼊⼒を受け取ります̶ [オプション] アプリはカスタムデータソースからデータを照会します

2. アプリは、ユーザー⼊⼒と顧客データをフィルタリングしてプロンプトでフォーマットします3. プロンプトはモデルによって拡張されてから完了されます̶ [オプション] Fine-tune モデルの使⽤

4. ⼊⼒内容はアプリケーションごとに処理/フィルタリングされます
5. レスポンスがユーザーに送信されます© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

責任ある AI とはAWS の責任ある AI フレームワーク

公平性

説明可能性

システムがユーザーのさまざまなサブポピュレーションに与える影響 (性別、⺠族など)

AI システムのアウトプッ
トを理解し評価するためのメカニズム

プライバシーとセキュリティガバナンス

透明性

組織内で責任ある AI プ
ラクティスを定義、実装、実施するためのプロセス

利害関係者がシステムの使⽤について情報に基づいた選択を⾏えるように、AIシステムに関する情報を伝える

データはプライバシー上の考慮事項に従って使⽤され、盗難や漏洩から保護されています© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

堅牢性（Robustness）
AI システムが確実に動作することを保証する仕組
みOWASP® トップ10の⼤規模⾔語モデル (LLM)
⼀部の項⽬には、技術的な対策だけでは不⼗分です。

LLM

LM02

LLM

LM04

LM05

プロンプト・インジェクション

安全でない出⼒処理

トレーニング
データポイズニング

モデルサービス拒否

サプライチェーの脆弱性

これは⼤きな⾔語を操作します
巧妙なインプットによるモデル（LLM）、LLMによる意図しない⾏動を引き起こす。直接注⼊はシステムプロンプトを上書きし、間接注⼊は外部ソースからの⼊⼒を操作します。

この脆弱性は、LLM 出⼒が精査されずに受け⼊れられ、バックエンドシステムが公開される場合に発⽣します。誤⽤すると、XSS、CSRF、SSRF、権限昇格、リモートコード実⾏などの重⼤な結果につながる可能性があります。

これは、LLMトレーニング
データが改ざんされ、セキュリティ、有効性、または倫理的⾏動を損なう脆弱性や偏⾒が⽣じた場合に発⽣します。

攻撃者はLLMでリソースを⼤量に消費する操作を⾏い、サービスの劣化や⾼コストにつながります。LLMはリソースを⼤量に消費する性質とユーザー⼊⼒の予測不能性により、この脆弱性がさらに⼤きくなります。

LLMアプリケーションのライフサイクルは、脆弱なコンポーネントやサービスによって侵害され、セキュリティ攻撃につながる可能性があります。サードパーティのデータセット、事前にトレーニングされたモデル、およびプラグインを使⽤すると、脆弱性が追加される可能性があります。

LM06

LM07

LM08

LM09

LM10

機密情報の開⽰

安全でない
プラグイン設計

過剰なエージェンシー

オーバー
リライアンスモデル盗難

LLMは、回答時に機密データをうっかり公開してしまい、不正なデータアクセス、プライバシー侵害、セキュリティ侵害につながる可能性があります。これを軽減するには、データサニタイズと厳格なユーザーポリシーを実装することが重要です。

LLM プラグインの⼊⼒が安全でない場合や、アクセス制御が不⼗分である場合があります。このようにアプリケーションを制御できないと、悪⽤されやすくなり、リモートでコードが実⾏されるような結果になる可能性があります。

LLMベースのシステムは、意図しない結果につながるアクションを実⾏する可能性があります。
この問題は、LLM ベースのシステムに過剰な機能、権限、または⾃律性が与えられていることが原因で発⽣します。

LLMに過度に依存しているシス
テムや⼈々は、LLMによって⽣成された不正確または不適切なコンテンツが原因で、誤った情報、伝達ミス、法的問題、およびセキュリティ上の脆弱性に直⾯する可能性があります。

これには、独⾃のLLMモデルへの不正アクセス、コピー、または盗⽤が含まれます。その影響には、経済的損失、競争上の優位性の低下、機密情報へのアクセスの可能性などが含まれます。

ソース:https://owasp.org/www-project-top-10-for-large-language-model-applications/© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

28

⽣成AI ワークロードの例
AI 搭載アプリのどこにセキュリティコントロールを適⽤するかLLM を利⽤したアプリケーション
LLM サービス

プラグイン/拡張機能

統合ワークロード

LLM オートメーション(エージェント)

プラグイン

コンピューティ
ング

プラグイン

コンテナ

プラグイン

ストレージ

アプリケー
ションサー
ビス
LLM

データベース
分析
Edge

トレーニングデータと処理
トレーニング
データ

データの微調整

クレンジング、匿名化、RAGなど...

外部データソース
検索拡張⽣成 (RAG)© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

IoT
Web アプリケーション
その他

AWS ⽣成AI とセキュリティの統合
基本的な AWS セキュリティ+⽣成AI サービスのその他のセキュリティ機能

AWS 生成 AI サービス

AWS
Security Hub

AmazonBedrock

AmazonSageMaker

AWS
KMS

AmazonGuardDuty

AWS セキュリティ、アイデンティティ、コンプライアン
スサービス
AmazonMacie

AWS クラウドオペレー
ション、ネットワーキン
グ、ストレージ

AWS
CloudTrail© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

AmazonCloudWatch

AmazonInspector

AWS Systems
Manager

AmazonDetective

AWS
ConfigAWS
TrustedAdvisor

Amazon Q

AWS
ShieldAdvanceAWS IAM
Identity
CenterAWSWAF

AWS IAM
AccessAnalyzerAWS WellArchitected
Tool

Amazon Cide
Guru Security

Amazon Q
developers

AWS
Verified
AccessAWS
Network
FirewallAWS Audit
ManagerAWS Audit
ManagerAWS Artifact

AmazonVPCAWS
Certificate
Manager

AWS
PrivateLink

AmazonS3 オブジェクト
ロックAWS
Backup30

4 つの基本的な AWS セキュリティサービス
⽣成AIのための多層防御の基盤はどこから始めるべきか

脅威検知

インシデント
レスポンス
AWS Security Hub

Amazon GuardDuty

ネットワークとアプリケーション保護データ保護AWS KeyManagement
Service (AWS KMS)

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

AWS Shield
Advance31

基盤モデルの意図しない振る舞いに対するセーフガード
AMAZON BEDROCK GURDRAILS• Amazon Bedrock Guardrails を使⽤すると、責任ある AI ポリシーに基づいて有害コンテンツフィルタリングを簡単に設定可能。

• 拒否されたトピック、コンテンツフィルター、
Amazon Bedrock
Guardrails

ワードフィルター、および プライバシーを保護するための機密情報（PII）のマスキングなどの、ポリシーを設定可能。

• ガードレールを任意の 基盤モデルまたはエージェントに適⽤可能© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

32

Amazon Bedrock Guardrailsの仕組み
FM 推論

ガードレール
責任ある AI ポリシー

拒否されたトピック© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

コンテンツ
フィルター

PII
リダクション
近⽇公開

ワード
フィルター

近⽇公開

AWS に組み込まれている⾃動推論の例
保証と確実性を数学的に証明するユニバーサルステートメント

IAM
Access Analyzer

Amazon S3

意図しない
S3 バケットへの外部アクセスを防ぎたい

S3 バケットはパブリックにアクセス不可にしたい
Amazon Inspector

EC2インスタンスは常に意図せずに公開されないようにしたい© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon VPC
Network AccessAnalyzer

インスタンスへのSSHトラフィックはすべてファイアウォールを通過させたいAgenda1. 発⾒的統制と対応するAWSサービスの概要
2. 機械学習を⽤いた発⾒的統制のベストプラクティス
3. 進化するビジネス要件 – ⽣成AIにおけるセキュリティ
4. まとめ© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

35

オンプレミスでは…

開発や運⽤の俊敏性/利便性© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

OR

セキュリティの確保

36

クラウドでは…

開発や運⽤の俊敏性/利便性© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

AND

セキュリティの確保

37

責任共有モデル© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

継続的監査 可視性を⾼める
評価
計画

プロセス
改善

AWS は年中無休で監査中
レポーティング

検討

証拠収集© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

優れたセキュリティ実現に不可⽋なAWS が備える特性

⾼い可視性の確保© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

柔軟かつ多様な⾃動化と機能連携

40

Thank you!
Yoichi Takizawa
Director,
Public Sector Tech Business Unit,
Amazon Web Services Japan G.K.

© 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved.

41