AWS IoT Core 、AWS IoT Greengrass 、Amazon SageMaker の概要

Solutions Architect
Amazon Web Services Japan.
© 2021, Amazon Web Services, Inc. or its Affiliates.

内容についての注意点•

本資料では 2021年11月29日時点のサービス内容および価格についてご説明しています。最新の情報はAWS公式ウェブサイト(http://aws.amazon.com)にてご確認ください。

•

資料作成には十分注意しておりますが、資料内の価格とAWS公式ウェブサイト記載の価格に相違があった場合、AWS公式ウェブサイトの価格を優先とさせていただきます。

•

価格は税抜表記となっています。日本居住者のお客様には別途消費税をご請求させていただきます。

•AWS does not offer binding price quotes. AWS pricing is publicly available and is subject to change inaccordance with the AWS Customer Agreement available at http://aws.amazon.com/agreement/. Any
pricing information included in this document is provided only as an estimate of usage charges forAWS services based on certain information that you have provided. Monthly charges will be based onyour actual use of AWS services, and may vary from the estimates provided.

© 2021, Amazon Web Services, Inc. or its Affiliates.

4アジェンダ⚫ AWS IoT Core 、AWS IoT Greengrass の概要⚫ Amazon SageMaker の概要© 2021, Amazon Web Services, Inc. or its Affiliates.

AWS IoT Core 、AWS IoT Greengrass の概要© 2021, Amazon Web Services, Inc. or its Affiliates.

6

IoT システムに求められる様々な要件
データの収集・分析

Report / Dashboard(故障予知・予測)

データ処理・分析
データ
収集

データ保存

デバイス
制御
リモート制御デバイス© 2021, Amazon Web Services, Inc. or its Affiliates.

活用

業務支援
システム

アラート

デバイス管理デバイス管理IoT システムに求められる様々な要件

7••

多数のデバイスからの入力を•データの収集・分析処理するスケーラビリティ•
デバイスの身元の証明

入力データを低レイテンシで処理
大量データを高スループットで処理
Report / Dashboard(故障予知・予測)

データ処理・分析
データ収集

データ保存

デバイス
制御

デバイス管理活用••

リモート制御© 2021, Amazon Web Services, Inc. or its Affiliates.

•••

数千台のデバイス状態を監視
ファームウェア更新
グループ管理

システム

アラート

••

• 多数のデバイスを同時接続•Things
低レイテンシ• オフライン対応

リアルタイムで可視化、通知
数年のデータを可視化
業務支援

過去数十年のデータを保存できるキャパシティ
データのバックアップ
デバイス管理8

IoT システムの要件は複雑かつ広範囲に及ぶ
領域
デバイス実施したいこと

システム要件の例

デバイスから取得したデータをビジネスに活用したい

•
•
•
•

予測や異常検知
可視化、検索、BI映像・画像の分析
大量データの加工処理

アプリケーションと連携させ、デバイスを制御したいデバイスの状況を把握し管理したい

•
•
•
•

デバイスの状態把握と制御デバイスからのイベントに基づく動作
アプリケーションの連携
クラウドからコマンドの送信

多数のデバイスからデータを安定的に収集し、保存したい

•
•
•
•

大量のデータを安定的に伝送
データ増加に対するスケーリング
少量高頻度の通信
データの安価で信頼性の高い保存

フィールドに置かれたデバイスをセキュアに接続したい•••デバイスとの通信要件への対応
セキュリティの確保
デバイスアプリケーションの開発

運用

運用の負荷を下げたい••

管理するレイヤの減少
デバイスのライフサイクル管理

コスト拡大する接続台数に対して費用を押さえる
コストを把握し、管理する••

利用料に基づく課金
使用量の計測構築の速さ

素早く IoT システムを構築し、マーケットに供給したい••

インフラ構築のテンプレート化
提供済みサービスの利用© 2021, Amazon Web Services, Inc. or its Affiliates.

9AWS IoT Core の機能③ AWS の他のサービスとの連携
AnalyticsAWS IoT Core

Database
ComputeRule Engine

デバイス

Device gateway
Identity ServiceRegistry⑤ デバイスのメタ情報を管理© 2021, Amazon Web Services, Inc. or its Affiliates.

Application
Integration

Message
Broker

① 認証 / 認可、大量のデバイスの接続② MQTT で双方向のメッセージング

Storage

Deviceshadow④ クラウドとデバイスの状態を同期

AWS IoT Core を使うメリット10

領域

実施したいことAWS IoT Core のメリット

デバイス

デバイスから取得したデータをビジネスに活用したい• Rule Engine で他の AWS サービスと連携アプリケーションと連携させ、デバイスを制御したいデバイスの状況を把握し管理したい• Device Shadow を使ってデバイスのステータスを確認し、コントロールする

多数のデバイスからデータを安定的に収集し、保存したい•

フィールドに置かれたデバイスをセキュアに接続したい• Identity Service, Device Gateway で
セキュアな認証・認可を提供

運用

運用の負荷を下げたい• AWS IoT Core はマネージドサービスであるため、サーバの管理といった運用が不要

コスト拡大する接続台数に対して費用を押さえるコストを把握し、管理する• AWS IoT Core は従量課金のため必要最低限の費用で済み、AWS IoTリソースタグを活用しコストを把握

構築の速さ

素早 くIoT システムを構築し、マーケットに供給したい• AWS CloudFormation によるテンプレート化や、バルクプロビジョニングを提供© 2021, Amazon Web Services, Inc. or its Affiliates.

Device Gateway, Message Broker, Rule Engine を使って大量のデバイスからデータを収集し保存する

11

IoT デバイスからデータを収集する場合の課題

物理的な
課題

Cloud
FreeRTOS

経済的な課題

AWS IoT
Greengrass

AWS IoT Device SDKs

© 2021, Amazon Web Services, Inc. or its Affiliates.

プライバシーの課題

12

IoT デバイスからデータを収集する場合の課題

物理的な課題ネットワークが常時繋がっていない

Cloud
FreeRTOS

経済的な課題

AWS IoT
Greengrass

AWS IoT Device SDKs

© 2021, Amazon Web Services, Inc. or its Affiliates.

プライバシーの課題

13

IoT デバイスからデータを収集する場合の課題

物理的な課題

大量のデータをすべてアップロードすることに関わるコスト

Cloud
FreeRTOS

経済的な課題AWS IoT
Greengrass

AWS IoT Device SDKs

© 2021, Amazon Web Services, Inc. or its Affiliates.

プライバシーの課題

14

IoT デバイスからデータを収集する場合の課題

物理的な課題CloudFreeRTOS

経済的な課題AWS IoTGreengrass

AWS IoT Device SDKs

© 2021, Amazon Web Services, Inc. or its Affiliates.

プライバシーの課題

写真のような個人情報に関わるデータなど

15

AWS IoT Greengrass

AWS Secrets Managerとの連携

ローカルでのメッセージング

ローカル
アクション

000111001100

コンテナのサポート© 2021, Amazon Web Services, Inc. or its Affiliates.

01100

1
100

1100

Stream manager

16

AWS が提供する IoT 向けサービスAWS IoT SiteWise
AWS IoT Analytics

Analytics
ServicesAWS IoT EventsAWS IoT Things GraphAWS IoT CoreAWS IoT Device Management
AWS IoT Device Defender

FreeRTOS
Connectivity& Control
ServicesIntelligenceand outcomes

DeviceSoftwareAWS IoT Device SDKAWS IoT Greengrass
AWS IoT Device Tester© 2021, Amazon Web Services, Inc. or its Affiliates.

17

AWS IoT Core 、AWS IoT Greengrass のまとめ

⚫ AWS の IoT サービスを利用することで、IoT システムやIoT デバイスの課題を解決できる⚫ AWS のマネージドサービスを利用することで、製品の価値を上げることに集中することができる© 2021, Amazon Web Services, Inc. or its Affiliates.

Amazon SageMaker の概要© 2021, Amazon Web Services, Inc. or its Affiliates.

19

機械学習の典型的なワークフロー例

開発学習

デプロイ・管理• モデルを学習させるために必要なデータやアルゴリズムを準備する• モデルを学習させる• モデルを本番環境にデプロイし管理、運用していく© 2021, Amazon Web Services, Inc. or its Affiliates.

20

機械学習の典型的なワークフロー例

開発

学習

デプロイ・管理• データの収集、統合• ハイパーパラメータのチューニング

• 本番環境へのデプロイ• アノテーション• データ分析、可視化、前処理• モデルの学習、評価• 需要に応じたスケーリング• 継続的な再学習• 特徴量エンジニアリング• モデルの監視• アルゴリズムの選定、開発• データやモデルの変更をテストしリリース© 2021, Amazon Web Services, Inc. or its Affiliates.

行ったり来たりする反復的なワークフロー

21

Amazon SageMaker : 機械学習のワークフローの課題を解決
Amazon SageMaker Studio

開発

学習

デプロイ・管理

SageMaker Notebooks

Managed Training

Managed deployment

SageMaker Ground Truth

Automatic Model Tuning

ハイパーパラメータの自動チューニング

SageMaker Pipelines

マネージドな機械学習 CI/CD サービス

SageMaker Data Wrangler

SageMaker Experiments

SageMaker Model Registry

SageMaker JumpStart

Distributed Training

SageMaker Model Monitor

SageMaker Autopilot

SageMaker Debugger

SageMaker Edge Manager

共有可能なノートブック

大規模なデータに簡単にラベル付け

機械学習のためにデータを簡単に準備

機械学習を簡単かつ迅速に利用開始
可視性とコントロールを備えた自動モデル作成

Built-in and bring-yourown algorithms

数十のビルトインアルゴリズムまたは独自アルゴリズムを利用© 2021, Amazon Web Services, Inc. or its Affiliates.

マネージドな学習

実験を管理、追跡、比較

大規模データでの分散学習

学習ジョブのデバッグとプロファイリング

Managed Spot Training
コスト削減

マネージドなデプロイ

機械学習モデルの管理

データドリフトを検知

エッジデバイスでのモデルを管理、監視※ その他にも多くの機能を有しています。

22

機械学習を開始する最初のハードル⚫ スタートするまでに時間がかかる⚫ クラウドインフラストラクチャの知識が必要⚫ ML モデルの構築、トレーニング、デプロイに関連する複数のステップを要する© 2021, Amazon Web Services, Inc. or its Affiliates.

23

Amazon SageMaker : 機械学習のワークフローの課題を解決
Amazon SageMaker Studio開発

学習

デプロイ・管理

SageMaker Notebooks

Managed Training

Managed deployment

SageMaker Ground Truth

Automatic Model Tuning

ハイパーパラメータの自動チューニング

SageMaker Pipelines

マネージドな機械学習 CI/CD サービス

SageMaker Data Wrangler

SageMaker Experiments

SageMaker Model Registry

SageMaker JumpStart

Distributed Training

SageMaker Model MonitorSageMaker Autopilot

SageMaker Debugger

SageMaker Edge Manager

共有可能なノートブック

大規模なデータに簡単にラベル付け

機械学習のためにデータを簡単に準備

機械学習を簡単かつ迅速に利用開始
可視性とコントロールを備えた自動モデル
作成

Built-in and bring-yourown algorithms

数十のビルトインアルゴリズムまたは独自アルゴリズムを利用© 2021, Amazon Web Services, Inc. or its Affiliates.

マネージドな学習

実験を管理、追跡、比較

大規模データでの分散学習

学習ジョブのデバッグとプロファイリング

Managed Spot Training
コスト削減

マネージドなデプロイ

機械学習モデルの管理

データドリフトを検知

エッジデバイスでのモデルを管理、監視※ その他にも多くの機能を有しています。

24

Amazon SageMaker Studio
機械学習のための統合開発環境 (IDE)

コードの依存関係を追跡することなくノートブックを共有

何千もの実験を整理、追跡、比較© 2021, Amazon Web Services, Inc. or its Affiliates.

コードを記述せずに、完全な可視性と制御を備えた正確なモデルを取得

エラーを自動的にデバッグし、モデルを監視し、高品質を維持

統合されたビジュアル
インターフェイスでのコーディング、構築、トレーニング、展開、および監視

25

Amazon SageMaker Studio のイメージ
Amazon SageMaker の各機能を一箇所から呼び出して利用できるウェブ
ベースの視覚的な統合開発環境© 2021, Amazon Web Services, Inc. or its Affiliates.

26

Amazon SageMaker Notebooks
共有可能なノートブックのファストスタート

数秒でノートブックにアクセス© 2021, Amazon Web Services, Inc. or its Affiliates.

管理者はアクセスと権限を管理

スピンアップせずにノートブックを起動

シングルクリックでノートブックを共有

27

Amazon SageMaker Notebooks の環境選択© 2021, Amazon Web Services, Inc. or its Affiliates.

28

Amazon SageMaker JumpStart
機械学習を簡単かつ迅速にスタート

15 以上の一般的なML ユースケースの構築済みソリューション

150 を超えるオープンソースモデルのデプロイ時間を短縮

すぐに使用できるソリューションを活用、または特定のビジネス上の問題に合わせてカスタマイズ可能

人気のある ML モデルとアルゴリズムをワンクリックでデプロイ可能© 2021, Amazon Web Services, Inc. or its Affiliates.

数クリックで利用可能

事前に構築されたソリューション、
ML モデルとアルゴリズムを使用し機械学習を簡単かつ迅速にスタート可能

29

Amazon SageMaker JumpStart でできること

開発

学習

デプロイ・管理• データの収集、統合• ハイパーパラメータのチューニング

• 本番環境へのデプロイ• アノテーション• データ分析、可視化、前処理• モデルの学習、評価• 需要に応じたスケーリング• 継続的な再学習• 特徴量エンジニアリング• モデルの監視• アルゴリズムの選定、開発• データやモデルの変更をテストしリリース© 2021, Amazon Web Services, Inc. or its Affiliates.

行ったり来たりする反復的なワークフロー

30

ビルトインソリューションを JumpStart から簡単にデプロイ
15 以上の一般的な ML ユースケースのソリューションを提供

金融取引からの不正検知

与信判断とその説明

センサデータからの予知保全

多変量時系列データからの需要予測

分散強化学習

手書き
文字認識

ゲーム向け
不正なユーザやトランザクション 強化学習の検知

購買
モデリング

車両フリートの予知保全

製品画像からの欠陥検知

オンライン
広告の名寄せ差分プライバシを用いたテキスト処理ドキュメント理解

チャーン予測テーブル
データの欠損値補完

よくあるユースケースについては AWS CloudFormation テンプレート、リファレンスアーキテクチャなどが提供されている© 2021, Amazon Web Services, Inc. or its Affiliates.

31

Amazon SageMaker JumpStart で使える OSS モデル
PyTorch Hub と TensorFlow Hub の 150 以上の事前学習済みオープンソースモデル
タスク

画像処理

言語処理

© 2021, Amazon Web Services, Inc. or its Affiliates.

モデル

32

OSS モデルを Amazon SageMaker JumpStart から簡単にデプロイ
言語処理モデル

画像処理モデル© 2021, Amazon Web Services, Inc. or its Affiliates.

33

Amazon SageMaker JumpStart からワンクリックでモデルデプロイ© 2021, Amazon Web Services, Inc. or its Affiliates.

34

自前のデータで転移学習（ファインチューニング）が可能© 2021, Amazon Web Services, Inc. or its Affiliates.

35

事前に提供されたノートブックですぐにプロジェクトをスタート© 2021, Amazon Web Services, Inc. or its Affiliates.

36

AWS が提供する機械学習スタック
機械学習の機能において最も広範囲に深いセットを提供

AI サービス

HEALTH AI

AmazonHealthLake

INDUSTRIAL AI

AmazonAmazonTranscribe Comprehendfor Medical for Medical

VISIONSPEECH

AmazonRekognitionAmazon Amazon
Transcribe
Polly

AWS Panorama+ ApplianceAmazonMonitron

TEXT

AmazonAmazon
Comprehend Translate+MedicalAmazon
Textract

CODE AND DEVOPSANOMALY DETECTION

Amazon Lookout
for Equipment

Amazon Lookout
for Metrics

Amazon Lookout
for Vision

SEARCHCHATBOTSPERSONALIZATIONFORECASTING

FRAUD

AmazonKendraAmazonLex

AmazonPersonalize

AmazonForecast

AmazonFraud
Detector+MedicalAmazonCodeGuru

AmazonDevOps Guru

CONTACT CENTERS

Contact Lens,
Voice IDFor Amazon Connect

ML サービス
SAGEMAKER STUDIO IDE
AmazonSageMaker

Label
data

Aggregate &prepare data

Store &sharefeatures

Auto ML

Spark/R

Detectbias

Visualize innotebooksPickalgorithm

TrainmodelsTuneparameters

Debug&profile

Deploy inproduction

Manage&monitor

AWS
Trainium

Inferentia

CI/CD

Humanreview

SageMaker JumpStart
Model management for edge devices

フレームワークとインフラストラクチャ

DeepGraphLibrary© 2021, Amazon Web Services, Inc. or its Affiliates.

Deeplearning
AMIs &containers

GPUs &CPUs

Elastic
Inference

FPGA

37

Amazon SageMaker のまとめ

⚫ Amazon SageMaker は機械学習のワークフローの課題を解決し、ワークフロー全体を効率化するサービス⚫ Amazon SageMaker JumpStart でソリューションやオープンソースモデルを活用し、今すぐに機械学習プロジェクトをスタートできる© 2021, Amazon Web Services, Inc. or its Affiliates.

参考資料© 2021, Amazon Web Services, Inc. or its Affiliates.

AWS IoT 関連サービス© 2021, Amazon Web Services, Inc. or its Affiliates.

40

AWS IoT 開発者ポータル• イベント• コンテンツ• ブログの情報が随時反映されています© 2021, Amazon Web Services, Inc. or its Affiliates.

https://aws.amazon.com/jp/local/iot/

41

AWS Black Belt Online Seminarより詳しく AWS IoT 関連サービスを学びたい場合は、Black Belt Online
Seminar の動画やスライドをご覧ください。
• AWS IoT Core•

https://aws.amazon.com/jp/blogs/news/webinar-bb-aws-iot-core-2020/•

https://aws.amazon.com/jp/blogs/news/webinar-bb-aws-iot-greengrass-2020/•

https://www.youtube.com/watch?v=IePnxlX1MbA•

https://aws.amazon.com/jp/blogs/news/webinar-bb-aws-iot-events-2020/•

https://aws.amazon.com/jp/blogs/news/webinar-bb-freertos-2020/• AWS IoT Greengrass(v1)• AWS IoT Analytics• AWS IoT Events• FreeRTOS© 2021, Amazon Web Services, Inc. or its Affiliates.

42

AWS IoT 関連サービスのハンズオン

https://aws.amazon.com/jp/blogs/news/tag/iot-workshop/© 2021, Amazon Web Services, Inc. or its Affiliates.

43

IoT@Loft

https://aws.amazon.com/jp/start-ups/loft/tokyo/iot-loft/© 2021, Amazon Web Services, Inc. or its Affiliates.

https://iot-loft.connpass.com/

AWS 機械学習 関連サービス© 2021, Amazon Web Services, Inc. or its Affiliates.

45

Machine Learning on AWS© 2021, Amazon Web Services, Inc. or its Affiliates.

https://aws.amazon.com/jp/machine-learning/

46

Amazon SageMaker•

Amazon SageMaker••

Amazon SageMaker Studio••

https://aws.amazon.com/jp/sagemaker/studio/

Amazon SageMaker Notebooks••

https://aws.amazon.com/jp/sagemaker/

https://docs.aws.amazon.com/ja_jp/sagemaker/latest/dg/notebooks.html

Amazon SageMaker JumpStart•

https://docs.aws.amazon.com/ja_jp/sagemaker/latest/dg/studio-jumpstart.html© 2021, Amazon Web Services, Inc. or its Affiliates.

47AI サービス

© 2021, Amazon Web Services, Inc. or its Affiliates.

https://aws.amazon.com/jp/machine-learning/ai-services/48

AWS Black Belt Online Seminarより詳しく AWS 機械学習 関連サービスを学びたい場合は、Black Belt
Online Seminar の動画やスライドをご覧ください。

• Amazon SageMaker• Amazon Personalize• Amazon Forecast• Amazon CodeGuru• AWS AI Language Servicesなど

https://aws.amazon.com/jp/aws-jp-introduction/aws-jp-webinar-service-cut/© 2021, Amazon Web Services, Inc. or its Affiliates.

49

AWS 機械学習 関連サービスのハンズオン

AWS 初心者向けハンズオン• AWS Managed AI/ML サービス はじめの一歩• サーバーレスアーキテクチャで翻訳 Web API を構築する• AWS Lambda と AWS AI Services を組み合わせて作る音声文字

起こし & 感情分析パイプライン

https://aws.amazon.com/jp/aws-jp-introduction/aws-jp-webinar-hands-on/

AI/ML Workshops• SageMaker Immersion Day• Rekognition Immersion Day• Personalization on AWS Immersion Dayなど© 2021, Amazon Web Services, Inc. or its Affiliates.

https://workshops.aws/categories/AI%2FML