2018年度
ISSスクエアシンポジウム
研究成果報告2019/2/22

システム分科会

システム分科会のテーマ
 The Internet of Thing(IoT)s

あらゆるものがインターネットにつながる（2020年までに200億～500億) ※IDC調査
車と道路にIoT

荷物にIoT
交通輸送
買い物カートにIoT
医療

商業施設

コンタクトレンズにIoT
宿泊施設

民泊にIoT

キーワード：IoTの脅威検証2今年度の取り組み
パーソナルデバイス

公共施設

2015

ドローン
フリーAP

2016

NWカメラ
ダークホテル

2017

ＭＥＭＳ
スマートロック

スマートホーム

2018

2019

複合的脅威シナリオに基づく各脅威要素の実現性検証
キーデバイス：「スマートスピーカー」

選定理由

GoogleHome

Amazon
Echo

LINE
CLOVA

 普及し始めたばかりで未成熟な分野
 新しいUIゆえに想定されていない脅威が存在

3

脅威シナリオ
スマートスピーカーを介したホーム内への攻撃① ホーム内への攻撃② スマートスピーカーの不正操作②−1 キャスト
②−2 スキル①−1 攻撃音声（音声コマンド）

他の音声認識デバイス①−2 音波MEMS（加速度センサ）
4

脅威要素①
ホーム内への攻撃
5

①-1 ホーム内への攻撃：攻撃音声
 攻撃音声とは人には認識できないが、スマートスピーカーには認識できるように音声コマンドを埋め込んだ音声

 攻撃音声（音声コマンド）の作成検証
手法１）超音波に埋め込む
手法２）他の音声にノイズとして埋め込む①攻撃音声再生②音声コマンドに従い、アクションを実行

6

①-1 ホーム内への攻撃：攻撃音声
 攻撃音声とは人には認識できないが、スマートスピーカーには認識できるように音声コマンドを埋め込んだ音声

 攻撃音声（音声コマンド）の作成検証
手法１）超音波に埋め込む
手法２）他の音声にノイズとして埋め込む①攻撃音声再生②音声コマンドに従い、アクションを実行

7

①-2 ホーム内への攻撃：MEMSへの音波攻撃
 MEMS加速度センサーとは

 バネの変動から加速度を測定する微細なデバイス
3mm

3mm

ADXL337Z

 スマートフォンやゲーム端末、医療機器などに搭載

 共振を利用したセンサーの誤動作検証

昨年度：センサー出力値を変動させることに成功
今年度：センサー出力値を安定的に任意の方向に変動させることに成功
8

①-2 ホーム内への攻撃：デモ 音波ハッキング

共振周波数＝297.13Hz

スピーカー
MEMS
加速度センサー（ADXL337）

 1つの軸の出力値をほぼ一定に変化させることができた

 変化の方向は位相で調整

9

脅威要素②
スマートスピーカーの不正操作
10

②-1 スマートスピーカー不正操作：キャスト
 キャストとは 映像・音楽を対応デバイス上で再生させる機能

Google Cast (Chromecast)

Alexa Cast キャストを利用した操作検証

 Google Homeに任意の音声を再生させることに成功

端末特定が容易
認証がないLAN内へ侵入できれば簡単に操作できる
https://www.google.com/intl/en_us/chromecast/built-in/
https://www.amazon.co.jp/b?node=5921301051

11②-2 スマートスピーカー不正操作：スキル
 スキル（アクション）とは 音声アシスタントの追加拡張機能（≒アプリ）
 サードパーティサービス連携など

 カスタムスキルを利用した操作検証

 Google Homeに任意の音声を再生させることに成功 MEMSのセンサー出力値を乱すことにも成功①攻撃音声ファイル再生
スキルを作成、セット②コマンドワード発声③攻撃音再生波形を乱すことに成功

12

脅威シナリオデモ13

キャストによる攻撃デモ

14

デモ補足
 多様な攻撃ベクター

同様な操作はスキルでも可能
音波を出してセンサを狂わせることも可能

 対策提言 利用者視点 怪しいスキルは入れない ウェイクワード・デバイス名はデフォルトから変更 スマートスピーカーの近くに音声認識デバイスを置かない

 開発者視点 セキュアなスキルマーケット設計
 音声認証やそれ以外の技術を用いた発話者認証機構
 GoogleアシスタントにはあるがAmazonAlexaにはない
15

今後
16

今後のロードマップ
IoTセキュリティ脅威の検証
パーソナルデバイス

スマートホーム

2017

2018

スマートロックの脆弱性調査

スマートスピーカーの脆弱性調査

5G

2020

2019

2021

スマートホームの脅威シナリオ検証（継続予定）• 攻撃音声•トップカンファレンスに取り上げられているトピック（＝難しい）だが引き続きチャレンジ• センサー
ホームコントロールの脆弱性調査••

加速度センサー搭載製品に攻撃加速度センサーを誤作動させることによる脅威シナリオの検討

MEMSの音波ハッキング
17

APPENDIX

18

攻撃音声
19

攻撃音声に関する既存研究 超音波に音声コマンドを埋め込む方法
 Zhang, G. et al.: DolphinAttack: Inaudible Voice Commands. CCS '17 P
roceedings of the 2017 ACM SIGSAC Conference on Computer and Commu
nications Security, pp.103-117. 2017. (https://acmccs.github.io/papers/p103-zhangAemb.pdf)

 他の音声にノイズとして音声コマンドを埋め込む方法
 Carlini,N. and Wagner,D.: Audio Adversarial Examples: Targeted Attacks on Speech-to-Text, arXiv:1801.01944, 2018. (https://arxiv.org/abs/1801.01944)
 "Targeted Adversarial Examples on Speech-to-Text systems“, https://github.com/carlini/audio_adversarial_examples
 Yakura,H. and Sakuma,J.: Robust Audio Adversarial Example for a Physical Attack, arXiv:1810.11793, 2018. (https://arxiv.org/abs/1810.11793)
 Taori,R. et al.: Targeted Adversarial Examples for Black Box Audio Sys
tems, arXiv:1805.07820, 2018. (https://arxiv.org/abs/1805.07820)
 "Targeted Adversarial Examples for Black Box Audio Systems", https://github.com/rtaori/Black-Box-Audio20

MEMS21

MEMS加速度センサー
 構造

 Movable Partsが静電容量を変化させ、これをFixedPartsが読み取る
 静電容量を検出の部分で、バネと繋がっているところから誤差を出す＊１

センサーに対する音波ハッキング
 先行研究 で「音波を使ってデバイスをハッキングす＊2る方法」が発見される
センサを使った検証を、やってみた

3mm
3mm

*1 "Waging Doubt on the Integrity of MEMS Accelerometers with Acoustic Injection Attacks”,
Timothy Trippel, Ofir Weisse, Wenyuan Xu, Peter Honeyman, Kevin Fu
IEEE European Symposium on Security & Privacy, 2017.
*2 EDN Japan, いまさら聞けない加速度センサ入門
http://ednjapan.com/edn/articles/1205/16/news110.html

ADXL337Z

22

搭載製品例

23

キャスト
24

キャストの脅威事例

ハッキングされたTVに表示された画面

ハッキング画面で指示されたWebページ

 ホームルータの脆弱性（UPnPの設定不備など）を突いて、遠隔アクセスしたとみられている
 同様の攻撃はGoogle Homeでも成立する
https://gigazine.net/news/20190104-google-chromecast-hijacked-pewdiepie/25

スマートホームへの侵入経路（Wifi）

 Wifiへの不正接続からホーム内IoT機器に不正ログインされうることを検証 Wifi侵入後はデモと同様の攻撃が可能
https://internet.watch.impress.co.jp/docs/event/1093083.html

26

踏み台にされうるIoT機器の脅威

実際にtelnetログインした様子

同一メーカの製品（2019/2/20時点でベストセラー1位）

 メジャーなスマートコンセントにハードコードされたtelnet脆弱性（CVE-2018-6401）
https://garrettmiller.github.io/meross-mss110-vuln/

27

スキル
28

スキルの脆弱性に関する既存研究
 Ron Marcovich, Yuval Ron, Amichai Shulman and Tal Be’ery,“Open Sesame: Picking Locks with Cortana”,
BlackHat USA 2018, 2018
 Deepak Kumar, Riccardo Paccagnella, Paul Murley, Eric Hennenfent, Joshua Mason, Adam Bates, and Michael Bailey,“Skill Squatting Attacks on Amazon Alexa”,
27th USENIX Security Symposium (USENIX Security 18),201829