20182141
2017-3000

AI/IoT 社会を守る電磁波セキュリティの開拓（継続）
研究代表者

衣川昌宏

共同研究者

林 優一

福知山公立大学
情報学部 准教授
奈良先端科学技術大学院大学 先端科学技術研究科
情報科学領域 教授

1 はじめに

AI/IoT機器
ソフトウェア

インフラとして社会へ浸透した情報通信基盤は、あユーザプログラム
下位層が上位層に信頼性を提供
らゆる物の情報を双方向に接続し、相互に接続されたし、システム全体での動作を保証
それら機器から提供される情報（ビッグデータ）を作
カーネル
り出し、個人から社会に及ぶ広範なデータ駆動型社会
不正回路・電磁波照射攻撃で、ハイパーバイザを構築している。また、この情報基盤を用いることにシステムに害を与える動作誘発
より、これまでより効率的な情報活用および、過去のファームウェアデータとの比較や類似性の自動判断による災害等による被害の推定や、それを用いた災害対策が進められてハードウェア
ハードの情報セキュリテ ィ低下は、いる。また、情報の末端利用者である個人に関しても、ソフトでの対策を無効化する
ユーザ毎に最適化された情報提供を実現するためにAI および IoT を活用した情報システムによる社会実現
攻撃者によるが進められている。
情報操作
前述のシステム上で扱われるデータは個人情報から実世界
環境データ、経済、行政等から構成される様々なセキ事故ュリティレベルを有しており、データに応じた適切な誤った出力発生保護がなされた流通が求められる。また、データのセキュリティだけでなく、実世界への作用も AI/IoT シス
テムの特徴である。例えば AI/IoT システムに不具合が
図 1 AI/IoT 機器・システムのモジュール構造化生じた場合の被害は、自動車の自動運転や空調制御なによるトラストチェーンおよびその安全性の基ど人命に関わるレベルのものから、スマートフォンの盤となるハードウェアセキュリティディスプレイを介した人間への行動指示など、軽微なものから重大なものに至る幅広いものであるが、これらは被害の程度にかかわらず単に AI/IoT システムの不具合であり、システムを構成する図 1 に示す各層全てがその原因となる恐れがある。
情報と人間および社会の調和による Society 5.0[1]を実現するための基盤である AI/IoT 社会システムには、情報通信機器が社会や身の回りに普遍的に溶け込んでいる環境を実現するだけでなく、水や空気と同様に安全性も求められる。AI/IoT 機器の安全性については図 1 の各層間の信頼によるトラストチェーンにより担保されており、ハードウェアを最下位層の基礎とした積み上げ式のモジュール構造となっている。このモジュール構造化により、応用機器やサービスの開発時には既存の機能モジュールを組み合わせることで短期間かつ容易に機能を実装できる。しかしその反面、機能ブロックに脆弱性が含まれている場合、例え設計者が考案したアルゴリズムや構造に欠陥がなくとも脆弱性を有することとなる[2, 3]。これら機能モジュールに不具合やセキュリティの脆弱性が発見された場合、ソフトウェアは Firmware Over-the-Air (FOTA)を用いて人手を介せず無線ネットワーク経由で対策プログラムの適用が可能である。一方、ハードウェアの場合はField Programmable Gate Array (FPGA)等の再構成可能集積回路（IC）を除いて、プリント配線基板上や機器筐体内部の配線、またセンサ類のハードウェア構造の改修は、AI/IoT 機器の総数が多量であることに加え、工場出荷後の物理的設置場所の特定の困難さ、改修に必要な工数・人件費を考慮すると現実的ではない。
ハードウェアは情報セキュリティの根底であり、現在運用されている情報システムの情報セキュリティはハードウェアの信頼性に依存した構造となっている。このハードウェアの信頼性確保は、パーソナルコンピ
ュータ（PC）アーキティクチャベースのサーバコンピュータや、情報通信網を構成するルータやスイッチ等の回線交換機の場合、ハードウェアの故障に対して予備のハードウェアを準備することによる可用性対策とハードウェア1

20182141
2017-3000

図2

図3

IC へハードウェアトロージャンが実装されるタイミング

IC 周辺回路へハードウェアトロージャンが実装されるタイミングして実施されている。機密性や完全性の確保に関しては、機器仕様として設計・製作時に考慮されており、機器出荷後の機密性・完全性の低下防止はハードウェアの改変困難さを根拠とした信頼性に依存している。
しかしながら、この機密性や完全性を低下させる原因の一つとして、ハードウェアを構成する IC 製造時に組み込まれる不正回路の存在が指摘されており[2, 4-7]、実際にそれが原因となった機器の不具合も報告されている[4]。この不正回路はハードウェアトロージャン (Hardware Trojan) と呼ばれ、図 2 に示す IC の製造工程で組み込まれる可能性があることが報告されている[2, 4-8]。そのハードウェアトロージャンは IC 設計者や IC の利用者に発見されず、IC の特定の動作をトリガとして動作し、攻撃者が意図した異常動作や破壊等システムのセキュリティを低下させる動作を発生させる。IC のハードウェアトロージャンの混入は IC の製造工程の都合上、設計から工場での生産期間で発生する(図 2)。そのため IC のエンドユーザが真正性を確認する方法が必要となっている[8]。しかしながら、この不正回路「ハードウェアトロージャン」の問題の特性上、問題は IC だけに限定されず、IC 周辺の回路も同様に不正改変を受ける恐れがある。
IC 周辺回路、すなわちプリント配線基板や AI/IoT 機器筐体内の回路自体は IC に比較して、図 3 に示すように不正改変を受けるタイミングが長期間にわたり、攻撃者にとって攻撃難易度が低くなっている。特にAI/IoT 機器は実空間に組み込まれて使用されるため、機器設置後の機器動作の正常性確認は機器からアップロードされるデータが正常であるか、もしくは音声やアクチュエータ等の出力が正常であるか程度の確認にとどまる。そのため、AI/IoT 機器使用中に機器を構成する回路に不正回路が埋め込まれたとしても、異常動作が生じるまで攻撃が発覚しにくい。実際、サーバハードウェアのプリント配線基板上に不正な回路が実装される攻撃が報道されており[9]、この IC 周辺回路の部品レベルでのハードウェアトロージャン問題は既に現実問題となっている。
そこで、本研究ではこれらハードウェアトロージャン問題のうち、AI/IoT 機器を構成する IC 周辺回路への攻撃について、特に攻撃の痕跡が残りにくい電磁波照射を併用した攻撃について、その攻撃の原理解明および対策手法の開発を、2018 年度から 2019 年度末の期間で以下の 6 項目に関して行った。
a)
電子回路基板の回路改変が行われる可能性の調査
b)
回路改変と電磁波攻撃の併用攻撃が情報セキュリティへ与える影響の評価
c)
回路改変を必要としない電磁波照射による情報漏えい現象の発見と原理解明

220182141
2017-3000d)e)f)

製造後の AI/IoT 機器への回路改変と電磁波攻撃の基礎的対策技術の開発
AI/IoT 機器実機における情報漏えいの実現性評価
出荷状態の AI/IoT 機器からの情報漏えいメカニズム解明

2 電子回路基板の回路改変が行われる可能性の調査
2-1 AI/IoT 機器の内部構造調査
AI/IoT 機器に対する回路改変攻撃について、実際の AI/IoT 機器の構造を解析することにより、攻撃の難易度を調査し、本攻撃手法が図 3 に示す攻撃可能な期間に発生する可能性を調査した。
スマートスピーカなどに代表される AI/IoT 機器を分解調査した結果、現在の AI/IoT 機器はインターネット上のサーバでの情報処理能力に強く依存しており、AI/IoT 機器自体が有する機能をセンサやアクチュエータの操作に絞り込むことによる AI/IoT 機器の低コスト化や、それら限定された機能の内蔵機器を応用したサービスプラットフォームの提供に徹していることが判明した。この結果は、AI/IoT サービスの開発コストはソフトウェア重視となっていることを示しており、AI/IoT 機器自体のハードウェアは汎用部品が中心となったアーキティクチャで内部構造も予想しやすい。
さらに、汎用部品を使用するため、セキュリティが考慮されていない回路内通信プロトコルが用いられており、機器内部の信号に干渉することにより容易に情報
図 4 スマートスピーカ内部に実装されたハー窃盗や意図的な誤動作・誤作動を発生可能であること
ドウェアトロージャン（丸囲み内の素子）も明らかとなった。
実際にスマートスピーカへ不正回路を実装した例を
図 4 に示す。回路改変に電磁波照射を併用する攻撃では、機器内部の情報を外部へ漏えいさせる際にインタMI
r. IE
w
Tx. Ant.
P
Tapped Sig.
ーネット接続等の通信チャネルを必要とせず、機器にLow照射された電磁波をそのまま変調することにより、機器外部へ無線通信により情報を漏えいすることが可能である。そのため、インターネットや Bluetooth 等へのデータ送出に必要なプロトコルスタックのハードウ
Refl
Rx. Ant.
(Info ected Sェア実装が不要となり、電磁波を変調する機構が実装
Target Circuit. Lea ig.
Receiverkage
されるだけで攻撃が成立する。電磁波を変調する機構)
は単純な高周波信号のミキサ回路で実装可能であり、AI/IoT 機器内部の IC 間通信信号であれば 1 つの FET
図 5 機器内に実装されたハードウェアトロージで、その通信信号を漏えいさせるハードウェアトロー
ャンと電磁波照射を併用した情報窃盗の原理ジャンを実装可能である。図 4 はスマートスピーカを操作する際に生じる入力情報をタッピングし、さらに機器のプリント配線基板をそのままアンテナとして用いることにより情報漏えいを生じさせている例である。図 4 に示したハードウェアトロージャンの動作概要を図 5 に示す。ハードウェアトロージャンはタッピングした信号と照射された電磁波を混合（乗算）することにより振幅変調信号を生成し、プリント配線基板自体をアンテナとして利用することで攻撃者へタッピングした信号を送信している。攻撃者は受信した信号を振幅復調することにより、機器内部のデータを取得することが可能である。このように、1 つの部品を既存回路に挿入するだけで攻撃準備が完了し、実際の攻撃は遠隔から任意のタイミングで電磁波を照射するだけで可能となる。
本調査の結果、AI/IoT 機器のセンサやアクチュエータ等の入出力機能および機器を構成する IC 間の通信
信号は、機器機能の実装に要するコストを抑えると共に、機能のモジュール化に伴った共通の IC 間通信プロ

3

20182141
2017-3000

トコルを用いていることから、それら信号をハードウェアトロージャンでタッピングすることにより容易に機器の情報処理へ介入可能であることが明らかとなった。さらに、その実装は 1 つの FET を実装するだけで完了することから、図 3 に示した攻撃可能なタイミングで十分実装可能であることが示された。

3 電磁波攻撃が情報セキュリティへ与える影響の評価
2 章の調査結果から、AI/IoT 機器構造を単純化したモデルを用いた電磁波照射併用型の回路改変攻撃について検討を進めた。また、本調査の途上で回路改変不要の電磁波照射による情報窃盗の可能性を発見し、その原理および情報窃盗の可能性についても検討を進めた。
3-1 回路改変と電磁波攻撃の併用攻撃が情報セキュリティへ与える影響の評価
本節では AI/IoT 機器を単純化したモデルを作成し、回路改変と電磁波照射による情報漏えいの定量的評価につながる評価手法の検討を進めた。AI/IoT 機器内部での攻撃対象となる信号を IC 間通信プロトコルとして、その信号電圧および周波数における漏えい信号の評価システムを構築した。単純化モデルを図 6 に、評価システムを図 7、測定結果を図 8 に示す。

FR-4 プリント配線基板
50Ω ハードウェア
終端 トロージャン

MSL(Zo=50Ω)

単純化モデル
信号
入力

20kΩ

70 cm

送信アンテナ

1m2m

電力増幅器

木製机

フェライト
ビーズ

図7

信号発生器

受信器

SDR: Ettus Research USRP X310 + TwinRX
Signal Generator: Keysight N5181B
Power Amplifier: R&K A000110-4040-R
Trans./Recv. Antenna: Maspro U146

5.1kΩ
グラウンドスルーホール

送信機

受信アンテナSoftware-Defined Radio (SDR)
帯域フィルタおよび振幅復調

評価システムおよびその配置

図 6 機器とハードウェアト
ロージャンの単純化モデル

電圧 (V)

疑似内部信号

受信スペクトルタッピングされるオリジナル信号

420

振幅復調後の時間波形

5電力 (dB)

送信電力0-550-550-5024
時間 (µs)68周波数 (MHz)図 8 評価結果（オリジナル信号形状復元の忠実度評価および、情報を含むスペクトル強度による漏えい有無の評価）

上記評価結果から、AI/IoT 機器に実装されたハードウェアトロージャンは、照射信号強度に比例した強度の漏えい信号を発生させ、外部へ漏えいさせることが明らかとなった。この結果は、攻撃者が漏えい信号強420182141
2017-3000

度を任意に操作可能であることを示しており、従来の情報通信機器に関する電磁波を通じた情報漏えい問題である TEMPEST に比較し、より遠方から情報窃盗が可能になるだけで無く、攻撃者が攻撃対象機器に近接している場合は、攻撃を察知されない程度の微弱な電磁波照射で攻撃が可能であることが分かる。また、それと同時に攻撃タイミングも制御可能であることから、従来の TEMPEST と比較して脅威の度合いが高いことが示された。
マイコンボード(Cypress CY8CKIT-059)

信号線送信機

送信アンテナ

4m
信号発生器

70 cm

電力増幅器

図9

ハイパスフィルタ

電池

木製机

受信器
増幅器

単純化モデル

受信アンテナAI/IoT 機器の単純化モデルを用いた回路改変無しターゲットに対する情報漏えい評価システム

図 10 単純化モデルへの電磁波照射により観測された漏えい信号および照射強度に対する漏えい強度の変化
3-2 回路改変を必要としない電磁波照射による情報漏えい現象の発見と原理解明
図 5 に示した FET から構成されるハードウェアトロージャン構造は、AI/IoT 機器に用いられるマイクロコントローラ（マイコン） 内部に、マイコンの信号 出力端子として存在する 。この構造はマイコンのGeneral-purpose input/output（GPIO）として、汎用マイコンの標準的機能として実装されており、2 章で述べた IC 間通信の信号送信および受信にも用いられている。この GPIO はデータシート上では数十 MHz 程度の動作速度であると記載されているが、マイコンを構成する半導体プロセスの高速化などにより通常のComplementary metal–oxide–semiconductor（CMOS）構造であっても、GHz オーダの信号に対しての応答が可能な特性を示している。これはデータシートには記載されておらず、またマイコン設計者の意図した使用方法ではない。
本現象は、AI/IoT 機器からの電磁波照射による情報窃盗には回路改変が不要であることを示している。攻撃者は情報窃盗のターゲットである信号線に効率よく電磁波を注入可能な周波数を探すことで、遠方からその周波数を照射することで機器内部情報を取得可能となる。この周波数は、同じ設計の機器であれば配線の長さが同じであることから、機器を事前に入手可能であれば容易に事前調査可能である。また、多少周波数520182141
2017-3000が異なったとしても、攻撃時に周波数をスキャンすることにより目的の信号を得ることが可能である。
本問題の検討を進めるため、図 9 に示す単純化モデルを用いて、実際に AI/IoT 機器で用いられているマイコンから電磁波照射による情報漏えい発生について評価を行った。単純化モデルの構造は、1 つのマイコンとその GPIO に接続された配線からなるプリント配線基板とした。
図 10 に本モデルからの漏えい信号を示す。
観測の結果、回路改変を有する攻撃と同様に照射電力に比例した漏えい信号が観測された。これは、IC が潜在的に有する脆弱性として考えられ、本実験で用いたマイコン以外の IC に関しても評価の実施が必要である。本現象については研究期間の後半に発見されたため、現象観測にとどまっている。継続課題では本現象の発生メカニズムを解明すると共に、対策手法を IC および IC 周辺回路の構造の両面で検討を進める予定である。

4 製造後の AI/IoT 機器への回路改変と電磁波攻撃の基礎的対策技術の開発
本セキュリティ問題に対する基礎的試験手法を開発することで対策技術につなげた。これまでの電磁波による情報漏えい試験方法は、旧来の TEMPEST を基本としており、環境電磁工学における不要電磁放射測定の延長上であった。そこで、本問題の特徴である電磁波照射時のみに生ずる現象を観測するため、電磁照射と電磁漏えいを同時に測定可能な測定系を提案した。本課題の継続課題では、本測定システムの検査高精度化を行うため、照射電磁波と漏えい電磁波の分離技術、試験対象物による製造ばらつきを考慮した統計的判断手法について検討を進めた。
さらに上記問題に共通する事項は、環境電磁工学における意図的電磁照射と不要電磁放射の問題および現象である。そこで、IEEE EMC Society の TC 5 High Power Electromagnetic において、共同研究者の林がSubcommittee として EM Leakage 問題の一つとして Low-power IEMI（低電力意図的電磁照射）問題を示し、それによる情報漏えいや意図的な情報操作などについての議論の場を構築した。
これら成果に至る途上で、表 1 に示す機器に対する試験を実施した。これら機器内部では表 1 に示す信号により、機器内部および外部での情報伝達を実現している。これら信号特性をまとめると図 11 に示す電圧・周波数特性の分布となる。この信号に対する HT には、図 12 の特性を持つ HEMT（高電子移動度トランジスタ）を適用可能である。

表1

図 11

製造後の電子機器および AI/IoT 機器および、それら機器内部信号の特徴

機器内部信号の電圧・周波数分布

図 126HEMT ATF-54143 の電気的特性

20182141
2017-3000

AI/IoT 機器実機への攻撃例として、スマートスピーカが有するマイクロフォンで集音した音声情報の情報窃盗について取り上げる。スマートスピーカは、ウェイクワードと呼ばれる音声認識を開始するための定型語句の発声を検出するため、利用者がスマートスピーカへ命令語句を発していない間でも常時音声認識を行っている。そのため、スマートスピーカに備えられたマイクロフォンは設置された空間の音声を電気信号として常時デジタイズしている。本攻撃では、スマートスピーカで用いられているディジタルマイクロフォンから送信されるパルス密度変調（PDM）信号を分岐させ、HT により電磁波による機密性低下をもたらすセキュリティホールを攻撃者視点で実装した。実装された HT を図 13 に示す。HT は機器の上部 PCB とメイン PCBを接続するフレキシブル基板上に実装されている。実装に用いられた部品は 5 点であるが、主機能を実現する HEMT（ATF-54143）以外は 0.6 mm×0.3 mm と小さく、改変されたことに気がつきにくい。

図 13

スマートスピーカへの回路改変攻撃例

このスマートスピーカに対して図 7 の評価システムを用い、漏えいした音声の忠実度を評価した。図 14に評価に用いた音声のスペクトログラムを示す。図 15 に評価システムで受信した音声のスペクトログラムを示す。これら図のスペクトログラムが一致することから、本攻撃手法は可聴域音声全域の音声窃盗が可能であることが示された。

図 14

評価に用いた音声信号

図 15

攻撃者が得た音声信号

本脅威に対する対策方法として、環境電磁工学の観点から機器および機器を取り巻く電磁環境変化へのレスポンスを観測することにより、機器が想定された設計に対して不正に改変されていることを検出可能とする手法を考案した。AI/IoT 機器を含む情報機器は機器の動作によって、機器内部に電気信号が流れ、機器の機能を実現している。この電気信号は指紋と同様に機器固有の特徴を有しており、機器から放射される電磁波のスペクトルを観察することにより機器改変が生じているかを確認することが可能である（図 14）。また、

720182141
2017-3000

機器改変によって放射される電磁波のスペクトルに変化が見られない場合でも、本攻撃の回路改変が行われた機器では電磁照射に対して情報を漏えいさせる電磁波を放射する。そのため、攻撃に用いられると想定される周波数の電磁波を照射し、その反射信号が設計時から変化しているかを観測することにより図 14 と同様に検査が可能となる。

図 14

HT の有無による電子機器の不要放射スペクトル変化

5 まとめ
本研究期間では AI/IoT 機器のハードウェアセキュリティの脆弱性として、IC 周辺回路の不正改変および電磁波照射時に生じる情報漏えいについて検討を進めた。その結果、攻撃に必要となる回路改変は、機器本体をアンテナとして用いることで、1 つの部品の追加のみで実施可能であることが明らかとなった。さらに同様の脆弱性は IC 内部に潜在的に存在していることを発見し、AI/IoT 機器に用いられるマイコンを用いた実験を通じて情報漏えいの発生を確認した。これら成果を 2019 年 8 月にハードウェアセキュリティトップカ
ンファレンスである International Cryptologic Research for Association (IACR) Conference on Cryptographic Hardware and Embedded Systems (CHES) 2019 にて発表を行い高い評価を得た。また、この発表経験から情報セキュリティには電磁波等の物理現象を起点とする理学的視点の検討が今後重要となることが感じ取られた。そのため、工学分野でも電磁波の理学的観点からの議論が行われている環境電磁工学分野で議論の基盤を整備するため、IEEE TC 5 にて Low-power IEMI 問題として提案した。
2020 年度も IEEE EMC Society
主催の国際会議にてスペシャルセッションを企画し発表を行い、また今後も継続的に本問題および関連課題について研究を進める。

【参考文献】
[1]
[2]
[3]
[4]
[5]
[6]
[7]
[8]
[9]

“Society 5.0「科学技術イノベーションが拓く新たな社会」説明資料,” 内閣府, 2018.
Sharad Malik, “Detecting Hardware Trojans: A Tale of Two Techniques,” 2015 Formal Methods
in Computer-Aided Design (FMCAD), 2015.
“ソフトウェアの信頼性向上と安全な利用環境の構築に向けて,” 独立行政法人情報処理推進機構, 2013.
Brian Sharkey, “TRUST in Integrated Circuits Program: Briefing to Industry,” DARPA Microsystems Technology Office (MTO), 2007
Sally Adee, “The Hunt for the Kill Switch,” IEEE Spectrum May 2006.
Introduction to Hardware Security and Trust, M. Tehranipoor and C. Wang, Eds., Springer,
2012.
M. Tehranipoor, H. Salmani, and X. Zhang, Integrated circuit Authentication – Hardware
Trojans and Counterfeit Detection, Springer, 2014.
永田 真, “IC チップの真正性の確保と対策–ハードウェアセキュリティの根源的課題に向き合う–,” IEICE
Fundamentals Review, Vol.8, No.3, pp.172-182, 2015.
“The Big Hack: How China Used a Tiny Chip to Infiltrate U.S. Companies,” Bloomberg Businessweek, 2018.

820182141
2017-3000〈発題名

電磁照射による意図的な情報漏えい誘発時に生ずる自己干渉波の抑制に関する基礎検討
A Study on Feasibility of Electromagnetic Information Leakage Caused Forcibly by Low-Power IEMIElectromagnetic Information Extortion
from Electronic Devices Using Interceptor and Its Countermeasure

Possibility of Injecting Malicious
Instructions from Legitimate Communication Channels by IEMI

表資料〉

掲載誌・学会名等
電子情報通信学会技術研究報告，
Vol.119, No.2, HWS2019-6 ，
pp.31-35
2019 Joint International Symposium on Electromagnetic CompatibilityandAsia-PacificInternationalSymposiumon
Electromagnetic Compatibility,
SapporoConferenceon
Cryptographic
Hardware and Embedded Systems(CHES)
2019,
International
Cryptologic Research for Association (IACR)
https://doi.org/10.13154/tches.
v2019.i4.62-90 (Open Access)2020 IEEE International Symposium on Electromagnetic Compatibility, Signal & Power Integrity (EMC+SIPI)

9

発表年月2019 年 4 月

2019 年 6 月

2019 年 8 月

2020 年 8 月