中⼩製造業向け体験型演習の概要紹介
令和5年2⽉1⽇（⽔）15:00-17:00
九州⼤学サイバーセキュリティセンター
⼩出 洋

⼩出 洋（こいで ひろし，Hiroshi Koide）
経歴

電気通信⼤学⼤学院博⼠後期課程修了↓
⽇本原⼦⼒研究所計算科学技術推進センター↓
九州⼯業⼤学⼯学部（⼾畑）↓九州⼯業⼤学情報⼯学部（飯塚）↓九州⼤学 情報基盤研究開発センター
サイバーセキュリティセンター（2017.4〜）
システム情報科学府（2017.6〜）

社会貢献 (Social Contribution)☆

SECCON実⾏委員, SECCON executive committee☆

IPA セキュリティ・キャンプ in 福岡,

得意分野 (My Interests)

JavaOne2009 SunSPOT BOFにて

Twitter @hirosk
Facebook Hiroshi Koide
YouTube @koide55☆

プログラミング, Programming☆

サイバーセキュリティ, Cyber Security（Moving Target Defense, 脅威トレース(Simulation System of Malware
and Information Systems)…)Awards☆

IPA スーパークリエータ, IPA MITOH Super Creator☆

JavaOne 2005 Dukeʼs Choice Award☆

Sun Microsystems Center of Excellence

12Overview of Hiroshi Koide
研究内容
Moving Target Defense• サイバーセキュリティ• 情報システム• IoT• サイバー攻撃年別の研究成果

被引⽤数

査読付き
論⽂数

佐賀県警サイバー犯罪対策技術アドバイザ
2022.9.16 〜

福岡県警サイバー犯罪対策
テクニカルアドバイザ
2014.10.28 〜

Twitter @hirosk
Facebook Hiroshi Koide
YouTube @koide55

Dukeʼs Choice Award
2005.6.28

SECCON実⾏委員
2012.3 〜

IPA未踏ソフトウェア創造事業
スーパークリエータ認定
2006.10.24

今⽇これから紹介する体験型演習を⼀⾔で• サイバー攻撃を受けて守れなかったときどうする︖• 体験型演習で模擬体験＝イザというときに焦らないで済む（演習は考える訓練）• 実際の緊急対応を正確に反映したシナリオで模擬体験• ⼤事なのは⽣産継続（フェイルセーフ＝壊れても⼤丈夫︕）• サイバー攻撃は引き⾦事象＝⽣産継続のために緊急⽣産管理対応オペレーションが軸• 体験型演習で以下の全過程をカバー
予防整備〜緊急⽣産管理体制〜再発防⽌策検討• シナリオは考えるための思考ひな形
回を重ねる度に演習シナリオは集合知により成⻑岡⾕ 貢 隊⻑

自己紹介

社会貢献活動富士通特機安保研
IPA専門委員
JNSA
IIJアドバイザ
島根県警TA
九州大学教官
各種政府等支援1

今⽇これから紹介する体験型演習を⼀⾔で• サイバー攻撃を受けて守れなかったときどうする︖• 体験型演習で模擬体験＝イザというときに焦らないで済む（演習は考える訓練）• 実際の緊急対応を正確に反映したシナリオで模擬体験• ⼤事なのは⽣産継続（フェイルセーフ＝壊れても⼤丈夫︕）• サイバー攻撃は引き⾦事象＝⽣産継続のために緊急⽣産管理対応オペレーションが軸• 体験型演習で以下の全過程をカバー
予防整備〜緊急⽣産管理体制〜再発防⽌策検討• シナリオは考えるための思考ひな形
回を重ねる度に演習シナリオは集合知により成⻑組織におけるミッション• 組織にはそれぞれの役割・ミッションを持つ• ミッションが組織の存在意義・使命例）• Googleのミッション（Google's mission is to organize theworld's information and make it universally accessible
and useful.)• 九州⼤学のミッション（研究・教育・医療）• 病院（それぞれの病院に応じた役割）• 製造業（社会に必要な製品を製造︔社会インフラとして役割）

マツダのコーポレートビジョン
https://www.mazda.com/ja/about/vision/

組織ミッションを継続し，遂⾏することがその存在意義
組織はそれにより社会に貢献
安川電機の経営理念
https://www.yaskawa.co.jp/company

組織のミッション継続をさまたげる要因
さまざまな外的・内的要因（引き⾦事象）が存在している• テロ，⾃然災害• 不祥事，内部犯罪• 社会情勢• 情報システムに関連する⼤規模障害• 情報システムに対するサイバー攻撃
o 事業継続を妨げるという視点では「情報システムに対するサイバー攻撃によるシステム障害」と他の要因の違いはあまりない
o どの要因も完全に防ぐ⽅法は無いが，対策が不要というわけではないサプライチェーンに対する攻撃• 特定の企業グループ，関連会社，取引先全体を通じ，⼯業製品などの原料や部品の⼀連の流れ（サプライチェーン︔供給連鎖）に対して⾏われる攻撃• 企業が持つ機密情報の窃取やランサムが⽬的（10⼤脅威の3位）• サプライチェーンのなかでもっとも弱い中⼩企業などがターゲットとして狙われ，攻撃されるとそこを踏み台として⼤企業も攻撃• サイバー攻撃はソフトウェアの更新やパスワードの管理などの情報技術に関連する基本的な対策を実施しても100パーセント防げない（テロや不祥事，社会情勢などの要因と同様）• 攻撃が防げなかった万⼀の事態に備えた緊急⽣産管理体制の計画が必要

19

体験型演習のイメージの共有

20

体験型演習とは︖• 実際に近いロールプレイ形式で具体的かつ実際的なシナリオを⽤いる模擬演習• そのシナリオにより対処が必要な緊急事態を模擬体験• 「オリエンテーション」「⾮常訓練」というイメージが近いです• 対象となる問題を深く理解可能とする• 事前に体験することで対処の余裕が⽣まれる

体験型演習のイメージの共有
体験型演習とはどのようなものかイメージを共有するために．．．
• まず先⾏して開発されて完成度が⾼い「事業継続計画（BCP）体験型演習（医療継続シナリオ）」を紹介します• 医療継続シナリオは，今回試⾏する「中⼩製造業向け体験型演習」とは異なりロールプレイも含まれています• BCP体験型演習（医療継続シナリオ）＝ ロールプレイ＋ディスカッション• 中⼩製造業向け体験型演習＝ 現段階ではディスカッション中⼼• これから議論と研究を重ねながら中⼩製造業向け体験型演習をより精度の⾼い（ロールプレイも含む）有益な体験型演習にしていきます22

医療現場で電⼦カルテシステムにランサム被害（例）奈良宇陀市⽴病院 2018.10

徳島つるぎ町⽴半⽥病院 2021.10

⼤阪急性期・総合医療センター 2022.10

23体験型演習の⽬的
事業継続計画（BCP）• 既存の緊急対処計画（緊急時⽣産管理計画BCP/BPM︔医療安全管理マニュアル）をベースにサイバー攻撃が引き⾦事象となった場合を追加したもの

事業継続計画（BCP）の検証• BCPを作成しただけでは不⼗分．それに伴う体制の検証が必要• 想定外のことがおきるかもしれず，想定外のことは準備できない• 事前に体験演習 → 問題点・課題を洗い出し → BCP作成に資する• 実際にやってみることで⾒えてくることがある（気づき）• 検証を⾏うことでBCPの精度を向上することが可能（⽋落事項など）

医療シナリオの体験型演習（2019）岡谷貢隊長※受講生の最終成果報告会のスライドから抜粋

医療シナリオの体験型演習 （2019）
アナログでOK
⽬的達成が肝要︕

医療シナリオの体験型演習 （2021）

医療シナリオの体験型演習（2022/10/01）

フルオンライン進めやすい適切な「状況付与」やときどき⼊る「議論タイム」••

進めやすい適切な「状況付与」

ロールプレイでファシリテータにより有益な知見が得られる重要な局面で「議論タイム」が設定されている
参加者が得た気づきや重要事項を共有しより深く考えるきっかけとなる

ときどき⼊る「議論タイム」

中⼩製造業向け体験型演習
シナリオのイメージの共有
30

体験型演習規定
本TTX（＝体験型演習）シナリオ設計の基本的考え方
Ø 本シナリオの設計コンセプトは「予防整備的対策で守れなかった（防げなかった）らどうする？を考えてBCM（緊急生産管理計画）手順を考えておく」事の重要性を理解する事にある。
Ø 本シナリオで想定するサイバー攻撃の種類と意義は以下。
→サイバー攻撃の影響カテゴリは複数、本シナリオでは「機器障害が生産継続に影響を及ぼす場合」とする。
Ø 研究TTXは具体的事例を提示してBCM計画を考えるのが目的。これにより、各部署の論点イメージを一致させる。
→演習は考える訓練！シナリオは思考ひな型！
Ø 対応基準やマニアル作成を目的とする場合はあらゆる原因を前提に整理していくが、最初からこれで考え始めると対応軸が掴めず具体策検討に繋がりにくい。TTXとは目的が別。
→TTXは、対応マニアルや基準作成が目的ではなく、これらを部⾨連係下で検討するための土俵作りとなる。
Ø シナリオは現実想課題状況に則した内容とするため、現象が具体的に見える脅迫型ランサムウエア（Lockbit2.0）事例を基にしつつもより対応が難しい製造ライン障害を加味したサイバー攻撃内容（LB2.0仕様の脅迫型ランサムウエア＋α）とする。
Ø 架空の企業と対応内容を題材に構成し、本資料内容の保全性を図る。
Ø 今回は、製造業分野最初のTTXシナリオとなる。このため重要論点を絞ったシナリオとする。
→TTX課題議論の中で様々なケースを検討し意見集約を図る。
Ø シナリオではAB２種類の攻撃パターンを想定するが攻撃手法は常に変化するため攻撃手法毎の対策検討では際限なく対処手順変更を行う事になる。このため生産管理への影響部分に重点を置き、攻撃手法に共通的な対応内容を対応手順（BCM）化する事を想定したシナリオとした。
Ø 各ステージで演習課題を基に模擬討論（研究型TTX）を行う。課題は予め準備したものの中から参加プレイヤの属性に応じてセットする。
→演習課題の中にプレイヤ気づき事項とメッセージを込める（このためプレイヤ属性に応じ課題内容を変える）。
31

演習関連組織相関図
本TTXのメインプレイヤ

協力企業 アマテラス工業

発注元 ゼウス工業
準重要部品の発注・納入
本社工場
分工場
両社は「特定重要技術」を取り扱っている対策本部
社長（経営幹部） 生産管理本部長

製造本部長

生産管理本部長

生産管理本部SE

生産技術要員ITインフラ担当

製造装置（ライン）機器
保守ベンダーCSIRT部署

その他関連組織等
所管省庁（原課）

県警／サイバー特捜隊／公調庁

個人情報保護委員会

読買記者

32

演習組織想定

協力企業 アマテラス工業
・ITインフラ担当は生産管理部に所属
・製造本部、生産管理本部、情報管理系のネットワークとサイバー機器等を管理→ITインフラシステム管理担当等（ITインフラ担当）
・ITインフラ担当が管理する機器の上で動作する運用プログラム管理は各所管部等が担当
・BCMは、ISO22301（JIS）を根拠とし、IATF等の基準も参考に自社BCM（緊急生産管理計画）を作成している。
→IATFの緊急事態対応計画の想定事態等
・発注元と定期的にBCM勉強会を実施している。
・発注元との資本関係はない→生産管理データの連携性は疎・生産管理データの連携性は疎のため、SSLでデータ交換。EDIでの受発注データが主・製造に必要な数値情報等（受発注データ等）は、発注元～協力企業間で予め取り決めてある
・社内本社工場～分工場間は、社内EDIシステム間をSSLでデータ交換
・生産管理システムはバッチバックアップを取っている。ただし、フルレストアの訓練は行っていない。
・経済安保推進法による「特定重要技術を扱う事業者（所管大臣指定）」の対象となる技術を用いた製品を製造し、発注元企業に納入している。
社長（経営幹部）

生産管理本部長

製造本部長

ITインフラ担当

製造装置（ライン）機器
保守ベンダー

対策本部

33

・組織図
社長（経営幹部）

協力企業 アマテラス工業
商号㈱アマテラス⼯業設⽴

1950年（昭和25年）4⽉20⽇

資本⾦8,000万円

従業員数

157名（2023年1月現在）

株
主総会

取締役
会

会
長
・社
長

総務部

役
員
会

経理部

営業本部
監
査
役

経営
企
画室

営業部
調達部

生産管理本部

生産管理本部長

技術技術部

生産管理部

ITインフラ担当

品質保証部
ITインフラ担当

製造本部

本社工場
分工場

製造本部長

設備環境部

34

発注元 ゼウス工業
・BCMは、ISO22301（事業継続）を準拠とし、JTAS等の基準も参考に自社BCM（緊急生産管理計画）を作成している。
→JTASの緊急事態対応計画の想定事態等
・協力企業からは「準重要部品であり、代替が利く部品」の納入を受けている。→代替メーカから入手可
・準重要部品は、常時２週間ぶんの在庫確保しているものとする。
・サイバー攻撃対処の専門部署（CSIRT）を持っている・経済安保推進法による「特定重要技術を扱う事業者（所管大臣指定）」であり、研究開発にあたり指定基金（経済安保重要技術育成プログラム）の認定を受けており、社内に「特定重要技術」情報を保有している。
生産管理本部長

生産管理本部SE

CSIRT部署

生産技術要員その他関連組織等；
・国県関係者
個人情報保護委員会、業法所管部署、警察等、報道、関係ベンダー等
・関係省庁等は次を想定する。
「製造安全関連所管省庁」「個人情報保護委員会」「経済安保関連所管省庁」「県警本部及び警察庁サイバー特別捜査隊」「公安調査庁」

所管省庁（原課）

県警／サイバー特捜隊／公調庁

個人情報保護委員会

読買記者

35

演習状況概要
本演習シナリオは、実際に起きた事例を基に対策本部体制で対応するであろう事態対処事項を可能な限り忠実に再現した。
「サイバー攻撃を引き金事象とした製造業緊急生産管理体制（BCM）の検討」に関し、各所検討場面における「思考ひな型」としての活用を想定して作成したものである。
協力企業アマテラス工業はサイバー攻撃を受けた。シナリオで設定する攻撃パターンは２種類。
パターンAでは保守業者との保守用VPN接続部から侵入、製造装置（生産ライン）が異常停止。製造部はオンコールを実施障害対応を行う。
パターンBではインターネットからの標的型メールにより情報管理系機器に侵入し表示及びデータ異常により運用不能。
アマテラス工業はBCMに基ずく対策本部を設置。緊急生産管理体制を取り、関係各所への報告調整並びに被害状況の把握と応急復旧を検討する。製造装置（生産ライン）は点検停止する。
対策本部は、生産継続への影響を極小化し速やかな生産再開を目指す。

協力企業 アマテラス工業対策本部開設【攻撃パターンA】

準重要部品の発注・納入

発注元 ゼウス工業

製造装置（ライン）機器異常停止！
保守業者

本社工場

分工場
報告調整

【攻撃パターンB】
生産管理サーバ（受発注、生産計画）
情報管理系機器等表示・データ異常＋脅迫文表示出力

所管省庁（原課）
県警／サイバー特捜隊／公調庁
個人情報保護委員会36

【シナリオ概要】
製造業であるアマテラス工業の本社工場に脅迫型ウイルスによるサイバー攻撃が発生した！
攻撃パターンはAB２種類の場合を想定、それぞれ製造装置（ライン）及び生産管理系情報管理系機器に障害が発生し製造及び機器運用不能な状態となる。
一方の攻撃パターンAでは生産装置（ライン）が自動停止、製造部からの保守業者オンサイトコールによる対処が行われる。
アマテラス工業は生産継続（発注元であるゼウス工業への部品納入）への影響がある事態と判断、社内全システム停止を指示。
同時に、BCMに基ずく対策本部を設置し、部品納入先である発注元ゼウス工業と連携し生産継続のための緊急対応オペレーションに入った。
アマテラス工業はBCMを参考に応急復旧手順を開始、生産継続への影響を極限する対応を行い速やかな応急復旧処置と最低限の生産再開を図る。
爾後、増産体制による生産計画へリカバーし、生産計画への影響は回避された。
㈱アマテラス工業

国内事例はないが起きるとシビアなモデル
攻撃パターンA（VPNから製造装置への侵入）

演習課題模擬討論＋解説
ステージ① 初期対処段階

事例の多いモデル
攻撃パターンB（情報管理系から侵入）製造装置（ライン）への影響発生
生産管理及び情報管理系機器にも拡大のおそれ

生産管理及び情報管理系機器にも障害発生製造装置（ライン）への影響はないが点検要機器障害発見、初期対処（製造部）

機器障害発見、初期対処（生産管理部）

ステージ② 対策本部開設、緊急対応段階

BCM（対策本部）体制発動

ステージ③ 応急復旧段階
ステージ④（省略） 事態収束、原因調査、再発防止策検討段階

生産計画への影響を低減回避するための体制→緊急生産継続の体制（“おそれ“を含む）

増産体制による生産計画へのリカバー
37

【シナリオサマリ】

パターンA（VPNから製造装置への侵入）

各対応項目は協力企業 アマテラス工業 の対応内容

ステージ① 初期対処段階
A②保守会社オンコール

製造本部

A③ITインフラ担当初期確認開始

A①製造尉装置（ライン）の一部に機器障害発生確認、初動対処
製造装置（ライン）機器

BCM（対策本部）体制発動○各関連部署が対応に動き出す○緊急生産継続オペレーション開始

保守業者

生産管理装置（ライン管理端末） ？

生産管理本部
A④他生産管理装置の状況確認（おそれ有）以降、パターンA、B共同じBCMプロセス

協力企業 アマテラス工業

MESサーバ（製造実行システム） ？

その他部署
・営業・調達・品質管理

生産管理部所属のITインフラ係
が機器管理→ITインフラ部分

Ａ①には２種類の状況発生がある・製造装置（ライン）の異常停止
・MES（製造実行システム）端末の表示異常等→脅迫画面表示＆データ異常

生産管理サーバ？
（受発注、生産計画）
等

A⑤情報管理系機器の状況確認（おそれ有）

情報管理系機器等？

状況補足解説；○一番クリティカルなケース
・製造装置（ライン）の機器異常発生→歩留まりモニター表示異常、ライン自動停止等→製造部は初期対処
・機器異常から状況スタート（表示異常ではない）、製造部としては通常のオンコールに向かうシビアなケース○製造系にADは無いのでMES等に伝搬はせず（LB2.0の場合）、生産管理装置、情報管理系に影響無とする。
→影響無でも生産管理本部は「念のため」A④⑤での確認を行う。
→本TTXの論点はBCM手順の検討であるため、課題議論の中で「影響有」の場合の対応も議論する（LB2.0に限らず）

38

【シナリオサマリ】

パターンB（情報管理系から侵入）

各対応項目は協力企業 アマテラス工業 の対応内容

ステージ① 初期対処段階

製造本部

協力企業 アマテラス工業
製造装置（ライン）機器

B③製造部への影響確認

保守業者

生産管理装置（ライン管理端末）

生産管理部所属のITインフラ係
が機器管理→ITインフラ部分

生産管理本部
MESサーバ（製造実行システム）
B②ITインフラ担当初期確認開始

その他部署
・営業・調達・品質管理

BCM（対策本部）体制発動○各関連部署が対応に動き出す○緊急生産継続オペレーション開始

B①情報管理系機器に機器障害発生（LB2.0の場合は目視で気づく）＊LB2.0は、アクティブディレクトリーサーバ情報を参照し自立拡散
生産管理サーバ（受発注、生産計画）
等
インターネット

情報管理系機器等
標的型メール以降、パターンA、B共同じBCMプロセス

状況補足解説；○良くあるパターン。
○製造機器に影響はないが、生産管理システムには影響が発生（表示＆データ異常で発見）し、結果としてラインを点検停止する。
39

【シナリオサマリ】
BCM（対策本部）体制発動○各関連部署が対応に動き出す○緊急生産継続オペレーション開始

パターンAB共通

各対応項目は協力企業 アマテラス工業 の対応内容

協力企業 アマテラス工業
ステージ② 対策本部開設、緊急対応段階

C① 対策本部設置、各部門の状況確認指示
C② 生産管理本部は生産ラインの停止を検討
C③ 生産管理本部は経営幹部と営業へ生産ラインが止まる事を連絡
C④ 経営幹部は生産ラインの停止を決心
C⑤ 営業部門は発注元への連絡（納期遅延、生産停止等）
C⑥ BCMに基ずく初期対処事項を実施

点検含め生産ラインを止める！

対策本部活動で生産への影響を最小化する！

ステージ③ 応急復旧段階

C⑦ 各部署被害見積もり
C⑧ 工場含む社内全システムの停止を指示
C⑨ 生産ラインとの分離可否と影響の有無を調査
C⑩ 応急復旧計画と再稼働見積もり
C⑪ 在庫品緊急出荷の準備開始
C⑫ 生産管理システムの応急復旧手段の検討
C⑬ 生産管理部門は、サンプリングした生産装置台数を優先確認
C⑭ 保守業者及び機器ベンダは特別体制
C⑮ 関係省庁等への連絡、プレス対応
ステージ④（省略） 事態収束、原因調査、再発防止策検討段階C⑯ 増産体制による生産計画へのリカバー応急復旧を試み、生産継続する！

発注元在庫の２週間以内に応急復旧すれば影響はない！
渉外戦略をどうする？
40

ステージ① 演習課題；
１．攻撃モデルAで製造装置（ライン）からのサイバー攻撃時、生産管理系や情報管理系に影響がある場合の対応はどのようになるか？
→対応規模が大きく拡大する
２．サイバー攻撃が引金事象である機器障害の場合、緊急事態対応計画での初動対処判断は通常の「主要設備故障、災害、商用電力中断時等」と何が違うか？
３．御社の工場で同種の初期症状があった場合、脅迫型ウイルスの侵入があったと気がつくか？
また、直ちに生産管理ネットワークの外部接続切断の発想は出てくるか？

本TTXは「研究型演習方式（全員参加型）」で実施します。
演習課題に対し、参加者全員で討議を行います。
自由に意見を述べ合ってください。
ファシリテータが追加解説を加えながら意見集約を行います。

41

まとめ
• 組織におけるミッション• 組織のミッション継続をさまたげる要因• サプライチェーンに対する攻撃• 体験型演習のイメージの共有• 中⼩製造業向け体験型演習シナリオのイメージの共有