(57)【要約】本発明は、規制順守、保守順守及び安全順守のような順守要件に関するサイバー物理システムの分析を与える。本発明は一般に、初期状態から終了状態への一組の経路を与え、当該経路を分析してどの経路が違反状態を含むのかを決定する。得られた経路に基づいて検査手順書が生成される。加えて、他の順守関連手順も、経路分析を利用して行うことができる。
2016510147.tif 000002
【特許請求の範囲】
【請求項１】
複数の構成要素を有するサイバー物理システムを調整する方法であって、
（ａ）前記複数の構成要素のそれぞれを記述して少なくとも一つの順守ペナルティを、前記複数の構成要素の少なくとも一つの構成要素に関連付けられた品質として定義することであって、前記順守ペナルティは前記少なくとも一つの構成要素の順守要件が不順守であることからもたらされることと、
（ｂ）前記サイバー物理システムのための初期状態を定義することと、
（ｃ）一組の経路を生成することであって、各経路は前記初期状態から終了状態への遷移に必要な少なくとも一つの事象を含み、前記遷移は前記初期状態から前記終了状態へ通過中の一以上の中間状態を通る経過を含み得ることと、
（ｄ）前記一組の経路から一組の違反経路を識別することであって、各違反経路は前記少なくとも一つの構成要素の前記順守要件が不順守である少なくとも一つの違反状態を含むことと、
（ｅ）前記違反状態に関連付けられた前記順守ペナルティを識別することと、
（ｆ）前記順守ペナルティを防止するべく前記サイバー物理システムを調整することと
を含む方法。
【請求項２】
前記順守ペナルティは、罰金、規制ペナルティ、法的制裁及びシャットダウンからなる前記一群から選択される請求項１の方法。
【請求項３】
前記順守要件は、安全要件、保守要件及び規制要件からなる前記一群から選択される請求項１の方法。
【請求項４】
前記ステップ（ｃ）から（ｆ）はコンピュータに実装されたステップである請求項１の方法。
【請求項５】
ステップ（ａ）及び（ｂ）は、ステップ（ｃ）において前記一組の経路を生成することに使用される前記サイバー物理システムのための順守要件モデルを構築することを含む請求項１の方法。
【請求項６】
ステップ（ａ）は、少なくとも一つの動作ルールを事象として、及び少なくとも一つの順守違反を事象として定義することをさらに含む請求項１の方法。
【請求項７】
ステップ（ａ）は、一組の動作ルールを前記少なくとも一つの事象の一つとして定義することをさらに含み、
前記動作ルールは、前記サイバー物理システムの構成要素の変更からもたらされた動作変更に少なくとも部分的に基づき、
前記ステップ（ｅ）及び（ｆ）は、前記違反経路の一つが前記構成要素の変更に関連付けられたか否かを識別することをさらに含む請求項１の方法。
【請求項８】
ステップ（ｄ）において識別された前記経路から検査手順書を生成することをさらに含む請求項１の方法。
【請求項９】
ステップ（ａ）は、少なくとも一つの検査条件を前記少なくとも一つの事象の一つとして識別することをさらに含み、
前記少なくとも一つの検査条件は前記サイバー物理システムのための順守検査に関連付けられ、
前記方法は、前記違反経路の一つが前記順守検査に関連付けられたか否かに基づいて、前記検査条件が妥当か否かを決定することをさらに含む請求項１の方法。
【請求項１０】
複数の構成要素を有するサイバー物理システムにおける順守問題を体系的に識別する方法であって、
（ａ）前記サイバー物理システムのための順守要件モデルを構築することであって、前記複数の構成要素のそれぞれを記述すること、少なくとも一つの順守ペナルティを前記複数の構成要素の少なくとも一つの構成要素に関連付けられた品質として定義すること、少なくとも一つの動作ルールを事象として定義すること、及び少なくとも一つの順守違反を事象として定義することを含み、前記順守ペナルティは前記少なくとも一つの構成要素の順守要件が不順守であることからもたらされ、前記順守ペナルティは、罰金、規制ペナルティ、法的制裁及びシャットダウンからなる前記一群から選択され、前記順守要件は、安全要件、保守要件及び規制要件からなる前記一群から選択されることと、
（ｂ）前記サイバー物理システムのための初期状態を定義することと、
（ｃ）以下のコンピュータに実装されたステップを行うことと、
（ｉ）前記順守要件モデルを利用することにより一組の経路を生成することであって、各経路は前記初期状態から終了状態への遷移に必要な少なくとも一つの事象を含み、前記遷移は前記初期状態条件から前記終了状態へ通過中の一以上の中間状態を通る経過を含み得ることと、
（ｉｉ）前記一組の経路から一組の違反経路を識別することであって、各違反経路は前記少なくとも一つの構成要素の前記順守要件が不順守である少なくとも一つの違反状態を含むことと、
（ｉｉｉ）前記違反状態に関連付けられた前記順守ペナルティを識別することと、
（ｄ）前記順守ペナルティを防止するべく前記サイバー物理システムを調整することと
を含む方法。
【請求項１１】
サイバー物理システムにおける順守を目的とする検査手順書を生成する方法であって、
（ａ）少なくとも一つの順守ペナルティを前記サイバー物理システムの構成要素の品質として、少なくとも一つの動作ルールを事象として、及び少なくとも一つの順守違反を事象として利用することによりハイブリッド順守グラフを生成することであって、前記順守ペナルティは前記構成要素の順守要件が不順守であることからもたらされることと、
（ｂ）前記ハイブリッド順守グラフを、初期状態から、一群の違反状態から選択された違反状態への経路を求めて探索することであって、一群の違反状態では前記一群の各違反状態に対して前記構成要素の前記順守要件が不順守であることと、
（ｃ）前記経路がステップ（ｂ）において発見された場合に前記経路を違反シナリオ一覧に追加することと、
（ｄ）前記一群の違反状態における各違反状態に対してステップ（ｂ）から（ｃ）を繰り返すことと、
（ｅ）前記違反シナリオ一覧から検査手順書を生成することと
を含む方法。
【請求項１２】
前記ステップ（ａ）から（ｅ）はコンピュータに実装されたステップである請求項１１の方法。
【請求項１３】
前記順守ペナルティは、罰金、規制ペナルティ、法的制裁及びシャットダウンからなる前記一群から選択される請求項１１の方法。
【請求項１４】
前記順守要件は、安全要件、保守要件及び規制要件からなる前記一群から選択される請求項１３の方法。
【請求項１５】
前記サイバー物理システムの順守規定が不順守となり得るか否かを決定するべく前記検査手順書を使用することをさらに含む請求項１４の方法。
【請求項１６】
前記ステップ（ａ）から（ｅ）はコンピュータに実装されたステップである請求項１５の方法。
【請求項１７】
ステップ（ｂ）の前記探索することは縦型探索又は横型探索を使用して行われる請求項１６の方法。
【請求項１８】
ステップ（ｂ）の前記探索することは縦型探索を使用して行われる請求項１７の方法。
【請求項１９】
ステップ（ｂ）の前記探索することは横型探索を使用して行われる請求項１７の方法。
【請求項２０】
サイバー物理システムのための順守検査の妥当性をチェックするコンピュータ実装方法であって、
（ａ）少なくとも一つの順守ペナルティを前記サイバー物理システムの構成要素の品質として、少なくとも一つの動作ルールを事象として、少なくとも一つの順守違反を事象として、及び少なくとも一つの検査条件を事象として利用することによりハイブリッド順守グラフを生成することであって、前記順守ペナルティは前記構成要素の順守要件が不順守であることからもたらされ、前記少なくとも一つの検査条件は前記サイバー物理システムのための前記順守検査に関連付けられることと、
（ｂ）前記ハイブリッド順守グラフを、初期状態から、前記順守検査に関連付けられた違反状態への経路を求めて探索することと、
（ｃ）前記順守検査が妥当か否かを前記経路の前記存在に基づいて決定することと
を含む方法。
【請求項２１】
ステップ（ｂ）の前記探索することは縦型探索又は横型探索を使用して行われる請求項２０の方法。
【請求項２２】
ステップ（ｂ）の前記探索することは縦型探索を使用して行われる請求項２１の方法。
【請求項２３】
ステップ（ｂ）の前記探索することは横型探索を使用して行われる請求項２１の方法。
【請求項２４】
第１構成要素及び複数の他の構成要素を含む構成要素と前記構成要素間の一組の接続とからなるサイバー物理システムの第１構成要素を変更する方法であって、
（ａ）前記サイバー物理システムにおける前記第１構成要素を識別することと、
（ｂ）少なくとも一つの動作ルールを事象として、及び少なくとも一つの順守違反を事象として利用することによりハイブリッド順守グラフを生成することであって、前記動作ルールは前記第１構成要素の変更からもたらされた動作変更に少なくとも部分的に基づくことと、
（ｃ）前記ハイブリッド攻撃グラフを、初期状態から、前記第１構成要素の変更に関連付けられた違反状態への経路を求めて探索することと、
（ｄ）前記経路が発見された場合、前記違反状態が生じないように前記サイバー物理システムを調整することと
を含む方法。
【請求項２５】
前記ステップ（ｂ）及び（ｃ）はコンピュータに実装されたステップである請求項２４の方法。
【請求項２６】
ステップ（ｄ）において前記サイバー物理システムを調整することは、前記複数の他の構成要素の少なくとも一つをアップグレード又は交換すること、前記構成要素の前記接続を変更すること、又は前記第１構成要素への変更とは異なる変更を使用することを含む請求項２４の方法。
【請求項２７】
複数の構成要素を有するサイバー物理システムのためのハイブリッド順守グラフを生成する方法であって、
（ａ）前記複数の構成要素のそれぞれを記述して少なくとも一つの順守ペナルティを、前記複数の構成要素の少なくとも一つの構成要素に関連付けられた品質として定義することであって、前記順守ペナルティは前記少なくとも一つの構成要素の順守要件が不順守であることからもたらされることと、
（ｂ）前記サイバー物理システムのための初期状態を定義することと、
（ｃ）一組の経路を生成することであって、各経路は前記初期状態から終了状態への遷移に必要な少なくとも一つの事象を含み、前記遷移は前記初期状態から前記終了状態へ通過中の一以上の中間状態を通る経過を含み得ることと、
（ｄ）前記一組の経路から一組の違反経路を識別することであって、前記違反経路のそれぞれは前記少なくとも一つの構成要素の前記順守要件が不順守である違反状態を含むことと、
（ｅ）前記一組の経路から、前記初期状態から前記違反状態への前記経路を例示するハイブリッド順守グラフを生成することと
を含む方法。
【請求項２８】
ステップ（ａ）及び（ｂ）は、前記サイバー物理システムのための順守要件モデルを構築することを含み、
前記構築することは、前記複数の構成要素のそれぞれを記述すること、及び前記少なくとも一つの順守ペナルティを前記複数の構成要素少なくとも一つの構成要素に関連付けられた前記品質として定義することを含み、
前記順守ペナルティは前記少なくとも一つの構成要素の順守要件が不順守であることからもたらされ、
前記順守ペナルティは、罰金、規制ペナルティ、法的制裁及びシャットダウンからなる前記一群から選択され、
前記順守要件は、安全要件、保守要件及び規制要件からなる前記一群から選択される請求項２７の方法。
【請求項２９】
ステップ（ａ）及び（ｂ）は、ステップ（ｃ）において前記一組の経路を生成することに使用される前記サイバー物理システムのための順守要件モデルを構築することを含む請求項２７の方法。
【請求項３０】
ステップ（ａ）は、少なくとも一つの動作ルールを事象として、及び少なくとも一つの順守違反を事象として定義することをさらに含む請求項２９の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はサイバー物理システムにおける順守プログラムに関し、詳しくは、規制、安全性及び保守の順守プログラムのような順守プログラムに関する。
【０００２】
連邦政府支援研究に関する陳述
本願は、米国国防高等研究計画局からの契約すなわち協定番号第ＦＡ８７５０−０９−１−０２０８号によって一部がサポートされた。米国政府は、この資金に基づいて本発明の及び本発明への権利を有する。
【背景技術】
【０００３】
複数のコンピュータが互いに及び物理世界と相互作用をするシステムが波及している。かかるシステムは、物理世界に近接的に結合された、すなわち離散的な（デジタル）構成要素及び連続的な（物理的）構成要素の双方を有する、ネットワーク接続コンピュータシステムを含み、ハイブリッドシステム又はサイバー物理システムと称される。ハイブリッドシステムの例は、産業用制御及び重要な社会基盤の中にあふれている。
【０００４】
かかるハイブリッドシステムが発展を続けるにつれ、当該ハイブリッドシステムをセキュリティ上の懸念、すなわちサイバー攻撃者によるサイバー側の脆弱性を悪用してのコンピュータネットワーク攻撃、から保護することが重要になってきている。サイバーシステムにおいて、かかる攻撃は、サービス拒否、及び法人、個人又は政府の秘密の盗難のような損害を頻繁に引き起こす。サイバー物理システムにおいて、サイバーシステムに対するものと同じ損害が懸念されるが、機器の機能を停止させ又は機器の動作パラメータを変更してその機能に悪影響を及ぼすような、物理的領域に影響を与える追加的な新たな損害要素も存在する。
【０００５】
セキュリティに加え、ハイブリッドシステムには動作上の懸念も存在する。セキュリティ上の懸念とは区別されることだが、動作上の懸念は、保守、安全、規制及び他の順守要件内で確実に機器を動作させることに重点が置かれる。いくつかの動作上の懸念がサイバー攻撃（例えばサイバー攻撃者による動作パラメータの変更）の結果であり得る一方、他の動作上の懸念は、セキュリティ要素が存在しない純粋に動作的なもの（例えば欠陥センサによる高すぎる温度での機器動作の許容）である。
【０００６】
現在のところ、関連する規制、安全、保守及び他の順守情報、並びにハイブリッド又はサイバー物理システムの物理側及び潜在的なサイバー側を最初に勉強及び理解することによって検査手順書を書くエンジニア又は他の熟練専門家が、動作上の懸念の検査を成し遂げている。かかる検査手順書は、物理側の通常動作を順守要件に従ったままとするために、かつ、物理的機器を変更又はアップグレードするために必要となる。これは、前回の動作に要求されたものとは異なる検査手順書の準備を必要とし得る。したがって、順守検査手順書を生成し並びに機器の交換及びアップグレードに関する順守上の懸念を決定するさらに自動化されたシステムが有利となる。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】米国特許第７，９７１，２５２号明細書
【非特許文献】
【０００８】
【非特許文献１】G. Louthan, P. Hardwicke, P. Hawrylak and J. Hale, “Toward hybrid attack dependency graphs,” CSIIRW’11, Proceedings of the Seventh Annual Workshop on Cyber Security and Information Intelligence Research, Article No. 8.
【非特許文献２】Hawrylak, Peter J. Haney, Michael; Papa, Mauricio; and Hale, John, “Using Hybrid Attack Graphs to Model Cyber-Physical Attacks in the Smart Grid,” 2012 5th International Symposium on Resilient Control Systems (ISRCS), pp. 161-164.
【発明の概要】
【０００９】
本発明の一実施形態によれば、複数の構成要素を有するサイバー物理システムを調整する方法が与えられる。方法は、
（ａ）当該複数の構成要素のそれぞれを記述して少なくとも一つの順守ペナルティを、当該複数の構成要素の少なくとも一つの構成要素に関連付けられた品質として定義することであって、当該順守ペナルティは少なくとも一つの構成要素の順守要件が不順守であることからもたらされることと、
（ｂ）当該サイバー物理システムのための初期状態を定義することと、
（ｃ）一組の経路を生成することであって、各経路は当該初期状態から終了状態への遷移に必要な少なくとも一つの事象を含み、当該遷移は当該初期状態から当該終了状態へ通過中の一以上の中間状態を通る経過を含み得ることと、
（ｄ）当該一組の経路から一組の違反経路を識別することであって、各違反経路は当該少なくとも一つの構成要素の順守要件が不順守である少なくとも一つの違反状態を含むことと、
（ｅ）当該違反状態に関連付けられた当該順守ペナルティを識別することと、
（ｆ）当該順守ペナルティを防止するべく当該サイバー物理システムを調整することと
を含む。
【００１０】
本発明の他側面によれば、サイバー物理システムにおける順守を目的とする検査手順書を生成する方法が与えられる。方法は、
（ａ）少なくとも一つの順守ペナルティを当該サイバー物理システムの構成要素の品質として、少なくとも一つの動作ルールを事象として、及び少なくとも一つの順守違反を事象として利用することによりハイブリッド順守グラフを生成することであって、当該順守ペナルティは当該構成要素の順守要件が不順守であることからもたらされることと、
（ｂ）当該ハイブリッド順守グラフを、初期状態から、一群の違反状態から選択された違反状態への経路を求めて探索することであって、当該一群の違反状態では当該一群の各違反状態に対して当該構成要素の順守要件が不順守であることと、
（ｃ）経路がステップ（ｂ）において発見された場合に当該経路を違反シナリオ一覧に追加することと、
（ｄ）当該一群の違反状態における各違反状態に対してステップ（ｂ）から（ｃ）を繰り返すことと、
（ｅ）当該違反シナリオ一覧から検査手順書を生成することと
を含む。
【００１１】
本発明のさらなる側面によれば、サイバー物理システムのための順守検査の妥当性をチェックするコンピュータ実装方法が与えられる。方法は、
（ａ）少なくとも一つの順守ペナルティを当該サイバー物理システムの構成要素の品質として、少なくとも一つの動作ルールを事象として、少なくとも一つの順守違反を事象として、及び少なくとも一つの検査条件を事象として利用することによりハイブリッド順守グラフを生成することであって、当該順守ペナルティは当該構成要素の順守要件が不順守であることからもたらされ、少なくとも一つの検査条件が当該サイバー物理システムのための順守検査に関連付けられることと、
（ｂ）初期状態から、当該順守検査に関連付けられた違反状態への経路を求めて当該ハイブリッド順守グラフを探索することと、
（ｃ）当該順守検査が妥当か否かを当該経路の存在に基づいて決定することと
を含む。
【００１２】
本発明のさらなる他実施形態によれば、第１構成要素及び複数の他の構成要素を含む構成要素と当該構成要素間の一組の接続とからなるサイバー物理システムの第１構成要素を変更する方法が与えられる。方法は、
（ａ）当該サイバー物理システムにおける当該第１構成要素を識別することと、
（ｂ）少なくとも一つの動作ルールを事象として、及び少なくとも一つの順守違反を事象として利用することによりハイブリッド順守グラフを生成することであって、当該動作ルールは、当該第１構成要素の変更からもたらされる動作変更に少なくとも部分的に基づくことと、
（ｃ）当該ハイブリッド順守グラフを、初期状態から、当該第１構成要素の変更に関連付けられた違反状態への経路を求めて探索することと、
（ｄ）当該経路が発見された場合、当該違反状態が生じないように当該サイバー物理システムを調整することと
を含む。
【００１３】
本発明のなおもさらなる他実施形態によれば、複数の構成要素を有するサイバー物理システムのためのハイブリッド順守グラフを生成する方法が与えられる。方法は、
（ａ）当該複数の構成要素のそれぞれを記述して少なくとも一つの順守ペナルティを、当該複数の構成要素の少なくとも一つの構成要素に関連付けられた品質として定義することであって、当該順守ペナルティは少なくとも一つの構成要素の順守要件が不順守であることからもたらされることと、
（ｂ）当該サイバー物理システムのための初期状態を定義することと、
（ｃ）一組の経路を生成することであって、各経路は当該初期状態から終了状態への遷移に必要な少なくとも一つの事象を含み、当該遷移は当該初期状態から当該終了状態へ通過中の一以上の中間状態を通る経過を含み得ることと、
（ｄ）当該一組の経路から一組の違反経路を識別することであって、各違反経路は少なくとも一つの構成要素の順守要件が不順守である少なくとも一つの違反状態を含むことと、
（ｅ）当該一組の経路から、当該初期状態から当該違反状態への経路を例示するハイブリッド順守グラフを生成することと
を含む。
【図面の簡単な説明】
【００１４】
【図１】本発明の一実施形態に係るモデルを作るべく、システム情報並びに規制及び順守要件を資産データファイル及び事象データファイルフォーマットに符号化するプロセスを例示する図である。
【図２】本発明の一実施形態に係る、事象データファイル、資産データファイル及び初期状態からハイブリッド順守グラフを生成するプロセスを例示する図である。
【図３】本発明の一実施形態に係るアルゴリズムを例示する図である。アルゴリズムは、サイバー物理システムが順守要件を満たすか否かを決定するべくハイブリッド順守グラフを分析する。
【図４】本発明のハイブリッド順守グラフに適用される縦型探索の一例を例示する図である。
【図５】本発明のハイブリッド順守グラフに適用される横型探索の一例を例示する図である。
【図６】本例においてモデル化された簡略化変電所切り替えシステムの模式的例示である。
【図７】本例においてモデル化された変電所切り替えシステムモデルのハイブリッド順守グラフである。
【発明を実施するための形態】
【００１５】
１．概要
【００１６】
攻撃グラフは、コンピュータシステムネットワークへの攻撃及びその相互作用をモデル化するべくグラフ理論を使用する。攻撃グラフは、相互作用要素によるコンピュータシステム攻撃の状態空間をモデル化するべくグラフ理論を利用したいくつかの関連数学的形式の一つである。攻撃グラフは、初期の一組のシステムパラメータ又は事前条件がどのようにして一連の利己的利用を受けて一つ又はいくつかの代替的な最終システム状態又は事後条件に到達するのかをモデル化するべく、コンピュータシステムのモデル化を利用する。特許文献１に記録されるような攻撃グラフ及び生成方法が業界において知られており、サイバー攻撃に関するシステム脆弱性を分析する目的でコンピュータネットワークをモデル化することに関して利用されている。
【００１７】
攻撃グラフは、サイバーシステム及びかかるシステムへのサイバー攻撃者による攻撃を厳密にモデル化するべく構築されている。攻撃グラフは、システムのセキュリティ関連状態空間をモデル化する。当該空間において、頂点がシステム状態を代表し、辺が、敵対者又はサイバー攻撃者のアクションによって引き起こされるのが典型的な状態遷移を代表する。これらの使用により、相互結合されたシステムのセキュリティ脆弱性間での相互作用を考慮する態様での、システムの状態空間の探究が可能となる。
【００１８】
攻撃グラフにおいて、ノードが状態であり、辺が遷移であって各辺が結合攻撃であることを意味する。攻撃グラフは典型的に、攻撃パターン（又は攻撃行為）を事前条件及び事後条件の組として特定する。状態又はノードに対して事前条件をシステムモデルとマッチングさせること及び当該モデルに対して事後条件を戻ってマッピングすることにより、攻撃の後継状態の識別が可能となる。攻撃グラフ生成は、攻撃空間を列挙するべく攻撃行為を状態に連鎖させるプロセスである。
【００１９】
伝統的な攻撃グラフは、例えばコンピュータをオン若しくはオフにすること又はサーバ上のファイルにアクセスすることのような、離散的構成要素に限られる。したがって、攻撃グラフは、例えば、環境温度の変化及び変圧器により経時的に生成される熱に依存する変圧器の過熱のような、連続的構成要素である物理的構成要素を説明することができない。上述のように、サイバー物理システムは、ネットワークハイブリッドシステム、すなわち物理世界に近接的に結合されたネットワーク接続コンピュータシステムである。したがって、純粋に離散的なコンピュータネットワークのモデル化及び分析を目的とする既存のフレームワークは、連続的領域を捕捉することができずかつ時間の堅牢な概念を欠くので、サイバー物理システムでの使用には不適切である。同様に、分離された制御システムの世界に由来するモデル化方法も、サイバー物理システムの特質である複雑な分散型ネットワークをモデル化することができない。
【００２０】
最近になって、攻撃グラフは、いわゆるハイブリッド攻撃グラフにおいて、サイバー物理システムに適用するべく拡張されている。例えば、非特許文献１及び２がある。
【００２１】
連続的構成要素を説明するべく、こうしたハイブリッド攻撃グラフの生成においては、事前条件及び事後条件の組において連続的構成要素を説明可能とするために時間を量子化することのような、様々な手法が使用される。
【００２２】
２．代表的実施形態
【００２３】
本発明によれば、ハイブリッド攻撃グラフがここでさらに、サイバー物理システムのセキュリティ問題、すなわちサイバー物理システムへのサイバー攻撃を説明するためのみならず、サイバー物理システムの順守を説明するためにも拡張される。ここで使用されるように、「順守」とは、規制、保守、安全、及びその他の、安全性若しくは効率への影響を有し又はペナルティ、罰金、法的制裁、若しくはサイバー物理システムのシャットダウンにつながる要件を順守することを言及する。加えて、「順守」はセキュリティ問題を言及しないが、ここに記載される手法は、順守及びセキュリティ問題の双方に対処するべくセキュリティ手法と組み合わせることができる。このように、グラフはもはや、単にセキュリティ問題に限られることがないので、ここでは一般に、ハイブリッド順守グラフと称することにする。ただし、ハイブリッド順守グラフは、順守単独、又はセキュリティ及び順守双方のいずれにも対応することができる。
【００２４】
本発明のためのハイブリッド順守グラフの作業は、この作業全体において以下の名称により言及される３つの広いフェーズに分類されるものとみなすことができる。すなわち、モデル化、生成及び分析である。
【００２５】
モデル化フェーズにおいて、サイバー物理システムは、資産、品質及びトポロジのシステムによって定義又は代表される。資産は、サイバー物理システム構成要素である。すなわち、資産とは、サイバー物理システムにおけるサーバ、コンピュータ、機器又は機械のような物である。セキュリティ問題においては資産は、攻撃者、又はサイバー側に含まれる文書でもあり得る。順守問題において資産は、遠心分離機、変圧器及びセンサのような任意の機械又は機器でもあり得る。品質は、各資産の特性を代表する。品質は、ソフトウェアのパッケージ若しくはバージョン、又はコンピュータがオフライン、オンライン若しくはスリープモードにあるかであり得る。さらに、機器及び機械に関して品質は、オン若しくはオフにあるか、保守が必要か、動作温度範囲、現行のガス排出等であり得る。トポロジは、２つの資産間の関係を代表する。トポロジは、資産を、関係を介して他の資産に結び付ける。サイバー物理システムにとって、構成要素トポロジは、サイバー構成要素間のネットワーク接続、サイバー構成要素のアクセスレベル、センサと他の機器との停止／開始接続等であり得る。
【００２６】
品質及びトポロジは、一意的に識別される資産に関連付けられる。品質及びトポロジは、サイバー物理システムの事実集合体すなわち事実ベースをなす。資産集合体に関連付けられた事実ベースは、サイバー物理システムの状態を完全に記述する。一定の資産集合体が与えられると、状態は、その事実ベースによって一意的に記述される。事実ベースは、当該状態に対して妥当な品質及びトポロジすべてである。
【００２７】
モデル化において、初期状態がシステムに対して定義される。初期状態は、新状態又は後継状態を生成するべく事象パターンを使用することにより、アクション及び時間に対して展開される。事象とも称される事象パターンは、アクション及び時間がどのようにしてシステム状態を、品質及びトポロジ（ただし資産ではない）を挿入及び除去することによって改変することができるのかに対する一般的なテンプレートである。事象パターンは、資産に対応するパラメータをとる関数として記載され、事前条件によって守られ、及び一組の事後条件を特定する（品質及びトポロジについてのアクションを挿入及び削除して事実ベースを更新し、ひいては新ネットワーク状態を生成する）。一般に、一つの状態の事後条件は、他の状態又は後継状態の事前条件である。
【００２８】
図１は、システム情報並びに規制及び順守要件を、後にハイブリッド順守グラフを生成するべく使用される順守要件モデルを作るための資産データファイル及び事象データファイルフォーマットに符号化するプロセスを示す。ハイブリッド順守グラフはその後、システムの順守違反及び／又は脆弱性を評価するべく使用される。
【００２９】
ステップ１２において、サイバー物理システム構成要素によって資産データファイルが資産として構築かつ符号化される。各構成要素は、サイバー構成要素又は物理的構成要素のいずれであっても、資産データファイルにおいて一意的な識別子により記述又は代表される。上述のように、構成要素は、コンピュータ、サーバ等のようなサイバー構成要素であり得るか、又はセンサ、バーナ、ボイラ等のような物理的構成要素又は機器であり得る。
【００３０】
資産に関連付けられた品質は、ステップ１４において記述又は符号化される。資産データファイルは、各資産の機能、動作範囲制限、現行動作条件、性能基準等（例えば動作システム、高温警報限度、現行動作温度等）を記述する、各資産に関連付けられた挙動特性のような品質を含むように符号化される。本発明にとって詳しくは、これらの品質は、罰金、規制ペナルティ、法的制裁、ダウンタイム及び／又は他の、規制違反、安全保守若しくは他の順守違反の結果を含む。例えば、品質は、サイバー物理システムにおける、規制上の排出要件を満たさない機器の規制違反に関連付けられた罰金であり得るか、又は品質は、保守違反に対するダウンタイム、機器交換コスト等であり得る。本開示全体を通して、かかる違反の結果は「順守ペナルティ」と称され、罰金、規制ペナルティ、法的制裁、ダウンタイム及び／又は他の順守要件違反結果を含む。加えて、セキュリティ問題がモデルに含まれる場合、品質は、攻撃者の標的及び初期攻撃者アクセスを含み得る。一般に、セキュリティ問題は、順守違反を生成し、ひいては順守ペナルティをもたらすものに限られる。
【００３１】
資産トポロジは、ステップ１６において記述又は符号化される。上述のように、トポロジは、サイバー物理システムにおける資産間の接続又は関係である。換言すれば、かかる資産が互いに、一方向通信又は双方向通信のような相互作用をする態様である。一般に、トポロジは、資産データファイルにおいて資産及び品質とともに符号化される。それゆえ、資産データファイルは、サイバー物理システムにおける資産（物）、各資産の動作品質、品質としての各資産の順守ペナルティタイプ、及びトポロジとしての資産間の接続の一覧からなる。
【００３２】
事象データファイルは、ステップ１８のセキュリティルールを含むシステム動作ルールによって及びステップ２０の順守違反によって作られかつ符号化される。したがって、システムの動作モード及び挙動が事象としてモデル化される結果、事象データファイルが、動作ルールとしての当該動作モード及び挙動によって符号化できるようになる。これらは、通常の又はシステムにより許容されるアクションであるが、事象としてモデル化される結果、通常動作の一連鎖が、量子化された時間増分を介した時間経過に先行し又は追従することができる。詳しくは、セキュリティ攻撃に対する事象が、サイバー物理システム又はその構成要素に対する不順守状態をもたらし得る事象となる。各事象に対する事前条件は、特定の挙動が生じ得る条件を文書化する。事後条件は、各事象に応答してシステムがどのように変化するのかを識別する。一般に、事後条件は品質の削除又は挿入のいずれかである。上述のように、事後条件は、後続状態のための事前条件として機能することができる。したがって、事前条件は、上述のような生成中に一状態にマッチングされる。事前条件が当該状態にマッチングすると、当該状態は、後継状態を生成するべく事後条件によって変更される。
【００３３】
ステップ２０において、順守事象のための事前条件が、不順守につながるシステム内の条件を文書化する。事後条件が、当該アクションに応答してシステム状態を更新し、ペナルティ全体を代表する品質又はシステムの不順守レベルを代表する他のなんらかの測定基準を向上させる。サイバー物理システムの順守に向けられたハイブリッド順守グラフに対しては、順守違反事象のそれぞれから得られた全体的な結果状態が、目標状態すなわち違反状態を代表する。
【００３４】
セキュリティ問題に対しては一般に、事前条件が、特定タイプのサイバー攻撃となり得ることで一状態にマッチングする。ただし、当該状態がかかる攻撃に敏感な場合である。サイバー攻撃のための事後条件は、かかる攻撃が行われた後にシステムに生じる変化となる。例えば、サイバー物理システムが、弱いＳＳＨ公開鍵の事前条件を備えたサイバー構成要素の初期状態を有するかもしれないので、この事前条件に対して生じる挙動が、当該弱いＳＳＨ公開鍵を使用して個人鍵を見つける攻撃となる。したがって、事後条件は、個人鍵を使用するユーザとしてサイバー構成要素にログインすることとなる。サイバー攻撃の目標状態は、暗号化された文書にアクセスしてサイバーネットワーク又はその構成要素へのルートアクセスを取得することとなり得る。
【００３５】
順守問題に対しては一般に、事前条件は、動作モード及びルール、又は違反モード及びルールとなり得る。事後条件は、かかるモード及びルールの適用後にシステムに生じる変化となる。例えば、機器構成要素は、過熱が生じる温度を定義する量を有し得る。事前条件は機器構成要素の現行温度となり、挙動は、冷却なしの当該機器構成要素の動作時間に起因する温度上昇となり、事後条件は温度上昇となる。目標状態は、符号化された順守違反と組み合わされると、冷却ファンを制御する熱センサの保守違反のような順守違反を示す過熱温度を超過することとなるかもしれない。セキュリティ事象は、当該程度までサイバー物理順守モデルに組み入れられると、一般に、サイバー物理システムを順守違反に置くことという目標状態をもたらすサイバー攻撃となり得る。上述の例においてセキュリティ事象は、センサが構成要素温度を読み違えさせ、ひいては構成要素の過熱を引き起こすことをもたらすサイバー攻撃となるかもしれない。
【００３６】
一般に、ステップ１２、１４、１６、１８及び２０は、順守要件モデルの構築を代表する。ステップ１２、１４、１６、１８及び２０は、任意の順序で行うことができる。ひとたびモデルが調製かつ符号化されると、ハイブリッド順守グラフを、生成フェーズであるステップ２２において生成することができる。ハイブリッド順守グラフの生成は、状態空間をその事象に対して閉じることによって当該モデルからグラフを構築するプロセスである。これは、ほとんどの実行作業が集中する場所である。時間の代表を可能にする作業は、生成フェーズとモデル化フェーズとの間で共有される。状態遷移が進行することへの制約（例えば単調性）も、生成カテゴリに分類される。
【００３７】
ここで図２を参照すると、事象データファイル、資産データファイル及び初期状態からハイブリッド順守グラフを生成するプロセスを見ることができる。初期状態すなわち開始状態がステップ２４において定義される。初期状態は、当該初期状態の資産及び品質を支配するサイバー物理システムの構成要素に対して一以上の事前条件によって定義される。
【００３８】
ステップ２６において、すべての状態の処理が完了したか否かが決定される。初期状態に対し、典型的にはすべての状態が未処理である。完了すればモデルは、エラーを求めて分析される。次にステップ２８において、事象データファイル３０及び資産データファイル３２から情報が取得される。初期状態に関連付けられた事前条件を有する事象が当該初期状態に適用され、当該初期状態から到達可能な新状態又は後継状態が識別される。資産データファイルは、システムにおける資産（物）、各資産に関連付けられた品質又は特性、及び資産間のトポロジの一覧を含む。事象データファイルは、一組の事前条件が実行可能となる前に真であることを要求する事象の一覧を含む。各事象は、当該事象が現行システム状態に対して行う変更を代表及び文書化する一組の事後条件を一組の事前条件に関連付ける。事後条件は後継状態を生成する。引き続き、後継状態はステップ３４において、状態の一覧に対し、以前に識別されていたか否かを決定するべく検討される。この状態は、以前に識別されていなかった場合、ステップ３６において状態の一覧に追加される。後継状態は、状態の一覧にすでに存在する場合は追加されないが、辺が現行状態からその新状態へと追加されてプロセスは、追加事象の適用を試みるステップ３８へと進む。ステップ３６が完了すると、すべての事象が初期状態に対して検査されたか否かがステップ３８において決定される。特にサイバー物理システムの複雑性が高まると、同じ組の事前条件が多重組の事後条件に関連付けられ得るので、多重事象を任意の状態に適用し、ひいては多重後継状態を単一の現行状態から生成することができる。したがって、さらなる事象が初期状態に適用される場合、当該さらなる事象は、さらなる後継状態が到達可能か否かを見るべくステップ２８においてさらに処理される。さらなる事象が適用されない場合、すべての状態が処理されたか否かがステップ２６において決定される。すべての状態が処理されたわけではない場合、状態の一覧からの後継状態が現行状態として使用され、ステップ２８において、この現行状態から到達可能な任意の後継状態を識別するべく事象が適用される。当該次の後継状態がその後、ステップ３６において状態の一覧に対し、以前に識別されたか否かを決定するべく検討される。初期状態と同様、すべての適用可能事象が現行状態に当てはめられて任意の新状態が状態の一覧に追加される。事象が現行状態に適用された後、当該現行状態は、当該一覧において次の状態へと変更される。プロセスは、このようにして、すべての状態が処理されるまで続けられる。したがって、プロセスは、当該一覧におけるすべての状態がひとたび処理完了となると終結することができる。随意的に、プロセスは、初期状態からの各経路が、事前決定された基準を満たす終了状態をもたらす場合に終結することもできる。例えば、終了状態は、（１）特定経路のためのすべての状態が処理された時、又は（２）一経路における事前決定された数の状態が到達された時のいずれか最初に生じた方に設定することができる。事前決定された数の状態は、事前決定された数の事象の、一経路に沿った状態への適用によって決定することができる。それゆえ、事象が量子化された時間増分を含む場合、一経路における状態の数は、初期状態後の事前決定された時間への到達によって制限され得る。したがって、ハイブリッド順守グラフは、各経路が（１）これ以上の状態を有しない時、又は（２）初期状態後の事前決定された時間と同等の一定数の状態を生成した時のいずれかに終了する。加えて、終了状態基準は、目標状態に到達した場合に経路が終了することを含み得る。目標状態は、サイバー物理システムが順守違反にある状態である。非目標状態は、サイバー物理システムが違反にはない状態である。したがって、この最後の基準が追加されれば、ハイブリッド順守グラフは、各経路が（１）これ以上の状態を有しない時、（２）目標状態に到達した時、又は（３）初期状態後の事前決定された時間と同等の一定数の状態を生成した時に終了する。
【００３９】
状態及び当該状態を結合する経路すなわち辺の一覧はハイブリッド順守グラフを含み、グラフ構造で表示することができる。グラフは次に、サイバー物理システムが規制、安全、保守又は他の順守要件を満たすか否かを決定するべく分析され、セキュリティ要件に対しても、かかるセキュリティ事象がハイブリッド順守グラフの生成に含まれていた場合には分析することができる。一般に、かかる分析は、目標状態に到達できるかを決定し、その後、初期状態から目標状態への経路を評価することを含む。
【００４０】
ここで図３を参照すると、分析フェーズが例示される。詳しくは、図３は、サイバー物理システムが順守要件を満たすか否かを決定するべく、図２に例示されたようなプロセスによって生成されたハイブリッド順守グラフ４０を分析するアルゴリズムを例示する。プロセスはステップ４２において、サイバー物理システムの一以上の初期状態の組から初期状態を選択することにより開始する。一般には一つの初期状態のみが存在するが、多重初期状態が存在することも本発明の範囲内にある。その後、ステップ４４において、ハイブリッド攻撃グラフが、この初期状態から一以上の目標状態又は違反状態への経路を求めて探索される。いくつかの経路探索アルゴリズムを使用することができる。縦型探索及び横型探索が代表的である。縦型探索及び横型探索は双方とも、初期状態から目標状態への一組の経路を計算上効率的なアルゴリズムであり、以下にさらに詳述される。
【００４１】
初期状態から一以上の目標状態への各経路（「違反経路」）は、順守違反につながり得る事象のシナリオ又はシーケンスを代表する。換言すれば、かかる違反経路はそれぞれが、初期状態から一以上の中間状態の組を経て一以上の目標状態又は違反状態へと至る一連の遷移を代表する。経路はしばしば、目標状態に到達した場合に終了するように設定される。すなわち、目標状態は終了状態となるように設定される。かかる場合、各違反経路は一つの目標状態のみにつながる。目標状態が終了状態として設定されず、ひいては一経路が、終了状態に到達する前にいくつかの目標状態を有し得ることも本発明の範囲内にある。
【００４２】
ステップ４６において違反経路が存在すると決定されると、ステップ４８において当該経路が違反シナリオ一覧に追加され、その後プロセスはステップ５０へと進む。ステップ４８において違反経路が存在しないことが決定されると、プロセスは直接ステップ５０へと進む。ステップ５０において、追加初期状態が存在するか否かが決定される。このプロセスは各初期状態に対して反復される。システムは、単一の初期状態を有する場合が多い。違反経路の識別が完了すると、見出された経路は、ステップ５２において優先順位がつけられる。違反状態一覧にある経路は、一以上の優先順位基準によって優先順位がつけられる。優先順位基準は、違反状態の危険レベル、違反状態のペナルティタイプ（例えばペナルティの金銭的コスト）、及び、ユーザにより特定された一以上のサイバー物理システム構成要素を含み得る。得られた経路分析は、違反状態への一以上の経路を示し又は非安全状態への経路が識別されなかったことを報告するユーザ可読出力形式で印刷又は表示される。加えて、経路は、英数字標識、色、一覧又は任意の他の適切な形式によって優先順位レベルを示すことができる。
【００４３】
上述のように、２つの代表的経路探索アルゴリズムは、縦型探索及び横型探索である。縦型探索において、グラフは、初期状態から開始し、現れる第１子状態へと進み、その後現れる第１孫状態へと進み、及び、このようにして子のない状態（終了状態）に到達するまで続く。この時点で、探索は、探究を終えていない最近の状態まで戻って当該状態の次の未探究子状態へと進むように引き返す。各状態はまた、目標状態であるか否かを見るべくチェックすることができる。経路に目標状態が存在すれば、当該経路は、違反状態一覧とも称される経路一覧に記録される。ハイブリッド順守グラフに適用される縦型探索の一例が図４に例示される。図４に示される例において、目標状態は終了状態であるから、終了状態のみを、違反状態としてチェックする必要がある。図４において、数字は探索の順序を代表し、最終状態Ａ及びＢは非目標終了状態を代表し、並びに、目標状態Ｘ、Ｙ及びＺはサイバー物理システムの目標状態又は違反状態を代表する。
【００４４】
横型探索において、グラフは、初期状態から開始し、現れる各子状態を識別し、その後現れる各孫状態を識別し、及び、このようにして子状態を有する状態が存在しないレベルに到達するまで続く。再びであるが、各状態は、目標状態であるか否かを見るべくチェックすることができる。そうであれば、当該経路が、経路一覧すなわち違反シナリオ一覧に記録されたハイブリッド順守グラフに適用される横型探索が図５に例示される。図５に示される例において、目標状態は終了状態であるから、終了状態のみを、違反状態としてチェックする必要がある。図５において、数字は探索の順序を代表し、最終状態Ａ及びＢは非目標終了状態を代表し、並びに、目標状態Ｘ、Ｙ及びＺはサイバー物理システムの目標状態又は違反状態を代表する。
【００４５】
経路一覧において識別された経路は、サイバー物理システムにおいて順守違反を引き起こし得るアクションのシーケンスを代表する。条件、アクション及び／又は事象の当該シーケンスは収集されて、当該条件を適切に取り扱いかつ目標状態の一つに入ることがないか否かを決定するべくサイバー物理システムの検査に使用されるテストケース又は検査手順書とすることができる。当該テストケース又は検査手順書は、いくつかの側面に関してシステムの順守を確認する目的の一つ又は複数の検査機器のために、適切な制御言語に翻訳することができる。識別された経路は、一以上の順守違反を引き起こし得る条件、アクション及び／又は事象を含む。翻訳は、検査機器の制御言語を使用して、テストケース又は検査手順書の条件、アクション及び／又は事象を、当該テストケース又は検査手順書を実行する指令へと変換する。翻訳は、検査機器の各モデルにカスタマイズされ、コンピュータデバイスドライバに類似する。検査機器は、その制御言語で与えられた指令を、問題になっているシステムに当該条件、アクション、及び／又は事象を課すべく実行し、順守違反が生じたか否かを決定するべく当該システムを監視する。初期状態から特定目標状態への経路が存在しない事象において、問題になっているシステムは、当該目標状態によって代表される違反又は脆弱性からは影響を受けないことが示される。したがって、検査手順書は、サイバー物理システムが順守規定の不順守となり得るか否かを決定するべく使用することができる。
【００４６】
上述によれば、本発明に係る一実施形態において、複数の構成要素を有するサイバー物理システムにおける順守問題を体系的に識別する方法が与えられる。本方法において、第１に、サイバー物理システムのための、各構成要素が定義された順守要件モデルが構築される。さらに、構成要素に関連付けられた品質が定義される。品質は、少なくとも一つの順守ペナルティを、構成要素の少なくとも一つに関連付けられた品質として含む。順守ペナルティは、関連付けられた構成要素の順守要件が不順守であることからもたらされる。次に、サイバー物理システムに対して一以上の初期状態が定義される。その後、一組の経路が生成される。各経路は、初期状態の一つから終了状態への遷移に必要な少なくとも一つの事象を含む。遷移は、初期状態条件から終了状態へ通過中の中間状態を介した経過を含み得る。経路の生成後、終了状態が違反状態となる経路が識別される。違反状態は、少なくとも一つの構成要素の順守要件が不順守である場合である。識別された経路は、違反状態に関連付けられた順守ペナルティによってさらに識別かつ分類される。最終的に、サイバー物理システムは、識別された経路を使用して、順守ペナルティを防止するべくすなわち一つ又は複数の構成要素が不順守となることを防止するべく調整される。一般に、本方法のステップの少なくとも一部は、コンピュータに実装されたステップである。典型的には少なくとも、一組の経路を生成するステップと、違反状態を終了状態として有する経路を識別するステップと、違反状態に関連付けられた順守ペナルティを識別し及び／又は順守ペナルティによって経路を分類するステップとがコンピュータに実装される。
【００４７】
他の実施形態において、本発明の方法は、本発明の方法とは別個に生成された順守検査又は既存の順守検査の妥当性をチェックするべく使用される。ハイブリッド順守グラフが、サイバー物理システムに対し一以上の順守ペナルティを品質として、一以上の動作ルールを事象として及び一以上の違反を事象として、並びに既存の順守検査の検査条件を事象として利用することにより、上述された概要のように生成される。得られたハイブリッド順守グラフはその後、初期状態から違反状態への任意の経路を求めて探索される。ここで、違反状態は、既存の順守検査に関連付けられた状態である。かかる経路が存在すれば、既存の順守検査は妥当である。かかる経路が存在しなければ、既存の順守検査は妥当でない。
【００４８】
他の実施形態において、本発明の方法は、サイバー物理システムに対して機器又は構成要素の変更を行うことに使用される。変更は、機器アップグレード、交換又は追加であり得る。本方法において、サイバー物理システムにおける変更対象機器が最初に識別される（「当初機器」）。かかる識別は、機器変更がどうなるのか、すなわち、影響を受ける機器、並びに新たな又はアップグレードされた機器が何であるか及びそれがどのように動作するか、を識別することを含む。次に、ハイブリッド順守グラフが、一以上の順守ペナルティを品質として、一以上の動作ルールを事象として、並びに一以上の違反を事象として及び検査条件を事象として利用することにより、上述された概要のように生成される。動作ルールは少なくとも部分的には、変更される機器からもたらされる動作変更に基づく。生成されたハイブリッド順守グラフはその後、初期状態から、変更される機器に関連付けられた違反状態への経路を求めて探索される。かかる経路が存在すれば、サイバー物理システムは、違反状態が生じないように調整される。かかる調整は、サイバー物理システムにおける追加機器のアップグレード若しくは交換、サイバー物理システムの資産の関係又は接続の変更、異なる機器アップグレード、交換若しくは追加の使用、又は当初機器の修復を含む。
【００４９】
３．例
【００５０】
ハイブリッド順守グラフを生成する上述の方法が、簡略化された変電所切り替えシステムに適用された。変電所は２つの必須構成要素を有する。高電圧を搬送する主要又は一次回路、及び補助又は二次回路である。主要回路は、母線システム（３つの低インピーダンス導体）と、切り替え機器を介した当該母線システムの電力線、変圧器及びその他への接続を容易にする構成要素とからなる。変電所は、切り替え構成要素（電力線を接続）だけでなく、保護、制御及び測定に必要なすべての構成要素も含む複数のベイに分割される。ベイは、その用途に従って名付けられる。例えば、変圧器ベイは電力線を変圧器に接続する。補助又は二次回路は、測定、信号伝達、制御及び保護デバイスを含む。
【００５１】
サイバーセキュリティの観点から及び安全上の理由により、変電所における切り替え制御の責任を負うＳＣＡＤＡ（Supervisory Control and Data Acquisition（監視制御データ収集））システムを保護することが絶対必要である。その主要タスクは、慎重に設計されたアクションシーケンス、すなわち回路を隔離する継電器、遮断器、断路器の動作に従って事象及び指令に応答することからなる。例えば断路器は、非常に小さな電流をオン及びオフに切り替えるべく設計されるので、回路遮断器の断路済み部品間の隔離クリアランスを与えるべく使用されるのが典型的である。
【００５２】
例えば、図６に例示されるように、変電所ベイにおいて接続された母線が考慮された。母線において、Ｑ３９は断路器であり、Ｑ１９は遮断器であった（変電所とＱ１９との間の断路器は簡単のため図６には示されない）。この場合、断路器における制限ゆえに、線は以下の２つのステップシーケンスに従ってオフに切り替えられる。
１．Ｑ１９を使用して電流を遮断し（Ｑ１９を開）、及び
２．線断路器Ｑ３９を開にして当該線を遮断器から隔離する。
【００５３】
さらに、断路器（Ｑ３９）は、遮断器（Ｑ１９）が当該線が放電するのに十分な時間を許容した後、少なくとも２ｍｓ（ミリ秒）は開とする必要がある。断路器（Ｑ３９）が、遮断器（Ｑ１９）が開となって２ｍｓ以内に開となれば、アーク放電が生じ得る。この条件は避ける必要がある。２つの規定（ルール）をもたらす要件に従う必要がある。
規定１：遮断器（Ｑ１９）は、断路器（Ｑ３９）が開とされる前に開としなければならない。
規定２：断路器（Ｑ３９）は、遮断器（Ｑ１９）が開となった後少なくとも２ｍｓは開としなければならない。
【００５４】
これらの構成要素の動作は、ネットワークを介して適切な指令を送ることによって生じるのが典型的である。したがって、例えば、構成要素の誤った動作が、セキュリティ原因又は非セキュリティ原因の結果として生じ得る。侵入者がネットワークを、動作シーケンスが続かないような態様で攻撃したとすれば、このことが大きな損害を引き起こすかもしれない。例えば、断路器Ｑ３９が最初に開とされたとすれば、このことが、小爆発のように見える電気アーク放電を引き起こすだろう。これは、侵入者がＩＥＤ（インテリジェント電子デバイス）にアクセスするアクセス制御メカニズムをバイパスさせることにより、又はネットワークへのアクセスを得てメッセージを直接操作することにより、生じるかもしれない。故障を引き起こす侵入者の攻撃が、セキュリティ原因となる。代替的に、構成要素の誤った動作は、故意の攻撃以外のものの結果かもしれない。例えば、故障は、故意でない誤り（ヒューマンエラー）、非攻撃関連故障（例えば欠陥ハードウェア）、又は、構成要素の誤った動作を防止し得る一以上の保護手段を欠いた動作手順からもたらされるかもしれない。故障を引き起こす故意ではない原因が、非セキュリティ原因となる。
【００５５】
図６のネットワークが、ハイブリッド順守グラフ生成器ツールにおいてモデル化され、ハイブリッド順守グラフ（ＨＣＧ）が生成された。得られたＨＣＧが図７に例示される。状態（丸で囲まれた数字を参照）３、７、１０及び１３は、回路遮断器を開にする適切なプロセスの後に断路器が続かなかった故障（電気アーク）状態を代表する。この例は、当該例の開始時（通常動作）に断路器及び回路遮断器が閉であったことを仮定する。
【００５６】
２つの可能な故障条件が存在した。第１は、断路器（Ｑ３９）が、遮断器（Ｑ１９）の前に開とされる場合であった。第２は、断路器（Ｑ３９）が、遮断器（Ｑ１９）の２ｍｓ（ミリ秒）以内に開とされる場合であった。時間経過は、時間を１ｍｓ（ミリ秒）進める「時間経過」事象によってモデル化された。ここで、時間は、遮断器（Ｑ１９）が開となってからの時間を代表し、断路器（Ｑ３９）が、遮断器（Ｑ１９）の２ｍｓ以内に開となったか否かを決定するべく使用された。
【００５７】
状態０（開始状態（「ルート」と称する場合もある））から故障状態（３、７、１０及び１３）のそれぞれへと生成された経路は、故障（この例では電気アーク）につながり得る一組の検査条件を記述する。この例から取得された経路を以下に挙げる。
１．断路器Ｑ３９が、遮断器Ｑ１９の前に開とされて電気アークを引き起こす。これは、規定１の違反である（断路器が遮断器の前に開とされた）。これは、状態０→状態１→状態３の経路である。
２．断路器Ｑ３９が、遮断器Ｑ１９が開となって２ｍｓ以内に開とされ、潜在的に電気アークを引き起こす。これは、規定２の違反である（断路器が遮断器の２ｍｓ（ミリ秒）以内に開とされた）。この場合には３つの可能性が存在する。第１は、断路器Ｑ３９が遮断器Ｑ１９の後０ｍｓ（ミリ秒）で開とされる場合、第２は、断路器Ｑ３９が遮断器Ｑ１９の後１ｍｓ（ミリ秒）で開とされる場合、第３は、断路器Ｑ３９が遮断器Ｑ１９の後２ｍｓ（ミリ秒）で開とされる場合である。このケースは、断路器Ｑ３９が、遮断器Ｑ１９の後０ｍｓ（ミリ秒）で開とされる第１の可能性を調査する。この故障のトリガとなる２つの可能な経路が存在する。
ａ．第１経路は、状態０→状態２→状態４→状態７の経路である。
ｂ．第２経路は、状態０→状態１→状態４→状態７の経路である。
３．断路器Ｑ３９が、遮断器Ｑ１９が開となって２ｍｓ以内に開とされ、潜在的に電気アークを引き起こす。これは、規定２の違反である（断路器が遮断器の１ｍｓ（ミリ秒）以内に開とされた）。これはケース２に類似するが、断路器Ｑ３９は遮断器Ｑ１９の後１ｍｓ（ミリ秒）で開とされる。この故障のトリガとなる３つの可能な経路が存在する。
ａ．第１経路は、状態０→状態１→状態４→状態６→状態１０の経路である。
ｂ．第２経路は、状態０→状態２→状態４→状態６→状態１０の経路である。
ｃ．第３経路は、状態０→状態２→状態５→状態６→状態１０の経路である。
４．断路器Ｑ３９が、遮断器Ｑ１９が開となって２ｍｓ以内に開とされ、潜在的に電気アークを引き起こす。これは規定２の違反である（断路器が遮断器の２ｍｓ（ミリ秒）以内に開とされた）。これはケース２に類似するが、断路器Ｑ３９は遮断器Ｑ１９の後２ｍｓ（ミリ秒）で開とされる。この故障のトリガには４つの可能な経路が存在する。
ａ．第１経路は、状態０→状態１→状態４→状態６→状態９→状態１３の経路である。
ｂ．第２経路は、状態０→状態２→状態４→状態６→状態９→状態１３の経路である。
ｃ．第３経路は、状態０→状態２→状態５→状態６→状態９→状態１３の経路である。
ｄ．第４経路は、状態０→状態２→状態５→状態８→状態９→状態１３の経路である。
【００５８】
故障の原因は、上述した２つの規定の一つの違反によりもたらされる。いずれの故障のルート原因も、攻撃者が故意にシステムを修正することにより、欠陥手順を使用する適法な職員による通常動作を介し、又は、適法な職員による誤った動作（若しくは手順の実行）を介する。最後の２つの原因は、非攻撃者（非セキュリティ）原因としてまとめることができる。この方法は、故意の攻撃者により引き起こされた故障、及び非攻撃者（非セキュリティ）により引き起こされた故障に適用される。それゆえ、この方法は、セキュリティ特性並びに規定及び安全慣行の順守を評価するべく使用することができる。
【００５９】
開示の発明は好ましい実施形態に関して詳細に示されかつ述べられたが、当業者であれば、特許請求の範囲に記載された本発明の要旨及び範囲を逸脱することなしに、形態及び詳細な領域において様々な変更がなし得ることがわかる。それゆえ、本発明は、述べられた目的及び利点だけでなくそこに本来備わっているものも果たすべく十分に適合することができるが、当業者は多数の変更をなすことができ、かかる変更は、添付の特許請求の範囲に画定された本発明の要旨内に包括される。
【図１】
2016510147.tif 000003
【図２】
2016510147.tif 000004
【図３】
2016510147.tif 000005
【図４】
2016510147.tif 000006
【図５】
2016510147.tif 000007
【図６】
2016510147.tif 000008
【図７】
2016510147.tif 000009
【国際調査報告】
2016510147.tif 000010
2016510147.tif 000011