(57)【特許請求の範囲】
【請求項１】
電子制御システムを構成する複数の電子制御ユニットが通信に用いるバスに接続され、当該電子制御システムのセキュリティに関する評価を行う評価装置であって、
前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信する送信部と、
前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視する監視部と、
前記送信部により前記攻撃用のフレームが前記バスに送信される際における前記監視部の監視結果に基づいて前記評価を行う評価部とを備え、
前記評価装置は更に、攻撃用の複数のフレームの内容及び送信順序を示す攻撃手順情報を保持する保持部を備え、
前記送信部は、前記攻撃手順情報が示す送信順序に従って前記攻撃用の複数のフレームを前記バスに送信し、
前記評価装置は、前記バスからフレームを受信する受信部を備え、
前記攻撃手順情報は、無効化フレームの次に所定ＩＤを有する攻撃用のフレームを送信することを示し、
前記送信部は、前記受信部が前記バスから前記所定ＩＤを有するフレームを受信した際に前記無効化フレームを送信する
評価装置。
【請求項２】
電子制御システムを構成する複数の電子制御ユニットが通信に用いるバスに接続され、当該電子制御システムのセキュリティに関する評価を行う評価装置であって、
前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信する送信部と、
前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視する監視部と、
前記送信部により前記攻撃用のフレームが前記バスに送信される際における前記監視部の監視結果に基づいて前記評価を行う評価部とを備え、
前記送信部は、無効化フレームの送信後に、当該無効化フレームで無効化したフレームと、同一のＩＤを有し内容の相違する攻撃用のフレームを送信する
評価装置。
【請求項３】
電子制御システムを構成する複数の電子制御ユニットが通信に用いるバスに接続され、当該電子制御システムのセキュリティに関する評価を行う評価装置であって、
前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信する送信部と、
前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視する監視部と、
前記送信部により前記攻撃用のフレームが前記バスに送信される際における前記監視部の監視結果に基づいて前記評価を行う評価部とを備え、
前記送信部は、無効化フレームの送信後に、前記電子制御システムにおいて前記複数の電子制御ユニットのいずれかのソフトウェアの更新処理のために予め定められている更新用ＩＤを有する攻撃用のフレームを送信し、
前記監視部は、前記更新用ＩＤを有するフレームの受信に応じて保持しているソフトウェアの更新処理を行う機能を有する電子制御ユニット、又は、前記更新用ＩＤを有するフレームを送信する電子制御ユニットについて、前記監視を行う
評価装置。
【請求項４】
前記評価装置は更に、攻撃用の複数のフレームの内容及び送信順序を示す攻撃手順情報を保持する保持部を備え、
前記送信部は、前記攻撃手順情報が示す送信順序に従って前記攻撃用の複数のフレームを前記バスに送信する
請求項２又は３記載の評価装置。
【請求項５】
前記攻撃手順情報は更に攻撃用の前記複数のフレームについての送信間隔を示し、
前記送信部は、前記攻撃手順情報が示す送信順序及び送信間隔に従って前記複数のフレームを前記バスに送信する
請求項１又は４に記載の評価装置。
【請求項６】
前記複数の電子制御ユニットは、ＣＡＮ（Controller Area Network）プロトコルに従って前記バスを介して通信を行い、
前記無効化フレームは、エラーフレームである
請求項１〜５のいずれか一項に記載の評価装置。
【請求項７】
前記監視部は、前記送信部により攻撃用のフレームが前記バスに送信された場合における前記複数の電子制御ユニットのうちの１つの電子制御ユニットの動作が、所定動作と一致するか否かを検出することで、前記監視を行い、
前記評価部は、前記送信部により前記攻撃用のフレームが前記バスに送信された後における前記監視部による前記検出の結果に応じて評価結果が相違するように前記評価を行う
請求項１〜６のいずれか一項に記載の評価装置。
【請求項８】
前記評価装置は、前記バスからフレームを受信する受信部を備え、
前記監視部は、前記電子制御ユニットについての前記監視として、前記受信部により特定フレームが受信されたことの検出を行い、
前記評価部は、前記送信部により前記攻撃用のフレームが前記バスに送信された後の一定期間内に、前記特定フレームが受信されたことが前記監視部により検出されたか否かに応じて評価結果が相違するように前記評価を行う
請求項１〜６のいずれか一項に記載の評価装置。
【請求項９】
前記評価部は、評価結果として前記電子制御システムに攻撃耐性があるか否かを示す情報を出力する
請求項１〜８のいずれか一項に記載の評価装置。
【請求項１０】
バスを介して通信する複数の電子制御ユニットを備える電子制御システムのセキュリティに関する評価を行う評価システムであって、
前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信する送信部と、
前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視する監視部と、
前記送信部により前記攻撃用のフレームが前記バスに送信される際における前記監視部の監視結果に基づいて前記評価を行う評価部とを備え、
前記評価システムは更に、攻撃用の複数のフレームの内容及び送信順序を示す攻撃手順情報を保持する保持部を備え、
前記送信部は、前記攻撃手順情報が示す送信順序に従って前記攻撃用の複数のフレームを前記バスに送信し、
前記評価システムは、前記バスからフレームを受信する受信部を備え、
前記攻撃手順情報は、無効化フレームの次に所定ＩＤを有する攻撃用のフレームを送信することを示し、
前記送信部は、前記受信部が前記バスから前記所定ＩＤを有するフレームを受信した際に前記無効化フレームを送信する
評価システム。
【請求項１１】
バスを介して通信する複数の電子制御ユニットを備える電子制御システムのセキュリティに関する評価を行う評価システムであって、
前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信する送信部と、
前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視する監視部と、
前記送信部により前記攻撃用のフレームが前記バスに送信される際における前記監視部の監視結果に基づいて前記評価を行う評価部とを備え、
前記送信部は、無効化フレームの送信後に、当該無効化フレームで無効化したフレームと、同一のＩＤを有し内容の相違する攻撃用のフレームを送信する
評価システム。
【請求項１２】
バスを介して通信する複数の電子制御ユニットを備える電子制御システムのセキュリティに関する評価を行う評価システムであって、
前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信する送信部と、
前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視する監視部と、
前記送信部により前記攻撃用のフレームが前記バスに送信される際における前記監視部の監視結果に基づいて前記評価を行う評価部とを備え、
前記送信部は、無効化フレームの送信後に、前記電子制御システムにおいて前記複数の電子制御ユニットのいずれかのソフトウェアの更新処理のために予め定められている更新用ＩＤを有する攻撃用のフレームを送信し、
前記監視部は、前記更新用ＩＤを有するフレームの受信に応じて保持しているソフトウェアの更新処理を行う機能を有する電子制御ユニット、又は、前記更新用ＩＤを有するフレームを送信する電子制御ユニットについて、前記監視を行う
評価システム。
【請求項１３】
バスを介して通信する複数の電子制御ユニットを備える電子制御システムのセキュリティに関する評価を行う評価方法であって、
前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信し、
前記攻撃用のフレームが前記バスに送信される際に、前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視し、
前記監視による監視結果に基づいて前記評価を行い、
前記評価方法は更に、攻撃用の複数のフレームの内容及び送信順序を示す攻撃手順情報を保持し、
前記送信は、前記攻撃手順情報が示す送信順序に従って前記攻撃用の複数のフレームを前記バスに送信し、
前記評価方法は、前記バスからフレームを受信し、
前記攻撃手順情報は、無効化フレームの次に所定ＩＤを有する攻撃用のフレームを送信することを示し、
前記送信は、前記受信部が前記バスから前記所定ＩＤを有するフレームを受信した際に前記無効化フレームを送信する
評価方法。
【請求項１４】
バスを介して通信する複数の電子制御ユニットを備える電子制御システムのセキュリティに関する評価を行う評価方法であって、
前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信し、
前記攻撃用のフレームが前記バスに送信される際に、前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視し、
前記監視による監視結果に基づいて前記評価を行い、
前記送信は、無効化フレームの送信後に、当該無効化フレームで無効化したフレームと、同一のＩＤを有し内容の相違する攻撃用のフレームを送信する
評価方法。
【請求項１５】
バスを介して通信する複数の電子制御ユニットを備える電子制御システムのセキュリティに関する評価を行う評価方法であって、
前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信し、
前記攻撃用のフレームが前記バスに送信される際に、前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視し、
前記監視による監視結果に基づいて前記評価を行い、
前記送信は、無効化フレームの送信後に、前記電子制御システムにおいて前記複数の電子制御ユニットのいずれかのソフトウェアの更新処理のために予め定められている更新用ＩＤを有する攻撃用のフレームを送信し、
前記監視は、前記更新用ＩＤを有するフレームの受信に応じて保持しているソフトウェアの更新処理を行う機能を有する電子制御ユニット、又は、前記更新用ＩＤを有するフレームを送信する電子制御ユニットについて、前記監視を行う
評価方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、車載ネットワークシステム等の電子制御ユニットが通信を行う電子制御システムのセキュリティ（攻撃耐性等）に関する評価を行う技術に関する。
【背景技術】
【０００２】
近年、自動車には多数の電子制御ユニット（ＥＣＵ：Electronic Control Unit）が配置され、ＥＣＵをつなぐ車載ネットワークには、例えばＩＳＯ１１８９８−１で規定されているＣＡＮ（Controller Area Network）規格等が用いられる。
【０００３】
ＣＡＮでは、通信路は２本のワイヤで構成されたバスであり、バスに接続されているＥＣＵはノードと呼ばれる。バスに接続されている各ノードは、フレームと呼ばれるメッセージを送受信する。フレームを送信する送信ノードは、２本のバスに電圧をかけ、バス間で電位差を発生させることによって、レセシブと呼ばれる「１」の値と、ドミナントと呼ばれる「０」の値を送信する。複数の送信ノードが全く同一のタイミングで、レセシブとドミナントを送信した場合は、ドミナントが優先されて送信される。受信ノードは、受け取ったフレームのフォーマットに異常がある場合には、エラーフレームと呼ばれるフレームを送信する。エラーフレームとは、ドミナントを６ｂｉｔ連続して送信することで、送信ノードや他の受信ノードにフレームの異常を通知するものである。
【０００４】
車載ネットワークに対する攻撃としては、攻撃者が車内の情報端末に無線通信でアクセスし、情報端末のプログラムを不正に書き換えてその情報端末から車載ネットワークに対して任意のＣＡＮメッセージを送信し、車載ＥＣＵにつながるアクチュエータを運転者の意図に反して制御するような攻撃が知られている。自動車の運転自動化等に向けて、車載ＥＣＵ自体がＶ２Ｘ（車車間通信（Ｖ２Ｖ：Vehicle to Vehicle）及び路車間通信（Ｖ２Ｉ：Vehicle to Infrastructure））等の無線通信の機能を搭載する状況になれば、情報端末と同様に、Ｖ２Ｘに対応するＥＣＵのプログラムが不正に書き換えられ、攻撃に利用され得る。
【０００５】
攻撃対策の評価手法については、現状ではまだ研究が少ないが、例えば、非特許文献１には、単体の車載ＥＣＵにデータを送信してその応答に注目することで不具合（プログラミング間違いによるバグの混入等）を見つけるファジング手法が開示されている。
【先行技術文献】
【非特許文献】
【０００６】
【非特許文献１】松本勉、小林優希、土屋遊、吉田直樹、森田伸義、萱島信、「車載ＥＣＵに対するＣＡＮ経由のファジング手法」、ＳＣＩＳ２０１５、２０１５年１月２０日
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかしながら、非特許文献１の手法は、単体の車載ＥＣＵの不具合を見つけることはできても、車載ネットワークを形成する複数のＥＣＵで構成されるシステム（電子制御システム）を評価対象としてセキュリティ（評価対象に施されたセキュリティ対策技術が攻撃を適切に防御できるか否かという攻撃耐性等）に関する評価を行えるものではない。
【０００８】
そこで、本発明は、複数のＥＣＵから構成される電子制御システムを評価対象としてセキュリティに関する評価を行い得る評価装置を提供する。また、本発明は、複数のＥＣＵから構成される電子制御システムのセキュリティに関する評価を行い得る評価システム及びその評価のための評価方法を提供する。
【課題を解決するための手段】
【０００９】
上記課題を解決するために本発明の一態様に係る評価装置は、電子制御システムを構成する複数の電子制御ユニットが通信に用いるバスに接続され、当該電子制御システムのセキュリティに関する評価を行う評価装置であって、前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信する送信部と、前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視する監視部と、前記送信部により前記攻撃用のフレームが前記バスに送信される際における前記監視部の監視結果に基づいて前記評価を行う評価部とを備える評価装置である。
【００１０】
また、上記課題を解決するために本発明の一態様に係る評価システムは、バスを介して通信する複数の電子制御ユニットを備える電子制御システムのセキュリティに関する評価を行う評価システムであって、前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信する送信部と、前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視する監視部と、前記送信部により前記攻撃用のフレームが前記バスに送信される際における前記監視部の監視結果に基づいて前記評価を行う評価部とを備える評価システムである。
【００１１】
また、上記課題を解決するために本発明の一態様に係る評価方法は、バスを介して通信する複数の電子制御ユニットを備える電子制御システムのセキュリティに関する評価を行う評価方法であって、前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信し、前記攻撃用のフレームが前記バスに送信される際に、前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視し、前記監視による監視結果に基づいて前記評価を行う評価方法である。
【発明の効果】
【００１２】
本発明によれば、複数のＥＣＵから構成される電子制御システムの攻撃耐性（電子制御システムに施されたセキュリティ対策技術が攻撃を適切に防御できるか否か等）について評価することが可能となる。
【図面の簡単な説明】
【００１３】
【図１】実施の形態に係る評価システムの概略構成を示す構成図である。
【図２】評価システムにおける評価装置の構成図である。
【図３】評価対象の電子制御システムにおける書換（書き換え）実施ＥＣＵの構成図である。
【図４】評価対象の電子制御システムにおける被書換ＥＣＵの構成図である。
【図５】評価対象の電子制御システムにおけるセキュリティＥＣＵの構成図である。
【図６】評価装置の保持部が保持する攻撃手順情報の一例を示す図である。
【図７】評価装置の保持部が保持する攻撃手順情報の他の一例を示す図である。
【図８】電子制御システムにおけるソフトウェアの更新に係る動作例を示すシーケンス図である。
【図９】評価システムの動作例１を示すシーケンス図である（図１０に続く）。
【図１０】評価システムの動作例１を示すシーケンス図である（図９から続く）。
【図１１】評価システムの動作例２を示すシーケンス図である（図１２に続く）。
【図１２】評価システムの動作例２を示すシーケンス図である（図１１から続く）。
【図１３】評価システムの動作例３を示すシーケンス図である（図１４に続く）。
【図１４】評価システムの動作例３を示すシーケンス図である（図１３から続く）。
【図１５】評価システムの動作例４を示すシーケンス図である（図１６に続く）。
【図１６】評価システムの動作例４を示すシーケンス図である（図１５から続く）。
【図１７】評価システムの動作例５を示すシーケンス図である（図１８に続く）。
【図１８】評価システムの動作例５を示すシーケンス図である（図１７から続く）。
【発明を実施するための形態】
【００１４】
本発明の一態様に係る評価装置は、電子制御システムを構成する複数の電子制御ユニットが通信に用いるバスに接続され、当該電子制御システムのセキュリティに関する評価を行う評価装置であって、前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信する送信部と、前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視する監視部と、前記送信部により前記攻撃用のフレームが前記バスに送信される際における前記監視部の監視結果に基づいて前記評価を行う評価部とを備える評価装置である。監視部は、送信部により攻撃用のフレーム（例えばＣＡＮのデータフレーム、エラーフレーム等）がバスに送信される際に（例えば、送信直後に、或いは、送信直前から送信直後に亘り）、電子制御ユニット（ＥＣＵ）について直接又は間接的に監視し得る。これにより、複数のＥＣＵから構成される電子制御システムを評価対象として、フレームの送信に基づくＥＣＵへの攻撃への防御機能等といったセキュリティ機能（攻撃耐性等）の評価を行い得る。
【００１５】
また、例えば、前記複数の電子制御ユニットは、ＣＡＮ（Controller Area Network）プロトコルに従って前記バスを介して通信を行い、前記無効化フレームは、エラーフレームであることとしても良い。これにより、ＥＣＵ間でフレームの授受を行うためのＣＡＮに従うネットワークにおける、エラーフレームを含む攻撃用のフレームの送信による攻撃に対するセキュリティ機能の評価が可能となり得る。
【００１６】
また、例えば、前記評価装置は更に、攻撃用の複数のフレームの内容及び送信順序を示す攻撃手順情報を保持する保持部を備え、前記送信部は、前記攻撃手順情報が示す送信順序に従って前記攻撃用の複数のフレームを前記バスに送信することとしても良い。これにより、複数のフレームの送信順序等で定まる攻撃方法に対する防御機能等の評価が可能となり得る。
【００１７】
また、例えば、前記評価装置は、前記バスからフレームを受信する受信部を備え、前記攻撃手順情報は、エラーフレームの次に所定ＩＤを有する攻撃用のフレームを送信することを示し、前記送信部は、前記受信部が前記バスから前記所定ＩＤを有するフレームを受信した際に前記エラーフレームを送信することとしても良い。これにより、例えば、電子制御システムにおいて所定ＩＤを有するフレームの送信元として規定されているＥＣＵになりすまして攻撃する攻撃方法に対するセキュリティ機能の評価が可能となり得る。
【００１８】
また、例えば、前記攻撃手順情報は更に攻撃用の前記複数のフレームについての送信間隔を示し、前記送信部は、前記攻撃手順情報が示す送信順序及び送信間隔に従って前記複数のフレームを前記バスに送信することとしても良い。これにより、複数のフレームの送信順序及び送信間隔で定まる攻撃方法に対する防御機能等の評価が可能となり得る。
【００１９】
また、例えば、前記送信部は、エラーフレームの送信後に、当該エラーフレームで無効化したフレームと、同一のＩＤを有し内容の相違する攻撃用のフレームを送信することとしても良い。これにより、例えば、電子制御システムにおいてバスに送信されたフレームをエラーフレームで無効化して内容を一部変更したフレームを送信するという比較的容易に実施可能な攻撃方法を用いることで効率的なセキュリティ機能の評価が可能となり得る。
【００２０】
また、例えば、前記送信部は、エラーフレームの送信後に、前記電子制御システムにおいて前記複数の電子制御ユニットのいずれかのソフトウェアの更新処理のために予め定められている更新用ＩＤを有する攻撃用のフレームを送信し、前記監視部は、前記更新用ＩＤを有するフレームの受信に応じて保持しているソフトウェアの更新処理を行う機能を有する電子制御ユニット、又は、前記更新用ＩＤを有するフレームを送信する電子制御ユニットについて、前記監視を行うこととしても良い。ソフトウェアの更新処理は、更新そのものであっても良いし、更新の前処理や後処理といった適切な更新のために行われる付帯処理等であっても良いし、両方を含んでいても良い。これにより、例えば、攻撃者が電子制御システムの一部のＥＣＵを支配するための攻撃の一種であるところの、ＥＣＵのファームウェア等といったソフトウェアの更新に関連した攻撃に対する電子制御システムのセキュリティ機能の評価が可能となり得る。
【００２１】
また、例えば、前記監視部は、前記送信部により攻撃用のフレームが前記バスに送信された場合における前記複数の電子制御ユニットのうちの１つの電子制御ユニットの動作が、所定動作と一致するか否かを検出することで、前記監視を行い、前記評価部は、前記送信部により前記攻撃用のフレームが前記バスに送信された後における前記監視部による前記検出の結果に応じて評価結果が相違するように前記評価を行うこととしても良い。所定動作は、攻撃が成功した場合に予測（期待）されるＥＣＵの動作、攻撃が失敗した場合に予測されるＥＣＵの動作、正規のフレームを受信した場合におけるＥＣＵの通常の動作等であり得る。これにより、電子制御システムのセキュリティ機能の適切な評価が可能となり得る。
【００２２】
また、例えば、前記評価装置は、前記バスからフレームを受信する受信部を備え、前記監視部は、前記電子制御ユニットについての前記監視として、前記受信部により特定フレームが受信されたことの検出を行い、前記評価部は、前記送信部により前記攻撃用のフレームが前記バスに送信された後の一定期間内に、前記特定フレームが受信されたことが前記監視部により検出されたか否かに応じて評価結果が相違するように前記評価を行うこととしても良い。特定フレームは、例えば攻撃が成功した場合或いは失敗した場合に送信されることが予測（期待）されるフレームであり、例えば、電子制御システムで規定されたフレームのＩＤにより識別可能である。これにより、例えばＥＣＵと直接通信する等に依らなくても、バスの監視により適切に電子制御システムを評価し得る。
【００２３】
また、例えば、前記評価部は、評価結果として前記電子制御システムに攻撃耐性があるか否かを示す情報を出力することとしても良い。これにより、例えば、評価装置の利用者等は、電子制御システムに攻撃耐性があるか否かを知り得る。
【００２４】
また、本発明の一態様に係る評価システムは、バスを介して通信する複数の電子制御ユニットを備える電子制御システムのセキュリティに関する評価を行う評価システムであって、前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信する送信部と、前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視する監視部と、前記送信部により前記攻撃用のフレームが前記バスに送信される際における前記監視部の監視結果に基づいて前記評価を行う評価部とを備える評価システムである。これにより、複数のＥＣＵから構成される電子制御システムにおけるＥＣＵへのフレームの送信による攻撃への防御機能等といったセキュリティ機能の評価が可能となり得る。
【００２５】
また、本発明の一態様に係る評価方法は、バスを介して通信する複数の電子制御ユニットを備える電子制御システムのセキュリティに関する評価を行う評価方法であって、前記バス上のフレームを無効化する無効化フレームを含む、１つ以上の攻撃用のフレームを、前記バスに送信し、前記攻撃用のフレームが前記バスに送信される際に、前記複数の電子制御ユニットのうち１つ以上の電子制御ユニットについて監視し、前記監視による監視結果に基づいて前記評価を行う評価方法である。これにより、複数のＥＣＵから構成される電子制御システムを評価対象として、フレームの送信による攻撃への防御機能等といったセキュリティ機能の評価が可能となり得る。
【００２６】
なお、これらの全般的又は具体的な態様は、システム、方法、集積回路、コンピュータプログラム又はコンピュータで読み取り可能なＣＤ−ＲＯＭ等の記録媒体で実現されても良く、システム、方法、集積回路、コンピュータプログラム又は記録媒体の任意な組み合わせで実現されても良い。
【００２７】
以下、実施の形態に係る評価システムについて、図面を参照しながら説明する。ここで示す実施の形態は、いずれも本発明の一具体例を示すものである。従って、以下の実施の形態で示される数値、構成要素、構成要素の配置及び接続形態、並びに、ステップ（工程）及びステップの順序等は、一例であって本発明を限定するものではない。以下の実施の形態における構成要素のうち、独立請求項に記載されていない構成要素については、任意に付加可能な構成要素である。また、各図は、模式図であり、必ずしも厳密に図示されたものではない。
【００２８】
（実施の形態１）
以下、自動車（車両）に搭載され、バスを介して通信する複数の電子制御ユニット（ＥＣＵ）を含んで構成される車載ネットワークシステム（電子制御システム）のセキュリティに関する評価を行う評価装置及び評価方法、並びに、電子制御システムと評価装置とを含む評価システムについて説明する。
【００２９】
［１．１  評価システム１０の構成］
図１は、評価システム１０の概略構成を示す構成図である。評価システム１０は、同図に示すように、評価装置１０１と、電子制御システム１１とを含んで構成される。評価システム１０は、電子制御システム１１を評価対象として、電子制御システム１１の攻撃耐性（攻撃に対して防御を行うセキュリティ対策技術が適切に作用しているか否か等）について評価を行う。
【００３０】
電子制御システム１１は、車載ネットワークシステムであり、車両内の制御装置、センサ、アクチュエータ（例えば電子制御可能にされたステアリング、アクセル、ブレーキ等）、ユーザインタフェース装置等の各種機器に接続されて、車内のバス（ＣＡＮバス）を介してフレームの送受信を行う複数の電子制御ユニット（ＥＣＵ）を含んで構成される車載ネットワークを備える。電子制御システム１１では、各ＥＣＵがフレームを授受して連携することで、例えば、先進運転者支援システム（ＡＤＡＳ：Advanced Driver Assistance System）の一機能である駐車支援機能、車線維持支援機能、衝突回避支援機能等の機能を実現する。各ＥＣＵは、ソフトウェアにより制御されており、ＥＣＵのソフトウェアは、ある種のフレームのＣＡＮバスでの授受を含む手順により書き換え（更新）可能である。
【００３１】
車内には多数のＥＣＵ等が含まれ得るが、ここでは説明の便宜上、一例として、電子制御システム１１は、図１に示すように、書換実施ＥＣＵ１０２、被書換ＥＣＵ１０３、及び、セキュリティＥＣＵ１０４を備えるものとして説明する。なお、各ＥＣＵは、ＣＡＮバス２０を通信路としてＣＡＮ規格（プロトコル）に従って通信を行う。ＣＡＮにおいてデータの伝送に用いられるフレームであるデータフレーム（ＣＡＮメッセージとも称する）は、ＩＤ（メッセージＩＤ）を格納するＩＤフィールド、データを格納するデータフィールド等を含むように規定されている。
【００３２】
書換実施ＥＣＵ１０２は、ＣＡＮバス２０に接続され、被書換ＥＣＵ１０３のソフトウェアの更新処理のためのＣＡＮメッセージ（データフレーム）である更新用フレームを、ＣＡＮバス２０へ送信する機能（書換実施機能）を有するＥＣＵである。更新用フレームは、電子制御システム１１においてソフトウェアの更新処理のために予め定められている更新用ＩＤをメッセージＩＤとして有するフレームである。更新用フレームとしては、例えば、書換モード遷移指示、認証鍵、メモリ消去命令、更新ソフト（更新用のプログラムである更新ソフトウェア）、更新ソフト署名（更新ソフトウェアに対するデジタル署名）、再起動指示のそれぞれを示すフレーム等がある。書換実施ＥＣＵ１０２は、例えば、更新用のソフトウェアを外部から電子制御システム１１内に取り込む機能を有するＥＣＵである。書換実施ＥＣＵ１０２は、具体例としては、カーナビゲーション機能を有するＥＣＵ、車両外部と通信する外部通信機能を有するＥＣＵ、装着された記録媒体からデータを読み取る機能を有するＥＣＵ、診断ポートに接続された診断ツール（故障診断ツール）等である。診断ポートは、車載ネットワーク（ＣＡＮバス）における、例えばＯＢＤ２（On-Board Diagnostics２）等といった診断ツール等と通信するためのインタフェースである。
【００３３】
被書換ＥＣＵ１０３は、ＣＡＮバス２０に接続され、更新用フレームの受信によって、自ＥＣＵ（被書換ＥＣＵ１０３）におけるソフトウェアを更新する機能（被書換機能）を有するＥＣＵである。被書換ＥＣＵ１０３は、例えば、アクチュエータ（例えば、ステアリング、アクセル、ブレーキ等）を制御するＥＣＵ等であっても良く、更新されるソフトウェアは、例えばそのアクチュエータの制御を含む処理のためのソフトウェアであっても良い。
【００３４】
セキュリティＥＣＵ１０４は、ＣＡＮバス２０を常時監視（モニタリング）し、例えば不正なＣＡＮメッセージ（攻撃用のＣＡＮメッセージ）が流れていることを検知した場合に、そのＣＡＮメッセージを無効化する等の対処を行う。ＣＡＮメッセージの無効化の方法としては、任意の方法を用いることができるが、例えば不正なＣＡＮメッセージに重畳させるように、ＣＡＮプロトコルで規定されたエラーフレームを送信することで無効化し得る。
【００３５】
評価装置１０１は、電子制御システム１１（評価対象）に対して施されたセキュリティ対策技術の攻撃耐性を評価する装置である。評価装置１０１は、保持する攻撃手順情報１０５に基づいて、評価対象に対して攻撃（ハッキング）を仕掛け、攻撃への反応を観測するための監視（モニタリング）を行い、監視結果に応じた評価を行う。評価装置１０１による評価の一例としては、例えば、その攻撃に対する耐性の有無（攻撃或いは防御の成否）の判定が挙げられる。評価装置１０１は、監視として具体的には、ＣＡＮバス２０を流れるフレーム（メッセージ）の監視、書換実施ＥＣＵ１０２及び被書換ＥＣＵ１０３の出力信号の監視を行う。なお、評価装置１０１は、書換実施ＥＣＵ１０２或いは被書換ＥＣＵ１０３により制御されたアクチュエータ等の挙動（動作）の監視を行うこととしても良い。攻撃手順情報１０５は、攻撃を仕掛ける際の手順（送信すべきフレームの種類、順序、タイミング、頻度等）を示す。
【００３６】
以下、評価システム１０の各構成要素について詳細に説明する。
【００３７】
［１．２  評価装置１０１の構成］
図２は、評価システム１０における評価装置１０１の構成図である。
【００３８】
評価装置１０１は、図２に示すように、監視部２００（ＣＡＮバス監視部２０３及び信号監視部２０４）と、送受信部２０１（送信部２０１ａ及び受信部２０１ｂ）と、保持部２０２と、評価部２０６と、制御部２０７と、記憶部２０８を含んで構成される。
【００３９】
評価装置１０１は、例えば、プロセッサ（マイクロプロセッサ）、メモリ等のデジタル回路、アナログ回路、通信回路、ハードディスク等を含む装置である。メモリは、ＲＯＭ、ＲＡＭ等であり、プロセッサにより実行される制御プログラム（ソフトウェアとしてのコンピュータプログラム）を記憶することができる。例えばプロセッサが、制御プログラム（コンピュータプログラム）に従って動作（各種回路の制御等）することにより、評価装置１０１は各種機能を実現することになる。なお、コンピュータプログラムは、所定の機能を達成するために、プロセッサに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
【００４０】
（１）送受信部２０１
送受信部２０１は、通信回路等により実現される。送受信部２０１は、送信部２０１ａ及び受信部２０１ｂで構成される。送信部２０１ａは、ＣＡＮバス２０に対して、ＣＡＮメッセージ（例えば、書換モード遷移指示、認証鍵、メモリ消去命令、更新ソフト、更新ソフト署名等の各種情報を示す各種のフレーム等）、或いは、エラーフレームを送信する。エラーフレームは、ＣＡＮバス２０に流れるＣＡＮメッセージを無効化し、例えば、その無効化対象となったＣＡＮメッセージを送信したＥＣＵを、バスオフ状態やエラーアクティブ状態にし得る。受信部２０１ｂは、ＣＡＮバス２０を流れるＣＡＮメッセージ（例えば書換実施ＥＣＵ１０２或いは被書換ＥＣＵ１０３により送信された、書換モード遷移指示、認証鍵、メモリ消去命令、更新ソフト、更新ソフト署名、再起動指示、認証シード、認証結果、等の各種情報を示す各種のフレーム等）を受信する。
【００４１】
（２）保持部２０２
保持部２０２は、メモリ、ハードディスク等の記憶媒体で実現され、評価装置１０１が評価対象の攻撃耐性等を評価するために仕掛ける攻撃の手順を示す攻撃手順情報１０５を記憶している。攻撃手順情報１０５は攻撃用の複数のフレーム（ＣＡＮメッセージ或いはエラーフレーム）の送信順序等を示す。攻撃手順情報１０５の詳細については後に図６及び図７を用いて説明する。
【００４２】
（３）ＣＡＮバス監視部２０３
ＣＡＮバス監視部２０３は、例えばプログラムを実行するプロセッサ等により実現され、評価対象の電子制御システム１１で複数のＥＣＵが接続されているＣＡＮバス２０を監視する。ＣＡＮバス監視部２０３は、具体的には受信部２０１ｂを介してＣＡＮメッセージを受信して、ＣＡＮメッセージに含まれるデータの中身（ペイロード）を、記憶部２０８に記録し、確認する。ＣＡＮバス監視部２０３は、例えば、書換実施ＥＣＵ１０２についての監視として、書換モード遷移指示、認証鍵、メモリ消去命令、更新ソフト、更新ソフト署名、再起動指示のそれぞれを示す更新用フレームがＣＡＮバス２０に送信されたことを検出してフレームの内容を確認する。また、ＣＡＮバス監視部２０３は、例えば、被書換ＥＣＵ１０３についての監視として、認証シード、認証結果のそれぞれを示すフレームがＣＡＮバス２０に送信されたことを検出してフレームの内容を確認する。監視部２００は、ＣＡＮバス監視部２０３により、電子制御システム１１のＥＣＵについての監視として、受信部２０１ｂにより特定フレームが受信されたことの検出を行う。この特定フレームは、特定の内容を有する予め規定されたフレームであって、フレームのＩＤ、データフィールドの内容等により特定されるフレームであり得る。この特定フレームは、攻撃用のフレームの送信による攻撃に対して電子制御システム１１の一部のＥＣＵが、特定フレームを送信する或いは送信しないことにより、攻撃が成功したか否か、防御が成功したか否か等が予め区別可能と想定されるフレームである。
【００４３】
（４）信号監視部２０４
信号監視部２０４は、書換実施ＥＣＵ１０２及び被書換ＥＣＵ１０３がＣＡＮバス２０以外の信号線等に出力した信号を観測し、信号内容を確認する。信号監視部２０４は、例えば、書換実施ＥＣＵ１０２及び被書換ＥＣＵ１０３のそれぞれが信号を出力する信号線に接続する通信回路、プログラムを実行するプロセッサ等により実現される。なお、信号監視部２０４は、例えば、書換実施ＥＣＵ１０２及び被書換ＥＣＵ１０３のそれぞれのデバッグ用の出力信号を監視するものであっても良く、電子制御システム１１の各ＥＣＵは評価に際してデバッグ用の出力信号を出力し得るように構成されることとしても良い。この場合において各ＥＣＵは、デバッグ用の出力信号として、ＥＣＵの状態を示す情報、メモリ内容を示す情報、或いは、ソフトウェアを実行するプロセッサのリセット（再起動）がなされたことを示す情報等を出力し得る構成を有していても良い。信号監視部２０４は、信号の観測により、例えば、被書換ＥＣＵ１０３がソフトウェアの更新（書き換え）に係る処理を再起動の実行によって完了したか否か等を確認し得る。監視部２００は、信号監視部２０４等により、送信部２０１ａにより攻撃用のフレームがＣＡＮバス２０に送信された場合における電子制御システム１１のいずれかのＥＣＵの動作が、所定動作（例えば、攻撃が成功した場合に予測される動作、攻撃が失敗した場合に予測される動作、正規のフレームを受信した場合における通常の動作等）と一致するか否かを検出することで、そのＥＣＵの監視を行う。
【００４４】
（５）評価部２０６
評価部２０６は、プログラムを実行するプロセッサ等により実現される。評価部２０６は、監視部２００（ＣＡＮバス監視部２０３及び信号監視部２０４）での監視による確認結果に基づいて、電子制御システム１１のセキュリティに関する評価を行う。具体的には、評価部２０６は、監視部２００による確認結果の全部又は一部と、攻撃手順情報１０５に基づいてＣＡＮメッセージを送信するときの期待値とを比較し、攻撃が成功しているか否か（例えば攻撃に対する防御機能が適切に作動したか否か）等を判定する。期待値は、攻撃結果（例えば各攻撃用のフレームの送信に対する結果）として期待される書換実施ＥＣＵ１０２或いは被書換ＥＣＵ１０３が、送信するＣＡＮメッセージ、或いは、送信する信号で示される情報（動作等）であり、予め規定され得る。評価部２０６は、送信部２０１ａにより攻撃手順情報１０５に基づく攻撃用のフレームがＣＡＮバス２０に送信される際（例えば送信直後の一定期間、或いは送信直前から送信直後まで等）における監視部２００の監視結果に基づいて評価を行う。評価部２０６は、例えば、送信部２０１ａにより攻撃手順情報１０５に示される攻撃用の複数のフレームの１つ以上がＣＡＮバス２０に送信された後の一定期間内に、期待値としての特定フレームがＣＡＮバス２０上で送信されたことがＣＡＮバス監視部２０３により検出されたか否かを判定し、特定フレームが検出されたか否かに応じて評価結果が相違するように評価を行い得る。また評価部２０６は、例えば、攻撃用のフレームの１つ以上がＣＡＮバス２０に送信された後の一定期間内に、書換実施ＥＣＵ１０２或いは被書換ＥＣＵ１０３が期待値に係る所定動作をしたことを示す信号が信号監視部２０４により検出されたか否かに応じて評価結果が相違するように評価を行い得る。
【００４５】
（６）記憶部２０８
記憶部２０８は、メモリ等の記憶媒体により構成され、偽の更新ソフト（更新ソフトウェア）、更新ソフトに対する偽の署名、更新手順、ＣＡＮバス２０から受信したＣＡＮメッセージの内容（メモリ消去命令、更新ソフト、更新ソフト署名、認証鍵、認証シード等）を保持する。
【００４６】
（７）制御部２０７
制御部２０７は、プログラムを実行するプロセッサ等により実現され、監視部２００、送受信部２０１、保持部２０２、記憶部２０８、及び、評価部２０６を管理、制御して評価装置１０１の機能を実現する。また、制御部２０７は、認証鍵の生成、確認等のために必要な演算処理を行い得る。
【００４７】
［１．３  書換実施ＥＣＵ１０２の構成］
図３は、書換実施ＥＣＵ１０２の構成図である。
【００４８】
書換実施ＥＣＵ１０２は、図３に示すように、送受信部３０１と、署名記憶部３０２と、鍵記憶部３０３と、プログラム記憶部３０４と、書換手順情報記憶部３０５と、制御部３０６とを含んで構成される。
【００４９】
書換実施ＥＣＵ１０２は、ＣＡＮバス２０に接続されたＥＣＵである。ＥＣＵは、例えば、プロセッサ、メモリ等のデジタル回路、アナログ回路、通信回路等を含む装置である。メモリは、ＲＯＭ、ＲＡＭ等であり、プロセッサにより実行される制御プログラムを記憶することができる。例えばプロセッサが、制御プログラム（コンピュータプログラム）に従って動作（各種回路の制御等）することにより、書換実施ＥＣＵ１０２は機能を果たす。
【００５０】
（１）送受信部３０１
送受信部３０１は、ＣＡＮバス２０に対してＣＡＮメッセージを送信し、ＣＡＮバス２０を流れるＣＡＮメッセージを受信する。送受信部３０１は、例えば、書換モード遷移指示、認証鍵、メモリ消去命令、更新ソフト、更新ソフト署名、再起動指示のそれぞれを示す更新用フレームを送信し、ＣＡＮバス２０に流れる認証シード、認証結果のそれぞれを示すフレームを受信する。また、送受信部３０１は、例えば、電子制御システム１１の外部（車両外部）の装置と通信する外部通信機能を担い、更新ソフト、更新ソフト署名等を外部の装置から受信する。
【００５１】
なお、書換実施ＥＣＵ１０２が被書換ＥＣＵ１０３のソフトウェアを更新するための更新処理において用いられる認証シードは、書換実施ＥＣＵ１０２と被書換ＥＣＵ１０３とが互いを認証するために用いられる情報である。また、認証鍵は、被書換ＥＣＵ１０３が送信した認証シードに基づいて、書換実施ＥＣＵ１０２が、互いに共通の秘密鍵を用いた暗号化を施すことで生成した情報である。更新処理では、書換実施ＥＣＵ１０２が、被書換ＥＣＵ１０３が送信した認証シードに基づいて共通の秘密鍵を用いた暗号化により認証鍵を生成し、認証鍵を被書換ＥＣＵ１０３へ送信し、被書換ＥＣＵ１０３が、共通の秘密鍵にて認証鍵を復号してその復号結果が先に送信した認証シードと一致すれば認証成功、一致しなければ認証不成功と判断し、判断結果である認証結果（例えば認証成功の場合に書換許可を示し認証不成功の場合に書換不許可を示す情報）を書換実施ＥＣＵ１０２に送信する。認証成功の場合において、ソフトウェアの書き換えのために、メモリ消去命令、更新ソフト、更新ソフト署名、再起動指示等が書換実施ＥＣＵ１０２から送信され、これに応じて被書換ＥＣＵ１０３ではソフトウェアの書き換え等が行われる。
【００５２】
（２）署名記憶部３０２
署名記憶部３０２は、プログラム記憶部３０４で記憶している更新ソフトに対する署名を記憶する。
【００５３】
（３）鍵記憶部３０３
鍵記憶部３０３は、被書換ＥＣＵ１０３から送信された認証シードを暗号化することで認証鍵を生成するときの暗号化に用いる鍵（秘密鍵）を記憶する。
【００５４】
（４）プログラム記憶部３０４
プログラム記憶部３０４は、被書換ＥＣＵ１０３用の更新ソフト（更新ソフトウェア）を記憶する。
【００５５】
（５）書換手順情報記憶部３０５
書換手順情報記憶部３０５は、被書換ＥＣＵ１０３のソフトウェアの更新手順（ソフトウェアの書き換えに係る処理手順）を記憶する。
【００５６】
（６）制御部３０６
制御部３０６は、送受信部３０１、署名記憶部３０２、鍵記憶部３０３、プログラム記憶部３０４、及び、書換手順情報記憶部３０５を管理、制御して、書換実施ＥＣＵ１０２の機能を実現する。即ち、制御部３０６は、書換手順情報記憶部３０５が記憶する書換手順情報（更新手順）に従って、各部を制御して、被書換ＥＣＵ１０３のソフトウェアを、更新ソフトウェアへと更新するための更新処理（各種更新用フレームの送信、認証シード及び認証結果の受信等を含む一連の処理）等を実行し得る。
【００５７】
［１．４  被書換ＥＣＵ１０３の構成］
図４は、被書換ＥＣＵ１０３の構成図である。
【００５８】
被書換ＥＣＵ１０３は、図４に示すように、送受信部４０１と、署名記憶部４０２と、鍵記憶部４０３と、プログラム記憶部４０４と、書換手順情報記憶部４０５と、制御部４０６とを含んで構成される。
【００５９】
被書換ＥＣＵ１０３は、ＣＡＮバス２０に接続されたＥＣＵであり、プロセッサ、メモリ等のデジタル回路、アナログ回路、通信回路等を含む装置である。例えばプロセッサが、メモリに格納された制御プログラムに従って動作することにより、被書換ＥＣＵ１０３は機能を果たす。
【００６０】
（１）送受信部４０１
送受信部４０１は、ＣＡＮバス２０に対してＣＡＮメッセージを送信し、ＣＡＮバス２０を流れるＣＡＮメッセージを受信する。送受信部４０１は、例えば、認証シード、認証結果のそれぞれを示すフレームを送信し、ＣＡＮバス２０に流れる書換モード遷移指示、認証鍵、メモリ消去命令、更新ソフト、更新ソフト署名、再起動指示のそれぞれを示す更新用フレームを受信する。
【００６１】
（２）署名記憶部４０２
署名記憶部４０２は、プログラム記憶部４０４で記憶している更新ソフトに対する署名を記憶する。
【００６２】
（３）鍵記憶部４０３
鍵記憶部４０３は、被書換ＥＣＵ１０３が送信した認証シードに基づいて書換実施ＥＣＵ１０２が暗号化により生成した認証鍵の復号に用いる復号鍵（秘密鍵）、及び、プログラム記憶部４０４に記憶したプログラム（更新ソフト）の署名である署名記憶部４０２に記憶した署名の正当性の検証に用いる署名検証鍵を記憶する。
【００６３】
（４）プログラム記憶部４０４
プログラム記憶部４０４は、被書換ＥＣＵ１０３のソフトウェア（例えば書換実施ＥＣＵ１０２から取得した更新ソフト等）を記憶する。
【００６４】
（５）書換手順情報記憶部４０５
書換手順情報記憶部４０５は、被書換ＥＣＵ１０３のソフトウェアの更新手順を記憶する。
【００６５】
（６）制御部４０６
制御部４０６は、送受信部４０１、署名記憶部４０２、鍵記憶部４０３、プログラム記憶部４０４、及び、書換手順情報記憶部４０５を管理、制御して、被書換ＥＣＵ１０３の機能を実現する。即ち、制御部４０６は、書換手順情報記憶部４０５が記憶する書換手順情報（更新手順）に従って、各部を制御して、被書換ＥＣＵ１０３のソフトウェアを、更新ソフトウェアへと更新するための更新処理（各種更新用フレームの受信、認証シード及び認証結果の送信等を含む一連の処理）等を実行し得る。
【００６６】
［１．５  セキュリティＥＣＵ１０４の構成］
図５は、セキュリティＥＣＵ１０４の構成図である。
【００６７】
セキュリティＥＣＵ１０４は、図５に示すように、送受信部５０１と、ＣＡＮバス監視部５０２と、制御部５０３とを含んで構成される。
【００６８】
セキュリティＥＣＵ１０４は、ＣＡＮバス２０に接続され、攻撃に対処するセキュリティ機能（防御機能等）を備えたＥＣＵである。セキュリティＥＣＵ１０４のプロセッサが、メモリに記憶された制御プログラム（コンピュータプログラム）に従って動作することにより、セキュリティＥＣＵ１０４は機能を果たす。
【００６９】
（１）送受信部５０１
送受信部５０１は、ＣＡＮバス２０を流れるＣＡＮメッセージを受信し、ＣＡＮバス監視部５０２の指示を受けてＣＡＮバス２０に、不正なＣＡＮメッセージを無効化するためにエラーフレームを送信する。
【００７０】
（２）ＣＡＮバス監視部５０２
ＣＡＮバス監視部５０２は、複数のＥＣＵが接続されているＣＡＮバス２０から送受信部５０１を介して受信したＣＡＮメッセージに含まれるデータの中身（ペイロード）を確認する。ＣＡＮバス監視部５０２は、不正なＣＡＮメッセージ（例えば電子制御システム１１において予め定められたルールに準拠していないＣＡＮメッセージ）が流れていることを確認した場合に、送受信部５０１を介してエラーフレームを送信する。ＣＡＮバス監視部５０２が、不正なＣＡＮメッセージを検知する方法としては、いかなる方法を用いても良い。
【００７１】
（３）制御部５０３
制御部５０３は、送受信部５０１及びＣＡＮバス監視部５０２を管理、制御してセキュリティＥＣＵ１０４の機能を実現する。
【００７２】
［１．６  攻撃手順情報］
評価装置１０１の保持部２０２が記憶する攻撃手順情報について説明する。図６及び図７は、それぞれ攻撃手順情報の一例を示す。
【００７３】
図６及び図７に示すように、攻撃手順情報は、例えば、評価装置１０１による評価項目毎（評価対象機能毎）に、送信メッセージ（評価対象機能の評価のための攻撃として送信すべき攻撃用のフレーム）の内容及びメッセージＩＤと、送信メッセージの送信間隔（先行フレームとの時間間隔）と、送信順序とを含む情報である。この攻撃手順情報は、例えば、電子制御システム１１に関する各種情報（仕様等）に基づいて定められる。
【００７４】
例えば、図６に示す評価対象機能が「書換実施機能１」という評価項目の例では、攻撃手順は、最初（１番目）に、エラーフレームを送信することで、被書換ＥＣＵ１０３が送信した認証シードを含むＣＡＮメッセージを無効化し、次（２番目）に、偽の認証シードを含むＣＡＮメッセージを送信し、次（３番目）に、書換実施ＥＣＵ１０２から認証シードに対応した認証鍵を受信した後に応答として、認証結果（認証応答）を含むＣＡＮメッセージを送信するという一連の手順となる。
【００７５】
例えば、図７に示す評価対象機能が「被書換機能１」という評価項目の例では、攻撃手順は、最初（１番目）に、エラーフレームを送信することで、書換実施ＥＣＵ１０２が送信したメモリ消去命令を含むＣＡＮメッセージを無効化し、次（２番目）に、メモリ消去命令を含む更新用フレーム（ＣＡＮメッセージ）を送信し、次（３番目）に、偽の更新ソフトを含む更新用フレーム（ＣＡＮメッセージ）を送信し、次（４番目）に、その偽の更新ソフトに対応した署名を含む更新用フレーム（ＣＡＮメッセージ）を送信するという一連の手順となる。なお、図７の攻撃手順情報において、更新ソフト署名を含む更新用フレームの送信に係る情報の次に、再起動指示を示す更新用フレームの送信に係る情報を含み得る。
【００７６】
このような攻撃手順情報に従って、評価装置１０１は、各評価項目について定められた攻撃用のフレームを定められた送信順序で送信することにより、電子制御システム１１を攻撃して評価する。評価装置１０１は、例えば、攻撃手順情報で、エラーフレームの次に、所定ＩＤ（例えば認証シード用のＩＤ、認証結果である認証応答用のＩＤ等）を有する攻撃用のフレームを送信することを示す場合には、受信部２０１ｂがＣＡＮバス２０から所定ＩＤを有するＣＡＮメッセージを受信した際に、まずエラーフレームを送信し、続いて所定ＩＤを有する攻撃用のフレームを送信する。この所定ＩＤは、ソフトウェアの更新処理のために予め定められている更新用ＩＤ（例えば、メモリ消去命令用のＩＤ、更新ソフト用のＩＤ、更新ソフト署名用のＩＤ、再起動指示用のＩＤ等）であっても良い。
【００７７】
［１．７  評価システム１０の動作］
以下、上述した構成を備える評価システム１０の動作について説明する。
【００７８】
まず、評価システム１０で評価装置１０１が攻撃用のフレームを送信しないときにおいて、電子制御システム１１で実施されるソフトウェアの更新に係る動作例について説明する。その後に、評価装置１０１により評価対象の電子制御システム１１を、攻撃手順情報１０５に従って攻撃（攻撃用のフレームの送信により攻撃）することで評価する動作について、評価項目毎の動作例（動作例１〜５）を説明する。
【００７９】
［１．７．１  ソフトウェアの更新の動作例］
評価装置１０１が攻撃用のフレームを送信しないときに、電子制御システム１１で実施されるソフトウェア（被書換ＥＣＵ１０３におけるソフトウェア）の更新について、図８のシーケンス図に即して説明する。図８の例では、ソフトウェアの更新は、書換実施ＥＣＵ１０２が予め定められた各種の更新用フレームを主導的に送信し、これに被書換ＥＣＵ１０３が対応することで実現される。
【００８０】
書換実施ＥＣＵ１０２は、書換モード遷移指示（書換モードへの遷移を指示する旨の情報）を含む更新用フレーム（ＣＡＮメッセージ）をＣＡＮバス２０へ送信する（ステップＳ６０１）。
【００８１】
ＣＡＮバス２０から書換モード遷移指示を含む更新用フレームを受信した被書換ＥＣＵ１０３は、認証シードを含むＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ６０２）。
【００８２】
認証シードを含むＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、受信した認証シードを鍵記憶部３０３に記憶した鍵を用いて暗号化することで認証鍵を生成し、認証鍵を含む更新用フレーム（ＣＡＮメッセージ）をＣＡＮバス２０へ送信する（ステップＳ６０３）。
【００８３】
認証鍵を含む更新用フレームを受信した被書換ＥＣＵ１０３は、受信した認証鍵を鍵記憶部４０３に記憶した鍵を用いて復号し、復号結果と送信した認証シードとの一致の確認を行う。被書換ＥＣＵ１０３は、一致していると確認した場合は、認証結果として書換許可を意味するＣＡＮメッセージをＣＡＮバス２０へ送信し、以後の更新手順の実施を許可し、一致していないと確認した場合は、認証結果として書換不許可を意味するＣＡＮメッセージをＣＡＮバス２０に送信し、以後の更新手順の実施を許可しない（ステップＳ６０４）。認証結果を含むＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、受信したＣＡＮメッセージが認証結果として書換許可を意味している場合は、以後の更新手順を実施し、書換不許可を意味している場合は、以後の更新手順を実施しない。
【００８４】
認証結果として書換許可を意味するＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、メモリ消去命令を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０５）。メモリ消去命令を含む更新用フレームを受信した被書換ＥＣＵ１０３は、プログラム記憶部４０４の記憶内容（更新ソフトを格納するための領域の内容）を消去する。
【００８５】
次に、書換実施ＥＣＵ１０２は、更新ソフトを含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０６）。なお、更新用フレームは、複数のＣＡＮメッセージで構成されていても良く、例えば、更新ソフトを含む更新用フレームは、更新ソフトのデータ量に応じて、１つ又は複数のＣＡＮメッセージで構成される。更新ソフトを含む更新用フレームを受信した被書換ＥＣＵ１０３は、プログラム記憶部４０４へ、受信した更新ソフトを書き込む。
【００８６】
次に、書換実施ＥＣＵ１０２は、更新ソフトに対応した更新ソフト署名を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０７）。更新ソフト署名を含む更新用フレームを受信した被書換ＥＣＵ１０３は、署名記憶部４０２に、受信した更新ソフト署名を書き込む。
【００８７】
最後に、書換実施ＥＣＵ１０２は、再起動指示を示す更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０８）。再起動指示を示す更新用フレームを受信した被書換ＥＣＵ１０３は、再起動（プロセッサのリセット）を実施する。再起動に際して、被書換ＥＣＵ１０３は、例えば、プログラム記憶部４０４が記憶するプログラム（更新ソフト）の署名として、署名記憶部４０２に記憶した署名が正当か否かを、鍵記憶部４０３が記憶する署名検証鍵を用いて検証し、正当であった場合はプロセッサのリセットを実行する。プロセッサがリセットされると、プロセッサにより、プログラム記憶部４０４内の更新ソフトが実行される。被書換ＥＣＵ１０３は、プログラムの署名の検証により、署名が正当でなかった場合は、更新ソフトを実行するための再起動を実行しない。なお、被書換ＥＣＵ１０３は、例えば、メモリ消去命令に対応して、プログラム記憶部４０４の記憶内容（更新ソフトを格納するための領域の内容）を消去する際に、元の記憶内容を記憶媒体（例えば不揮発性メモリ、ハードディスク等）に保存することとしても良く、更新ソフトに係る署名が正当でなかった場合に元の記憶内容をプログラム記憶部４０４に復元することとしても良い。
【００８８】
［１．７．２  評価システム１０の動作例１］
図９及び図１０は、電子制御システム１１を評価する評価システム１０の動作（動作例１）を示すシーケンス図である。動作例１では、評価装置１０１が、図６に示す書換実施機能１という評価項目に係る評価を行う例を示す。この例は、評価装置１０１が、被書換ＥＣＵ１０３になりすまして書換実施ＥＣＵ１０２に誤認識をさせる攻撃を行うことで、電子制御システム１１のセキュリティを評価する例である。以下、図９及び図１０に即して、動作例１について説明する。
【００８９】
書換実施ＥＣＵ１０２は、書換モード遷移指示を示す更新用フレーム（ＣＡＮメッセージ）をＣＡＮバス２０へ送信する（ステップＳ６０１）。書換モード遷移指示を含む更新用フレームを受信した被書換ＥＣＵ１０３は、認証シードを含むＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ６０２）。
【００９０】
評価装置１０１は、ＣＡＮバス２０からＣＡＮメッセージを受信することで、認証シードを含むＣＡＮメッセージがＣＡＮバス２０に流れていることを検知すると、そのＣＡＮメッセージ全体が書換実施ＥＣＵ１０２に受信される前に、エラーフレームを送信し、被書換ＥＣＵ１０３が送信する認証シードを含むＣＡＮメッセージを無効化する（ステップＳ７０１）。ＣＡＮバス２０上において認証シードを含むＣＡＮメッセージは、エラーフレームにより上書きされ、正しく受信できない無効なものとなる。
【００９１】
次に、評価装置１０１は、偽の認証シードを含むＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ７０２）。評価装置１０１の信号監視部２０４は、このステップＳ７０２以降の書換実施ＥＣＵ１０２の挙動の逐次監視の結果を記憶部２０８に逐次記録する。偽の認証シードを含むＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、受信した認証シードを、鍵記憶部３０３に記憶した鍵を用いて暗号化することで認証鍵を生成する。そして、書換実施ＥＣＵ１０２は、生成した認証鍵を含む更新用フレーム（ＣＡＮメッセージ）をＣＡＮバス２０へ送信する（ステップＳ６０３）。
【００９２】
認証鍵を含む更新用フレームを受信した評価装置１０１は、その受信した認証鍵の正当性に拘わらず、認証結果として書換許可を意味するＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ７０３）。
【００９３】
認証結果として書換許可を意味するＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、メモリ消去命令を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０５）。メモリ消去命令を含む更新用フレームを受信した評価装置１０１は、ＣＡＮバス監視部２０３で、その受信したメモリ消去命令を含む更新用フレームの内容を記憶部２０８に記録する。
【００９４】
次に、書換実施ＥＣＵ１０２は、更新ソフトを含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０６）。更新ソフトを含む更新用フレームを受信した評価装置１０１は、ＣＡＮバス監視部２０３により、受信した更新ソフトを記憶部２０８に記録する。
【００９５】
次に、書換実施ＥＣＵ１０２は、更新ソフトに対応した更新ソフト署名を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０７）。更新ソフト署名を含む更新用フレームを受信した被書換ＥＣＵ１０３は、ＣＡＮバス監視部２０３により、受信した更新ソフト署名を、記憶部２０８に記録する。
【００９６】
次に、書換実施ＥＣＵ１０２は、再起動指示を示す更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０８）。再起動指示を示す更新用フレームを受信した評価装置１０１は、ＣＡＮバス監視部２０３により、受信した再起動指示を示す更新用フレームの内容を記憶部２０８に記録する。
【００９７】
最後に、評価装置１０１は、記憶部２０８に記録された、ＣＡＮバス２０からの受信内容に係る情報、及び、ステップＳ７０２以降の書換実施ＥＣＵ１０２の動作に係る情報を確認することで、評価を行う（ステップＳ８０１）。即ち、評価装置１０１は、受信内容及び書換実施ＥＣＵ１０２の動作について、攻撃の期待値と比較することにより、電子制御システム１１のセキュリティの評価（攻撃の成否についての判定等）を行う。評価装置１０１は、例えば、確認した受信内容、及び、確認した書換実施ＥＣＵ１０２の動作が、攻撃の期待値（被書換ＥＣＵ１０３に対する更新用フレームの送信等の更新手順の実施と同様の動作）と同じようになっている場合に攻撃が成功していると判定する。評価装置１０１は、再起動指示を示す更新用フレーム等を受信しなくても、一定時間が経過した後（例えばステップＳ７０３での認証結果としてのＣＡＮメッセージの送信等から予め定められた時間が経過した後）において、ステップＳ８０１での評価を行い得る。このため、攻撃が失敗する場合（例えば、評価装置１０１がステップＳ７０３等で送信したＣＡＮメッセージが、セキュリティＥＣＵ１０４によるエラーフレームの送信等により無効化された場合等）についても評価可能である。また、評価装置１０１は、ＣＡＮバス監視部２０３での監視結果と、信号監視部２０４での監視結果とのうち一方のみを用いて攻撃の期待値に基づいて攻撃の成否についての判定等を行っても良い。また、評価装置１０１は、ステップＳ８０１で、評価対象である電子制御システム１１のセキュリティの評価をどのように詳しく行っても良く、例えば、攻撃全体の成否の他に、攻撃用のフレームの送信という個々の攻撃の成否を判定しても良いし、各種の防御機能それぞれが作用したか否か、防御できた程度等について確認しても良い。
【００９８】
［１．７．３  評価システム１０の動作例２］
図１１及び図１２は、電子制御システム１１を評価する評価システム１０の動作（動作例２）を示すシーケンス図である。動作例２では、評価装置１０１が、図６に示す書換実施機能２という評価項目に係る評価を行う例を示す。この例は、評価装置１０１が、被書換ＥＣＵ１０３になりすまして書換実施ＥＣＵ１０２に誤認識をさせる攻撃を行うことで、電子制御システム１１のセキュリティを評価する例である。以下、図１１及び図１２に即して、動作例２について説明する。
【００９９】
書換実施ＥＣＵ１０２は、書換モード遷移指示を示す更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０１）。書換モード遷移指示を含む更新用フレームを受信した被書換ＥＣＵ１０３は、認証シードを含むＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ６０２）。認証シードを含むＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、受信した認証シードに基づいて認証鍵を生成し、認証鍵を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０３）。認証鍵を含む更新用フレームを受信した被書換ＥＣＵ１０３は、受信した認証鍵に基づく認証結果に係るＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ６０４）。
【０１００】
評価装置１０１は、ＣＡＮバス２０から認証結果に係るＣＡＮメッセージを受信することで、認証結果に係るＣＡＮメッセージがＣＡＮバス２０に流れていることを検知すると、そのＣＡＮメッセージ全体が書換実施ＥＣＵ１０２に受信される前に、エラーフレームを送信し、被書換ＥＣＵ１０３が送信する認証結果に係るＣＡＮメッセージを無効化する（ステップＳ９０１）。ＣＡＮバス２０上において認証結果に係るＣＡＮメッセージは、エラーフレームにより上書きされ、正しく受信できない無効なものとなる。
【０１０１】
次に、評価装置１０１は、偽の認証結果として書換許可を意味するＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ９０２）。評価装置１０１の信号監視部２０４は、このステップＳ９０２以降の書換実施ＥＣＵ１０２の挙動の逐次監視の結果を記憶部２０８に逐次記録する。偽の認証結果に係る書換許可を意味するＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、以後の更新手順を実施する。即ち、書換実施ＥＣＵ１０２は、メモリ消去命令を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０５）。メモリ消去命令を含む更新用フレームを受信した評価装置１０１は、ＣＡＮバス監視部２０３で、その受信したメモリ消去命令を含む更新用フレームの内容を記憶部２０８に記録する。
【０１０２】
次に、書換実施ＥＣＵ１０２は、更新ソフトを含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０６）。更新ソフトを含む更新用フレームを受信した評価装置１０１は、ＣＡＮバス監視部２０３により、受信した更新ソフトを記憶部２０８に記録する。
【０１０３】
次に、書換実施ＥＣＵ１０２は、更新ソフトに対応した更新ソフト署名を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０７）。更新ソフト署名を含む更新用フレームを受信した被書換ＥＣＵ１０３は、ＣＡＮバス監視部２０３により、受信した更新ソフト署名を、記憶部２０８に記録する。
【０１０４】
次に、書換実施ＥＣＵ１０２は、再起動指示を示す更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０８）。再起動指示を示す更新用フレームを受信した評価装置１０１は、ＣＡＮバス監視部２０３により、受信した再起動指示を示す更新用フレームの内容を記憶部２０８に記録する。
【０１０５】
最後に、評価装置１０１は、記憶部２０８に記録された、ＣＡＮバス２０からの受信内容に係る情報、及び、ステップＳ９０２以降の書換実施ＥＣＵ１０２の動作に係る情報を確認することで、評価を行う（ステップＳ１００１）。即ち、評価装置１０１は、上述のステップＳ８０１での評価と同様に、受信内容及び書換実施ＥＣＵ１０２の動作について、攻撃の期待値と比較することにより、電子制御システム１１のセキュリティの評価（攻撃の成否についての判定等）を行う。
【０１０６】
［１．７．４  評価システム１０の動作例３］
図１３及び図１４は、電子制御システム１１を評価する評価システム１０の動作（動作例３）を示すシーケンス図である。動作例３では、評価装置１０１が、図７に示す被書換機能１という評価項目に係る評価を行う例を示す。この例は、評価装置１０１が、書換実施ＥＣＵ１０２になりすまして被書換ＥＣＵ１０３に誤認識をさせる攻撃を行うことで、電子制御システム１１のセキュリティを評価する例である。以下、図１３及び図１４に即して、動作例３について説明する。
【０１０７】
書換実施ＥＣＵ１０２は、書換モード遷移指示を示す更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０１）。書換モード遷移指示を含む更新用フレームを受信した被書換ＥＣＵ１０３は、認証シードを含むＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ６０２）。認証シードを含むＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、受信した認証シードに基づいて認証鍵を生成し、認証鍵を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０３）。認証鍵を含む更新用フレームを受信した被書換ＥＣＵ１０３は、受信した認証鍵に基づく認証結果として書換許可を意味するＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ６０４）。認証結果として書換許可を意味するＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、メモリ消去命令を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０５）。
【０１０８】
評価装置１０１は、ＣＡＮバス２０からメモリ消去命令を含む更新用フレームを受信することで、メモリ消去命令を含む更新用フレームがＣＡＮバス２０に流れていることを検知すると、そのＣＡＮメッセージ全体が被書換ＥＣＵ１０３に受信される前に、エラーフレームを送信し、書換実施ＥＣＵ１０２が送信する更新用フレームを無効化する（ステップＳ１１０１）。ＣＡＮバス２０上においてメモリ消去命令を含む更新用フレームは、エラーフレームにより上書きされ、正しく受信できない無効なものとなる。
【０１０９】
次に、評価装置１０１は、メモリ消去命令を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ１１０２）。評価装置１０１のＣＡＮバス監視部２０３及び信号監視部２０４は、このステップＳ１１０２以降の被書換ＥＣＵ１０３の動作或いは応答の逐次監視の結果を記憶部２０８に逐次記録する。例えば、信号監視部２０４は、メモリ消去命令を含む更新用フレームを受信した後の被書換ＥＣＵ１０３の動作（例えばプログラム記憶部４０４の記憶内容を消去した等）等を記憶部２０８に記録する。
【０１１０】
次に、評価装置１０１は、更新ソフトを含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ１１０３）。更新ソフトは必ずしも正規の内容である必要はなく、偽の更新ソフトであっても良い。評価装置１０１は、更新ソフトを含む更新用フレームを受信した後の被書換ＥＣＵ１０３の動作或いは応答を記憶部２０８に記録する。
【０１１１】
次に、評価装置１０１は、更新ソフトに対応した更新ソフト署名を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ１２０１）。評価装置１０１は、更新ソフト署名を含む更新用フレームを受信した後の被書換ＥＣＵ１０３の動作、応答等を記憶部２０８に記録する。なお、評価装置１０１は、更新ソフト、更新ソフト署名、署名生成に用いるために必要な鍵等の情報（更新処理に必要な情報）を、予め有していても良い。
【０１１２】
次に、評価装置１０１は、再起動指示を示す更新用フレームをＣＡＮバス２０へ送信する（ステップＳ１２０２）。評価装置１０１は、再起動指示を示す更新用フレームを受信した後の被書換ＥＣＵ１０３の動作（例えば再起動が行われたか否か等）或いは応答を記憶部２０８に記録する。
【０１１３】
最後に、評価装置１０１は、記憶部２０８に記録された、ＣＡＮバス２０からの受信内容に係る情報、及び、ステップＳ１１０２以降の被書換ＥＣＵ１０３の動作に係る情報を確認することで、評価を行う（ステップＳ１２０３）。即ち、評価装置１０１は、受信内容及び被書換ＥＣＵ１０３の動作について、攻撃の期待値と比較することにより、電子制御システム１１のセキュリティの評価（攻撃の成否についての判定等）を行う。評価装置１０１は、例えば、確認した受信内容、及び、確認した被書換ＥＣＵ１０３の動作が、攻撃の期待値（書換実施ＥＣＵ１０２から更新用フレームを受信した場合と同様の動作）と同じようになっている場合に攻撃が成功していると判定する。評価装置１０１は、ＣＡＮバス監視部２０３での監視結果と、信号監視部２０４での監視結果とのうち一方のみを用いて攻撃の期待値に基づいて攻撃の成否についての判定等を行っても良い。また、評価装置１０１は、ステップＳ１２０３で、評価対象である電子制御システム１１のセキュリティの評価をどのように詳しく行っても良く、例えば、攻撃全体の成否の他に、攻撃用のフレームの送信という個々の攻撃の成否を判定しても良いし、各種の防御機能それぞれが作用したか否か、防御できた程度等について確認しても良い。
【０１１４】
［１．７．５  評価システム１０の動作例４］
図１５及び図１６は、電子制御システム１１を評価する評価システム１０の動作（動作例４）を示すシーケンス図である。動作例４では、評価装置１０１が、図７に示す被書換機能２という評価項目に係る評価を行う例を示す。この例は、評価装置１０１が、書換実施ＥＣＵ１０２になりすまして被書換ＥＣＵ１０３に誤認識をさせる攻撃を行うことで、電子制御システム１１のセキュリティを評価する例である。以下、図１５及び図１６に即して、動作例４について説明する。
【０１１５】
書換実施ＥＣＵ１０２は、書換モード遷移指示を示す更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０１）。書換モード遷移指示を含む更新用フレームを受信した被書換ＥＣＵ１０３は、認証シードを含むＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ６０２）。認証シードを含むＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、受信した認証シードに基づいて認証鍵を生成し、認証鍵を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０３）。認証鍵を含む更新用フレームを受信した被書換ＥＣＵ１０３は、受信した認証鍵に基づく認証結果として書換許可を意味するＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ６０４）。認証結果として書換許可を意味するＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、メモリ消去命令を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０５）。メモリ消去命令を含む更新用フレームを受信した被書換ＥＣＵ１０３は、プログラム記憶部４０４の記憶内容（更新ソフトを格納するための領域の内容）を消去する。
【０１１６】
次に、書換実施ＥＣＵ１０２は、更新ソフトを含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０６）。
【０１１７】
評価装置１０１は、ＣＡＮバス２０から更新ソフトを含む更新用フレームを受信することで、更新ソフトを含む更新用フレームがＣＡＮバス２０に流れていることを検知すると、そのＣＡＮメッセージ全体が被書換ＥＣＵ１０３に受信される前に、エラーフレームを送信し、書換実施ＥＣＵ１０２が送信する更新用フレームを無効化する（ステップＳ１３０１）。ＣＡＮバス２０上において更新ソフトを含む更新用フレームは、エラーフレームにより上書きされ、正しく受信できない無効なものとなる。
【０１１８】
次に、評価装置１０１は、偽の更新ソフトを含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ１３０２）。評価装置１０１のＣＡＮバス監視部２０３及び信号監視部２０４は、このステップＳ１３０２以降の被書換ＥＣＵ１０３の動作或いは応答の逐次監視の結果を記憶部２０８に逐次記録する。例えば、信号監視部２０４は、被書換ＥＣＵ１０３のデバッグ用の出力信号等に基づき、偽の更新ソフトを含む更新用フレームを受信した後の被書換ＥＣＵ１０３の動作（例えば、プログラム記憶部４０４への偽の更新ソフトの格納等）等を記憶部２０８に記録する。
【０１１９】
次に、評価装置１０１は、偽の更新ソフトに対応した偽の更新ソフト署名を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ１４０１）。評価装置１０１は、偽の更新ソフト署名を含む更新用フレームを受信した後の被書換ＥＣＵ１０３の動作、応答等を記憶部２０８に記録する。
【０１２０】
次に、評価装置１０１は、再起動指示を示す更新用フレームをＣＡＮバス２０へ送信する（ステップＳ１４０２）。評価装置１０１は、再起動指示を示す更新用フレームを受信した後の被書換ＥＣＵ１０３の動作或いは応答を記憶部２０８に記録する。
【０１２１】
最後に、評価装置１０１は、記憶部２０８に記録された、ＣＡＮバス２０からの受信内容に係る情報、及び、ステップＳ１３０２以降の被書換ＥＣＵ１０３の動作に係る情報を確認することで、評価を行う（ステップＳ１４０３）。即ち、評価装置１０１は、上述のステップＳ１２０３での評価と同様に、受信内容及び被書換ＥＣＵ１０３の動作について、攻撃の期待値と比較することにより、電子制御システム１１のセキュリティの評価（攻撃の成否についての判定等）を行う。
【０１２２】
［１．７．６  評価システム１０の動作例５］
図１７及び図１８は、電子制御システム１１を評価する評価システム１０の動作（動作例５）を示すシーケンス図である。動作例５では、評価装置１０１が、図７に示す被書換機能３という評価項目に係る評価を行う例を示す。この例は、評価装置１０１が、書換実施ＥＣＵ１０２になりすまして被書換ＥＣＵ１０３に誤認識をさせる攻撃を行うことで、電子制御システム１１のセキュリティを評価する例である。以下、図１７及び図１８に即して、動作例５について説明する。
【０１２３】
書換実施ＥＣＵ１０２は、書換モード遷移指示を示す更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０１）。書換モード遷移指示を含む更新用フレームを受信した被書換ＥＣＵ１０３は、認証シードを含むＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ６０２）。認証シードを含むＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、受信した認証シードに基づいて認証鍵を生成し、認証鍵を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０３）。認証鍵を含む更新用フレームを受信した被書換ＥＣＵ１０３は、受信した認証鍵に基づく認証結果として書換許可を意味するＣＡＮメッセージをＣＡＮバス２０へ送信する（ステップＳ６０４）。認証結果として書換許可を意味するＣＡＮメッセージを受信した書換実施ＥＣＵ１０２は、メモリ消去命令を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０５）。メモリ消去命令を含む更新用フレームを受信した被書換ＥＣＵ１０３は、プログラム記憶部４０４の記憶内容（更新ソフトを格納するための領域の内容）を消去する。次に、書換実施ＥＣＵ１０２は、更新ソフトを含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０６）。更新ソフトを含む更新用フレームを受信した被書換ＥＣＵ１０３は、プログラム記憶部４０４へ、受信した更新ソフトを書き込む。
【０１２４】
次に、書換実施ＥＣＵ１０２は、更新ソフトに対応した更新ソフト署名を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ６０７）。
【０１２５】
評価装置１０１は、ＣＡＮバス２０から更新ソフト署名を含む更新用フレームを受信することで、更新ソフト署名を含む更新用フレームがＣＡＮバス２０に流れていることを検知すると、そのＣＡＮメッセージ全体が被書換ＥＣＵ１０３に受信される前に、エラーフレームを送信し、書換実施ＥＣＵ１０２が送信する更新用フレームを無効化する（ステップＳ１５０１）。ＣＡＮバス２０上において更新ソフト署名を含む更新用フレームは、エラーフレームにより上書きされ、正しく受信できない無効なものとなる。
【０１２６】
次に、評価装置１０１は、更新ソフトに対応した偽の更新ソフト署名を含む更新用フレームをＣＡＮバス２０へ送信する（ステップＳ１６０１）。評価装置１０１は、偽の更新ソフト署名を含む更新用フレームを受信した後の被書換ＥＣＵ１０３の動作、応答等を記憶部２０８に記録する。
【０１２７】
次に、評価装置１０１は、再起動指示を示す更新用フレームをＣＡＮバス２０へ送信する（ステップＳ１６０２）。評価装置１０１は、再起動指示を示す更新用フレームを受信した後の被書換ＥＣＵ１０３の動作或いは応答を記憶部２０８に記録する。
【０１２８】
最後に、評価装置１０１は、記憶部２０８に記録された、ＣＡＮバス２０からの受信内容に係る情報、及び、ステップＳ１６０１以降の被書換ＥＣＵ１０３の動作に係る情報を確認することで、評価を行う（ステップＳ１６０３）。即ち、評価装置１０１は、上述のステップＳ１２０３での評価と同様に、受信内容及び被書換ＥＣＵ１０３の動作について、攻撃の期待値と比較することにより、電子制御システム１１のセキュリティの評価（攻撃の成否についての判定等）を行う。
【０１２９】
（変形例）
以上のように、本発明に係る技術の例示として実施の形態１を説明した。しかしながら、本発明に係る技術は、これに限定されず、適宜、変更、置き換え、付加、省略等を行った実施の形態にも適用可能である。例えば、以下のような変形例も本発明の一実施態様に含まれる。
【０１３０】
（１）上記実施の形態では、評価装置１０１が、電子制御システム１１におけるソフトウェアの更新処理に関連して書換実施ＥＣＵ１０２或いは被書換ＥＣＵ１０３になりすますことで攻撃する例を示したが、その他のＥＣＵになりすます攻撃を行っても良いし、エラーフレーム、及び、更新処理と関係ないＣＡＮメッセージの送信により、攻撃を行っても良い。
【０１３１】
（２）上述の電子制御システム１１では、各種ＥＣＵは、リアルな（実物としての）ＥＣＵを想定して説明した。しかし、評価システム１０の評価対象としての電子制御システム１１における各種ＥＣＵは、リアルなＥＣＵ（例えば、評価ボード上で実装されたＥＣＵ、製品としてのＥＣＵ等）の代わりに、そのＥＣＵを模擬（シミュレート）する模擬ＥＣＵ（例えば、そのＥＣＵの機能、挙動等を模擬するシミュレーションソフトウェアを実行するコンピュータ等）であることとしても良い。ＥＣＵが模擬ＥＣＵである場合においては、評価装置１０１はＥＣＵの動作の監視を、コンピュータにおいてシミュレーションソフトウェアに関わる所定データ（コンピュータの所定メモリ領域の内容或いは出力内容等）の変化を観測することによって実現しても良い。
【０１３２】
（３）上記実施の形態では、評価装置１０１が、ＣＡＮバス２０に接続された１つの装置である例を示したが、評価装置１０１は、攻撃手順情報１０５に従って攻撃用のフレームを送信する送信装置と、ＣＡＮバス２０を流れるＣＡＮメッセージ、ＣＡＮバス２０に接続されたＥＣＵの記憶内容、信号線に出力する出力信号等を監視する監視装置とに分離される等、複数の筐体に分離された構成を備えても良い。また、監視装置或いは監視部２００は、ＣＡＮバス２０に接続されたどのＥＣＵについて監視しても良い。また、監視装置或いは監視部２００は、ＥＣＵについての監視の方法としていかなる方法を用いても良く、例えば、ＥＣＵと接続された専用の信号線等による直接監視を行っても良いし、ＣＡＮメッセージによる間接的な監視を行っても良いし、ＥＣＵの動作に関連して変化し得る車両の状態による間接的な監視を行っても良い。
【０１３３】
（４）上記実施の形態では、評価システム１０の評価対象として、ＣＡＮバス２０による車載ネットワークを備える電子制御システム１１を例示したが、評価システム１０で評価装置１０１が攻撃用のフレームを送信したり監視の対象としたりするネットワークは、必ずしも車載ネットワークでなくても良く、また、ＣＡＮプロトコルによる通信が行われるＣＡＮバス２０以外のネットワークであっても良い。例えば、評価システム１０は、ロボット、産業機器等のネットワークその他のネットワーク通信システムを評価対象としても良い。また、ＣＡＮプロトコルは、オートメーションシステム内の組み込みシステム等に用いられるＣＡＮＯｐｅｎ、或いは、ＴＴＣＡＮ（Time-Triggered CAN）、ＣＡＮＦＤ（CAN with Flexible Data Rate）等の派生的なプロトコルも包含する広義の意味のものと扱われることとしても良い。また、評価対象の電子制御システム（ネットワーク通信システム）で、ＣＡＮプロトコル以外の通信プロトコル、例えば、Ｅｔｈｅｒｎｅｔ（登録商標）や、ＭＯＳＴ（登録商標）、ＦｌｅｘＲａｙ（登録商標）、ＬＩＮ（Local Interconnect Network）等を用いても良い。また、各種プロトコルに従ったネットワークを組み合わせた複合的なネットワークを含むシステムを評価対象として、評価装置１０１で、そのネットワークに対して攻撃及び監視を行うこととしても良い。評価装置１０１は、上述のネットワークで、他のノードが送信したフレームの無効化のための無効化フレーム（例えばＣＡＮではエラーフレーム）を含む攻撃用のフレームを送信することで評価を行い得る。無効化フレームは、他のノードが送信したフレームを、上書きその他の方法で無効化するフレームであれば良い。無効化は、フレームの適正な受信を阻害するために、フレームの状態を通常状態から変化させることであり、例えば上書きして１ビット以上を変化させる改変でも良いし、フレーム自体を改変せずに通信プロトコルで定められた方法で無効状態にすること（先行フレームが無効であることを示す情報の追加等）でも良い。
【０１３４】
（５）上記実施の形態では、評価装置１０１が、エラーフレームの送信により、なりすまし対象とするＥＣＵが送信したＣＡＮメッセージを無効化した後に、評価装置１０１が、なりすまし対象のＥＣＵの更新処理の動作を全て実行する例を示したが、例えば、なりすまし対象のＥＣＵが送信するはずの複数のＣＡＮメッセージの一部のみを評価装置１０１が送信することとしても良い。
【０１３５】
（６）上記実施の形態では、攻撃手順情報１０５が、エラーフレームとＣＡＮメッセージとを含む複数の攻撃用のフレームの送信順序を規定した例を示したが、攻撃手順情報１０５は、１つ又は複数のエラーフレームだけの送信について規定するものであっても良く、例えば、エラーフレームの送信タイミング、送信間隔、或いは、送信条件（バス上にどのＩＤのＣＡＮメッセージが流れた時に送信すべきかに係る条件等）を規定するものであっても良い。この場合でも、評価装置１０１は、エラーフレームの送信に対するＥＣＵの挙動等を確認することで、電子制御システム１１のセキュリティに関する評価を行い得る。
【０１３６】
（７）評価装置１０１は、評価対象のセキュリティ（攻撃耐性等）についての評価として、防御をすり抜けた不正なＣＡＮメッセージの個数や割合に基づいて、攻撃耐性の有無の判定等といった評価を行うものであっても良い。なお、評価装置１０１は、攻撃耐性の有無を判定するために、不正なＣＡＮメッセージの個数や割合についての上限等を規定する閾値を用い得る。この閾値は、評価装置１０１に対して任意に設定可能にしても良いし、評価を繰り返し実施する場合において評価結果等に応じて変化（調整）し得るようにしても良い。また、評価装置１０１は、攻撃の成功率（成功の頻度等）を算定しても良い。このように評価装置１０１は、攻撃成否或いは防御成否の択一判定の他に、例えば複数の防御機能それぞれが作動するか否か或いはどの程度有効に作用したかについて評価しても良い。また、評価装置１０１では、送信部２０１ａが、攻撃手順情報１０５が示す送信順序で複数のフレームをＣＡＮバス２０に送信する攻撃パターンを複数回繰り返し、評価部２０６が、攻撃パターンの繰り返しによる監視部２００の監視結果の変化の有無に応じて評価結果が相違するように評価を行うこととしても良い。例えば、評価装置１０１が、偽の認証シードの送信、或いは、偽の認証鍵の送信を複数回繰り返した際に、一定回数以上実施して応答が受信できるか否かで攻撃の成否を判定しても良い。なお、評価装置１０１の評価部２０６での評価結果は、評価装置１０１によりメモリ等の記憶媒体に記録される他、評価装置１０１の外部に出力（例えば、評価結果の表示、評価結果を示す情報の送信等）され得る。例えば、評価部２０６は、評価結果として評価対象の電子制御システムに攻撃耐性があるか否かを示す情報を出力することとしても良い。
【０１３７】
（８）評価対象の電子制御システム１１におけるセキュリティＥＣＵ１０４を含むセキュリティ機能は、不正の検知に関するログ情報（ＣＡＮメッセージの受信履歴等）を記録することとしても良く、この場合には、評価装置１０１は、そのログ情報と、その評価装置１０１が保持する、攻撃に関する期待値とを比較することで、攻撃が成功したか否かの判定或いは攻撃が成功した確率等の算出を行うことで、セキュリティについての評価を行うこととしても良い。
【０１３８】
（９）上記実施の形態では電子制御システム１１はセキュリティ機能として、独立したセキュリティＥＣＵ１０４を備え得ることとしたが、バスを介して通信する複数のＥＣＵのうちの全部又は一部のＥＣＵがセキュリティ機能を備えることとしても良い。また、複数のＥＣＵがセキュリティ機能を分散して実現しても良い。
【０１３９】
（１０）上記実施の形態では評価装置１０１が評価対象の電子制御システム１１におけるバスに直接接続されている例を示したが、評価装置１０１と評価対象との間に、ゲートウェイ等の中継装置が介在しても良い。例えば、評価装置１０１が、ゲートウェイとの間で相互認証又は片方向認証を実施した上で攻撃用のＣＡＮメッセージを送信することでゲートウェイにそのＣＡＮメッセージをＣＡＮバス２０へと転送させ、ＣＡＮバス２０からのＣＡＮメッセージを、ゲートウェイを介して取得する等により、評価対象のセキュリティ（攻撃耐性等）を評価することとしても良い。
【０１４０】
（１１）評価装置１０１は、偽の認証シードを送信し、書換実施ＥＣＵ１０２から認証鍵を得るという動作を複数回実施して、その傾向を分析することで認証鍵を類推できるかどうかでセキュリティ機能の評価を行っても良い。
【０１４１】
（１２）上記実施の形態における評価装置１０１及び各種ＥＣＵは、例えば、プロセッサ、メモリ等のデジタル回路、アナログ回路、通信回路等を含む装置であることとしたが、ディスプレイ、キーボード、マウス等の他のハードウェア構成要素を含んでいても良い。また、メモリに記憶された制御プログラムがプロセッサにより実行されてソフトウェア的に機能を実現する代わりに、専用のハードウェア（デジタル回路等）によりその機能を実現することとしても良い。例えば、評価装置１０１のＣＡＮバス監視部２０３、信号監視部２０４、送受信部２０１、保持部２０２、評価部２０６、記憶部２０８及び制御部２０７の各機能ブロックは、集積回路で実現され得る。また、例えば、書換実施ＥＣＵ１０２の送受信部３０１、署名記憶部３０２、鍵記憶部３０３、プログラム記憶部３０４、書換手順情報記憶部３０５及び制御部３０６の各機能ブロックは、集積回路で実現され得る。また、例えば、被書換ＥＣＵ１０３の送受信部４０１、署名記憶部４０２、鍵記憶部４０３、プログラム記憶部４０４、書換手順情報記憶部４０５及び制御部４０６の各機能ブロックは、集積回路で実現され得る。また、例えば、セキュリティＥＣＵ１０４の送受信部５０１、ＣＡＮバス監視部５０２及び制御部５０３の各機能ブロックは、集積回路で実現され得る。
【０１４２】
（１３）上記実施の形態における各装置（評価装置１０１、各種ＥＣＵ等）を構成する構成要素の一部又は全部は、１個のシステムＬＳＩ（Large Scale Integration：大規模集積回路）から構成されているとしても良い。システムＬＳＩは、複数の構成部を１個のチップ上に集積して製造された超多機能ＬＳＩであり、具体的には、マイクロプロセッサ、ＲＯＭ、ＲＡＭ等を含んで構成されるコンピュータシステムである。前記ＲＡＭには、コンピュータプログラムが記録されている。前記マイクロプロセッサが、前記コンピュータプログラムに従って動作することにより、システムＬＳＩは、その機能を達成する。また、上記各装置を構成する構成要素の各部は、個別に１チップ化されていても良いし、一部又は全部を含むように１チップ化されても良い。また、ここでは、システムＬＳＩとしたが、集積度の違いにより、ＩＣ、ＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。また、集積回路化の手法はＬＳＩに限るものではなく、専用回路又は汎用プロセッサで実現しても良い。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Field Programmable Gate Array）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用しても良い。更には、半導体技術の進歩又は派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行っても良い。バイオ技術の適用等が可能性としてあり得る。
【０１４３】
（１４）上記各装置を構成する構成要素の一部又は全部は、各装置に脱着可能なＩＣカード又は単体のモジュールから構成されているとしても良い。前記ＩＣカード又は前記モジュールは、マイクロプロセッサ、ＲＯＭ、ＲＡＭ等から構成されるコンピュータシステムである。前記ＩＣカード又は前記モジュールは、上記の超多機能ＬＳＩを含むとしても良い。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、前記ＩＣカード又は前記モジュールは、その機能を達成する。このＩＣカード又はこのモジュールは、耐タンパ性を有するとしても良い。
【０１４４】
（１５）本発明の一態様としては、例えば図９〜図１８等に例示する処理手順の全部又は一部を含む評価方法であるとしても良い。例えば、評価方法は、バス（例えばＣＡＮバス２０）を介して通信する複数のＥＣＵを備える電子制御システム１１のセキュリティに関する評価を行う評価方法であって、バス上のフレームを無効化する無効化フレーム（例えばＣＡＮのエラーフレーム）を含む、１つ以上の攻撃用のフレームを、バスに送信し（例えばＳ７０１〜Ｓ７０３、Ｓ９０１、Ｓ９０２、Ｓ１１０１〜Ｓ１１０３、Ｓ１２０１、Ｓ１２０２、Ｓ１３０１、Ｓ１３０２、Ｓ１４０１、Ｓ１４０２、Ｓ１５０１、Ｓ１６０１、Ｓ１６０２）、攻撃用のフレームがバスに送信される際に、複数のＥＣＵのうち１つ以上のＥＣＵについて監視し、監視による監視結果に基づいて評価（例えばＳ８０１、Ｓ１００１、Ｓ１２０３、Ｓ１４０３、Ｓ１６０３）を行う評価方法である。また、本発明の一態様としては、この評価方法に係る処理をコンピュータにより実現するコンピュータプログラムであるとしても良いし、前記コンピュータプログラムからなるデジタル信号であるとしても良い。また、本発明の一態様としては、前記コンピュータプログラム又は前記デジタル信号をコンピュータで読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、ＣＤ−ＲＯＭ、ＭＯ、ＤＶＤ、ＤＶＤ−ＲＯＭ、ＤＶＤ−ＲＡＭ、ＢＤ（Blu-ray（登録商標） Disc）、半導体メモリ等に記録したものとしても良い。また、これらの記録媒体に記録されている前記デジタル信号であるとしても良い。また、本発明の一態様としては、前記コンピュータプログラム又は前記デジタル信号を、電気通信回線、無線又は有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送するものとしても良い。また、本発明の一態様としては、マイクロプロセッサとメモリを備えたコンピュータシステムであって、前記メモリは、上記コンピュータプログラムを記録しており、前記マイクロプロセッサは、前記コンピュータプログラムに従って動作するとしても良い。また、前記プログラム若しくは前記デジタル信号を前記記録媒体に記録して移送することにより、又は、前記プログラム若しくは前記デジタル信号を、前記ネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしても良い。
【０１４５】
（１６）上記実施の形態及び上記変形例で示した各構成要素及び機能を任意に組み合わせることで実現される形態も本発明の範囲に含まれる。
【産業上の利用可能性】
【０１４６】
本発明は、電子制御システムに対して施されたセキュリティ対策技術が攻撃を適切に防御できるか否か等の評価を実施するために利用可能である。
【符号の説明】
【０１４７】
１０  評価システム
１１  電子制御システム
２０  バス（ＣＡＮバス）
１０１  評価装置
１０２  書換実施ＥＣＵ
１０３  被書換ＥＣＵ
１０４  セキュリティＥＣＵ
１０５  攻撃手順情報
２００  監視部
２０１、３０１、４０１、５０１  送受信部
２０１ａ  送信部
２０１ｂ  受信部
２０２  保持部
２０３、５０２  ＣＡＮバス監視部
２０４  信号監視部
２０６  評価部
２０７、３０６、４０６、５０３  制御部
２０８  記憶部
３０２、４０２  署名記憶部
３０３、４０３  鍵記憶部
３０４、４０４  プログラム記憶部
３０５、４０５  書換手順情報記憶部
【図１】
0006741559.tif 000002
【図２】
0006741559.tif 000003
【図３】
0006741559.tif 000004
【図４】
0006741559.tif 000005
【図５】
0006741559.tif 000006
【図６】
0006741559.tif 000007
【図７】
0006741559.tif 000008
【図８】
0006741559.tif 000009
【図９】
0006741559.tif 000010
【図１０】
0006741559.tif 000011
【図１１】
0006741559.tif 000012
【図１２】
0006741559.tif 000013
【図１３】
0006741559.tif 000014
【図１４】
0006741559.tif 000015
【図１５】
0006741559.tif 000016
【図１６】
0006741559.tif 000017
【図１７】
0006741559.tif 000018
【図１８】
0006741559.tif 000019