(57)【要約】  通知先特定手段８１は、脅威事象が検知されたユーザ端末のユーザの通知先を特定する。質問生成手段８２は、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザがユーザ端末に生じさせた事象、または、脅威によりユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する。質問送受信手段８３は、特定されたユーザの通知先に生成された質問を送信し、その質問に対するユーザの回答を受信する。攻撃特定手段８４は、脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおける段階を、回答に基づいて特定する。第一対応実行手段８５は、特定された段階に応じて、攻撃モデルが示す脅威に対する第一の対応を実行する。
2019180989.tif 000002
【特許請求の範囲】
【請求項１】
ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定する通知先特定手段と、
検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザが前記ユーザ端末に生じさせた事象、または、脅威により前記ユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する質問生成手段と、
特定されたユーザの通知先に生成された質問を送信し、当該質問に対するユーザの回答を受信する質問送受信手段と、
脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおける当該段階を、前記回答に基づいて特定する攻撃特定手段と、
特定された段階に応じて、前記攻撃モデルが示す脅威に対する第一の対応を実行する第一対応実行手段とを備えた
ことを特徴とするヒアリングシステム。
【請求項２】
攻撃特定手段は、ユーザの回答に基づいて、攻撃モデルにおける段階および脅威の種類を特定し、
第一対応実行手段は、特定された段階および脅威の種類に応じて、第一の対応を実行する
請求項１記載のヒアリングシステム。
【請求項３】
脅威事象が検知されたときに、当該脅威事象が示す脅威を回避する第二の対応を実行する第二対応実行手段を備え、
質問送受信手段は、前記第二の対応を実行した後に質問を送信する
請求項１または請求項２記載のヒアリングシステム。
【請求項４】
第二対応実行手段は、第二の対応として、ユーザ端末を当該ユーザ端末が接続しているネットワークである通常ネットワークから遮断する対応、または、ユーザ端末を検疫ネットワークに隔離する対応を実行する
請求項３記載のヒアリングシステム。
【請求項５】
第一対応実行手段は、質問の回答に基づいて、通常ネットワークからの遮断の解除もしくは通常ネットワークへの復旧、または、遮断の継続もしくは隔離の継続のいずれかの対応を実行する
請求項４記載のヒアリングシステム。
【請求項６】
質問生成手段は、脅威事象に応じて特定される、脅威の種類と段階とに応じた質問を規定した質問テーブルから質問を生成し、
攻撃特定手段は、前記質問に対するユーザの回答から、前記質問テーブルを参照して、段階を特定する
請求項１から請求項５のうちのいずれか１項に記載のヒアリングシステム。
【請求項７】
質問送受信手段は、受信したユーザからの回答の適否を示す質問を当該ユーザとは異なる他のユーザに送信し、当該他のユーザからの回答を受信し、
第一対応実行手段は、受信した前記他のユーザからの回答に基づいて、第一の対応を実行する
請求項１から請求項６のうちのいずれか１項に記載のヒアリングシステム。
【請求項８】
攻撃特定手段は、各質問に対するユーザの回答に基づいて、特定した段階の尤もらしさを評価し、
第一対応実行手段は、評価された尤もらしさに応じて実行する第一の対応を決定する
請求項１から請求項７のうちのいずれか１項に記載のヒアリングシステム。
【請求項９】
ユーザごとの脅威対応履歴を記憶する対応履歴記憶手段を備え、
第一対応実行手段は、前記脅威対応履歴に基づいてユーザの信頼性を評価し、評価された信頼性に応じて第一の対応を決定する
請求項１から請求項８のうちのいずれか１項に記載のヒアリングシステム。
【請求項１０】
ユーザ端末に生じた脅威事象を検知する脅威事象検知手段と、
前記ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、前記脅威事象が検知されたユーザ端末のユーザの通知先を特定する通知先特定手段と、
検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザが前記ユーザ端末に生じさせた事象、または、脅威により前記ユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する質問生成手段と、
特定されたユーザの通知先に生成された質問を送信し、当該質問に対するユーザの回答を受信する質問送受信手段と、
脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおける当該段階を、前記回答に基づいて特定する攻撃特定手段と、
特定された段階に応じて、前記攻撃モデルが示す脅威に対する第一の対応を実行する第一対応実行手段とを備えた
ことを特徴とする脅威対応システム。
【請求項１１】
ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定し、
検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザが前記ユーザ端末に生じさせた事象、または、脅威により前記ユーザ端末に生じた事象の特定に用いられる１以上の質問を生成し、
特定されたユーザの通知先に生成された質問を送信し、
前記質問に対するユーザの回答を受信し、
脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおける当該段階を、前記回答に基づいて特定し、
特定された段階に応じて、前記攻撃モデルが示す脅威に対する第一の対応を実行する
ことを特徴とする脅威対応方法。
【請求項１２】
コンピュータに、
ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定する通知先特定処理、
検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザが前記ユーザ端末に生じさせた事象、または、脅威により前記ユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する質問生成処理、
特定されたユーザの通知先に生成された質問を送信し、当該質問に対するユーザの回答を受信する質問送受信処理、
脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおける当該段階を、前記回答に基づいて特定する攻撃特定処理、および、
特定された段階に応じて、前記攻撃モデルが示す脅威に対する第一の対応を実行する第一対応実行処理
を実行させるための脅威対応プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ユーザ端末に生じた脅威に応じて対応を実行するヒアリングシステム、脅威対応システム、脅威対応方法および脅威対応プログラムに関する。
【背景技術】
【０００２】
サイバー攻撃による被害の増加に伴い、サイバー攻撃を受ける企業等では、セキュリティ検知機やセキュリティ監視者を設置し、外部脅威の侵入や実行がないか監視することが行われている。【０００３】
ＣＳＩＲＴ（Computer Security Incident Response Team）とも呼ばれるセキュリティ監視者は、セキュリティ検知機を用いて、そのような脅威の侵入や実行を監視する。実際に脅威が検知されると、セキュリティ監視者は、脅威が検知された端末の隔離や遮断などの対処を行い、併せて、必要なログ等の調査、解析を行う。調査や解析には、例えば、フォレンジックツール等が用いられる。【０００４】
脅威が検知された端末の隔離は、例えば、ＳＤＮ（Software Defined Network）技術を用いて行われる。一般に、端末の隔離は、セキュリティ監視者の指示により端末管理者（利用者）や端末管理部門のセキュリティ管理者の手動で行われるが、標的型攻撃対策機器等と連携することで、自動で行われる場合やＥＤＲ（Endpoint Detection and Response ）の機能によってセキュリティ監視者が端末を隔離する場合もある。なお、どのような脅威に対して遮断を行うかは、企業が定めるセキュリティポリシ（例えば、脅威に厳しく対応する、従業員の利便性を重視する、など）によって定まることが多い。【０００５】
また、端末を隔離した後、セキュリティ監視者は、検出した脅威への対処を確認し、端末を接続状態に戻す処理も行う。確認内容として、例えば、脅威を検出したが実際には影響がなかったか、脅威に対する対処済みかどうか（脅威に対してアンチウィルスソフトでウィルスを除去した、クリアインストールをしたなど）、などが挙げられる。また、対処したか否かの確認は、例えば、ログ等で管理する方法や、ユーザに確認する方法などが挙げられる。【０００６】
脅威の検出には、いくつかの段階が考えられる。攻撃の内容を階層化した考え方として、サイバー・キル・チェーンが知られている。サイバー・キル・チェーンは、攻撃者の行動を分解した考え方である。階層化には、例えば、情報を収集する偵察段階や、攻撃コードを実行させる攻撃段階などが挙げられる。【０００７】
セキュリティ監視者は、脅威が検出されると、検出された脅威の種類を把握するとともに、その種類に基づく攻撃のシナリオを想定する。セキュリティ監視者は、想定したシナリオに基づいて、例えば、上述するサイバー・キル・チェーンにおける段階を検出ログ等から確認する。【０００８】
また、特許文献１には、大規模システムでの効率的なセキュリティ設計を支援する装置が記載されている。特許文献１に記載された装置は、脅威分析結果を入力とし、過去に実施したセキュリティ設計に伴う分析結果（実績）から、高頻度で導出される対策方針のパターンを対策方針候補として出力する。
【先行技術文献】
【特許文献】
【０００９】
【特許文献１】特開２０１６−０４５７３６号公報
【発明の概要】
【発明が解決しようとする課題】
【００１０】
しかし、企業の規模や業態によっては、セキュリティ検知ツールが完備されていない場合も存在する。例えば、ユーザ端末がウィルス検知ツールを備えていたとしても、ＥＤＲの仕組みなどを備えておらず、監視者にその脅威が通知されない場合、上述するサイバー・キル・チェーンにおける段階を把握することは困難である。また、脅威の検出だけでは、必ずしもこの段階を把握できるとは限らない。【００１１】
また、一部の検知に見落としがあった場合、段階の把握が困難になる場合も多い。さらに、検知された脅威がユーザの意図的な行動によるもの（例えば、業務上の対応）である場合、確認等によるセキュリティ監視者の作業工数が増大してしまう可能性もある。【００１２】
また、特許文献１に記載された装置は、各脅威と特徴が類似する類似脅威群を特定して政策方針を特定する。しかし、特許文献１に記載された装置を用いたとしても、検知される内容によっては、脅威が特定できない場合も存在するため、セキュリティ監視者の作業工数が必要になる。また、特許文献１に記載された装置を用いたとしても、上述するような、ユーザの意図的な行動による状況を特定できず、やはりセキュリティ監視者の作業工数が増大してしまうという問題もある。【００１３】
そこで、本発明は、セキュリティ監視者の作業工数を抑制しつつ、脅威に対する安全性を確保する対応をとることができるヒアリングシステム、脅威対応システム、脅威対応方法および脅威対応プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１４】
本発明によるヒアリングシステムは、ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定する通知先特定手段と、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザがユーザ端末に生じさせた事象、または、脅威によりユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する質問生成手段と、特定されたユーザの通知先に生成された質問を送信し、その質問に対するユーザの回答を受信する質問送受信手段と、脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおけるその段階を、回答に基づいて特定する攻撃特定手段と、特定された段階に応じて、攻撃モデルが示す脅威に対する第一の対応を実行する第一対応実行手段とを備えたことを特徴とする。【００１５】
本発明による脅威対応システムは、ユーザ端末に生じた脅威事象を検知する脅威事象検知手段と、ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定する通知先特定手段と、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザがユーザ端末に生じさせた事象、または、脅威によりユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する質問生成手段と、特定されたユーザの通知先に生成された質問を送信し、その質問に対するユーザの回答を受信する質問送受信手段と、脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおけるその段階を、回答に基づいて特定する攻撃特定手段と、特定された段階に応じて、攻撃モデルが示す脅威に対する第一の対応を実行する第一対応実行手段とを備えたことを特徴とする。【００１６】
本発明による脅威対応方法は、ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定し、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザがユーザ端末に生じさせた事象、または、脅威によりユーザ端末に生じた事象の特定に用いられる１以上の質問を生成し、特定されたユーザの通知先に生成された質問を送信し、質問に対するユーザの回答を受信し、脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおけるその段階を、回答に基づいて特定し、特定された段階に応じて、攻撃モデルが示す脅威に対する第一の対応を実行することを特徴とする。【００１７】
本発明による脅威対応プログラムは、コンピュータに、ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定する通知先特定処理、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザがユーザ端末に生じさせた事象、または、脅威によりユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する質問生成処理、特定されたユーザの通知先に生成された質問を送信し、その質問に対するユーザの回答を受信する質問送受信処理、脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおけるその段階を、回答に基づいて特定する攻撃特定処理、および、特定された段階に応じて、攻撃モデルが示す脅威に対する第一の対応を実行する第一対応実行処理を実行させることを特徴とする。
【発明の効果】
【００１８】
本発明によれば、セキュリティ監視者の作業工数を抑制しつつ、脅威に対する安全性を確保する対応をとることができる。
【図面の簡単な説明】
【００１９】
【図１】本発明による脅威対応システムの第１の実施形態の構成例を示すブロック図である。
【図２】監視ログの例を示す説明図である。
【図３】脅威対応履歴の例を示す説明図である。
【図４】第１の実施形態の脅威対応システムの動作例を示すフローチャートである。
【図５】本発明による脅威対応システムの第２の実施形態の構成例を示すブロック図である。
【図６】ポリシテーブルの例を示す説明図である。
【図７】第２の実施形態の脅威対応システムの動作例を示すフローチャートである。
【図８】質問テーブルおよび脅威に対する対応の例を示す説明図である。
【図９】質問テーブルおよび脅威に対する対応の例を示す説明図である。
【図１０】質問テーブルおよび脅威に対する対応の例を示す説明図である。
【図１１】質問テーブルおよび脅威に対する対応の例を示す説明図である。
【図１２】質問テーブルおよび脅威に対する対応の例を示す説明図である。
【図１３】通知された質問を表示する処理の例を示す説明図である。
【図１４】攻撃が特定できなかった場合の通知例を示す説明図である。
【図１５】本発明によるヒアリングシステムの概要を示すブロック図である。
【図１６】本発明による脅威対応システムの概要を示すブロック図である。
【発明を実施するための形態】
【００２０】
以下、本発明の実施形態を図面を参照して説明する。
【００２１】
実施形態１．
図１は、本発明による脅威対応システムの第１の実施形態の構成例を示すブロック図である。本実施形態の脅威対応システム１は、検知機１０と、監視ログ記憶手段２０と、ヒアリングシステム１００とを備えている。検知機１０およびヒアリングシステム１００は、検知対象とするユーザ端末３０と通信可能に接続される。
【００２２】
検知機１０は、ユーザ端末３０に生じた脅威事象を検知する。そして、検知機１０は、検知した脅威事象を表す監視ログを監視ログ記憶手段２０に登録する。なお、検知機１０が脅威事象を検出する方法は任意であり、一般的な方法が用いられれば良い。
【００２３】
例えば、上述するサイバー・キル・チェーンの段階として、攻撃者が「配送」を行う段階では、企業側（被攻撃者）は、「アクセス」が行われることになる。「アクセス」の具体例として、ユーザ端末が攻撃コードやマルウェアが添付されたメールを受信することや、マルウェアが仕込まれているＷｅｂページにアクセスすることで、マルウェアをダウンロードすることなどが挙げられる。
【００２４】
他にも、例えば、攻撃者が「インストール」を行う段階では、企業側は、「感染」してしまうことになる。「感染」の具体例として、攻撃コードが実行されたり、マルウェアが仕込まれたファイルを実行することでインストールされたりすることなどが挙げられる。さらに、攻撃者が「遠隔操作」を行う段階になると、企業側の端末が、例えば、特定サイトに通信し始める（「外部への通信」を行う）ため、いわゆる発症状態になってしまったと言える。さらに、攻撃者が「目的実行」を行う段階になると、例えば、企業側の端末内の目的の情報が探索され、ＨＴＴＰ（Hypertext Transfer Protocol ）／ＦＴＰ（File Transfer Protocol）などの手段で外部にその情報が送信されるため、この状態もいわゆる発症状態と言える。
【００２５】
検知機１０は、サンドボックスやＥＤＲの機能を備えていてもよい。例えば、「アクセス」が行われたことを検知するため、検知機１０は、標的型攻撃対策機器のサンドボックスでマルウェアのダウンロード通信を検出したり、マルウェア付のメールを検出したりしてもよい。他にも、例えば、「遠隔操作」が行われたことを検知するため、検知機１０は、標的型攻撃対策機器が保持しているマルウェア感染時の通信先情報とマッチした通信を検出してもよい。また、検知機１０は、ＥＤＲの機能によって端末の不審な挙動や不審なプロセスの起動などを検出してもよい。
【００２６】
監視ログ記憶手段２０は、検知機１０による検知結果を監視ログとして記憶する。また、監視ログ記憶手段２０は、他の検知機１０やユーザ端末３０自身が検知した結果を監視ログとして記憶してもよい。監視ログ記憶手段２０は、例えば、磁気ディスク装置により実現される。
【００２７】
図２は、監視ログの例を示す説明図である。図２に例示する監視ログＬは、ランサムウェアによるコールバックを検出した監視ログの例である。例えば、図２に例示する監視ログを解析することで、どのユーザ端末３０にどのような脅威事象が発生したか検出することが可能になる。
【００２８】
ヒアリングシステム１００は、ユーザ情報記憶手段１１０と、通知先特定手段１２０と、質問生成手段１３０と、質問送受信手段１４０と、攻撃特定手段１５０と、対応実行手段１６０と、対応履歴記憶手段１７０とを含む。
【００２９】
ユーザ情報記憶手段１１０は、ユーザ端末３０とユーザの通知先とが対応付けられたデータベースを記憶する。なお、ユーザの通知先は１つに限られず、複数であってもよい。また、ユーザ情報記憶手段１１０は、ユーザに関連する他の人物（例えば、ユーザの上司や、ユーザの所属する部門を担当するセキュリティ監視者など）の通知先を対応付けて記憶していてもよい。これにより、ユーザ端末３０を利用するユーザや、そのユーザの関係者に、必要な情報を通知することが可能になる。
【００３０】
通知先特定手段１２０は、ユーザ情報記憶手段１１０に記憶されたデータベースを用いて、脅威事象が検知されたユーザ端末３０のユーザの通知先を特定する。特定された通知先は、後述する質問送受信手段１４０が質問を送信する通知先として利用される。
【００３１】
質問生成手段１３０は、検知された脅威事象に基づく質問を生成する。具体的には、質問生成手段１３０は、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザがユーザ端末３０に生じさせた事象、または、脅威によりユーザ端末３０に生じた事象の特定に用いられる質問を生成する。なお、質問生成手段１３０が生成する質問は、１つに限られず、２つ以上であってもよい。ユーザがユーザ端末３０に生じさせた事象の特定に用いられる質問として、例えば、特定サイトへのアクセスを確認する質問が挙げられる。また、脅威によりユーザ端末３０に生じた事象の特定に用いられる質問として、例えば、ユーザ端末３０の動作状況を確認する質問が挙げられる。
【００３２】
本実施形態では、上述するサイバー・キル・チェーンのように、脅威の種類に応じて特定される一連の攻撃の段階を、攻撃モデルと記す。例えば、上述する検知機１０で示す例では、攻撃モデルは、一連の攻撃を示す各段階「アクセス」、「感染」、「外部への通信」および「目的実行」で表される。ただし、本実施形態の攻撃モデルは、上述する４つの段階に限定されず、また、サイバー・キル・チェーンにも限定されない。攻撃モデルは、脅威の種類に応じて一連の攻撃の段階が特定できる情報であればよい。
【００３３】
質問生成手段１３０は、検知された脅威事象に基づいて、少なくとも、上述する攻撃モデルにおいて、どの段階の脅威事象であるかを特定できるような質問を生成する。さらに、好ましくは、質問生成手段１３０は、検知された脅威事象が、どの脅威の種類におけるどの段階の脅威事象であるかを特定できるような質問を生成する。質問生成手段１３０は、１つの脅威事象に基づいて質問を生成してもよく、複数の脅威事象に基づいて質問を生成してもよい。脅威事象を組み合わせることで、脅威の種類を絞り込むことが可能になる。
【００３４】
具体的には、脅威の種類および段階に応じた適否を判断する質問を規定した質問テーブルを予め設定しておき、質問生成手段１３０は、その質問テーブルから質問を生成する。なお、質問テーブルは、脅威事象ごとに設定される構造であってもよく、脅威事象に応じて質問を取捨選択できる（質問が限定される）構造であってもよい。すなわち、検知された脅威事象だけでは脅威の種類および段階を特定できない場合に、検知された脅威事象を用いて、必要な質問が生成されることになる。
【００３５】
また、質問テーブルに設定する質問の一部に、脅威事象の情報を設定可能な変数が含まれていてもよい。この場合、質問生成手段１３０は、例えば、監視ログから情報を抽出し、抽出した情報を変数に設定して質問を生成してもよい。変数の例として、例えば、アクセス先のＵＲＬや、感染ファイル名などが挙げられる。
【００３６】
例えば、脅威事象として外部への通信を行う「ＣａｌｌＢａｃｋ」が検出されたとする。この場合、質問生成手段１３０は、「外部への通信」であることを特定できるような質問や脅威の種類を特定できるような質問を生成してもよい。なお、この脅威事象からは、マルウェアに感染して通信が発生した場合、ユーザが意図してアクセスした場合、ユーザは意図していないが誤操作でアクセスした場合、などの原因が想定される。そこで、質問生成手段１３０は、これらの原因を特定するための質問をさらに生成してもよい。なお、具体的な質問の内容については後述される。
【００３７】
また、質問テーブルには、回答に応じた処理が対応付けられていてもよい。また、質問テーブルには、その回答に応じた段階や脅威の種類の尤もらしさが対応付けられていてもよい。例えば、ある質問に対して「Ｙｅｓ」と回答した場合、その回答に対応する段階や脅威の種類の尤もらしさが特定されるようにしてもよい。
【００３８】
質問送受信手段１４０は、通知先特定手段１２０によって特定されたユーザの通知先に、生成された質問を送信し、その質問に対するユーザの回答を受信する。質問送受信手段１４０は、例えば、メールやチャット、ＳＭＳ（ショートメールサービス）などで、質問を送信してもよい。この場合、質問送受信手段１４０は、メールやチャット、ＳＭＳの返信として回答を受信してもよい。
【００３９】
また、質問送受信手段１４０は、質問回答用のアプリケーションを添付したメールや、回答用のＷｅｂページを示すＵＲＬ（Uniform Resource Locator）を記載したメールを送信してもよい。この場合、質問送受信手段１４０は、添付したアプリケーションの機能や、Ｗｅｂページへの入力機能を用いて、回答を受信してもよい。
【００４０】
また、質問送受信手段１４０は、受信する回答に応じて順次質問を送信してもよく、質問をまとめて送信し、回答もまとめて受信してもよい。また、質問送受信手段１４０は、セキュリティ監視者が後に利用し得る情報を収集するための質問を送信してもよい。
【００４１】
さらに、質問送受信手段１４０は、受信したユーザからの回答の適否を示す質問を、そのユーザとは異なる他のユーザ（例えば、そのユーザの上司やそのユーザの属する部門のセキュリティ管理者等、そのユーザの関係者）に送信し、その関係者からの回答を受信してもよい。使用している端末に脅威事象が発生した場合、その端末のユーザは、自身の行動を隠蔽しようとする可能性もある。また、ユーザが行動を意識していない場合、その行動自体の適否を本人が判断できない可能性もある。このような場合を考慮し、質問送受信手段１４０が他のユーザへ回答の適否を問い合わせることで、回答内容の信憑性を高めることが可能になる。
【００４２】
例えば、ユーザ情報記憶手段１１０が、ユーザ端末３０のユーザとその上司とを対応付けたデータベースを記憶している場合、質問送受信手段１４０は、そのユーザからの回答の適否を示す質問を、その上司に送信して回答を受信してもよい。
【００４３】
攻撃特定手段１５０は、受信した回答に基づいて攻撃モデルにおける段階を特定する。さらに、攻撃特定手段１５０は、受信した回答に基づいて脅威の種類を特定してもよい。具体的には、攻撃特定手段１５０は、質問テーブルを参照して、質問に対するユーザの回答から、攻撃モデルにおける段階を特定する。
【００４４】
例えば、質問テーブルに、回答に応じた段階や脅威の種類の尤もらしさが対応付けられている場合、攻撃特定手段１５０は、その回答に対応付けられた尤もらしさに応じて攻撃モデルにおける段階を特定してもよい。
【００４５】
また、攻撃特定手段１５０は、各質問に対するユーザの回答に基づいて、特定した段階の尤もらしさを評価してもよい。例えば、本人が意識せずに行った行動の場合、自身が気付いておらず回答できない場合もある。また、例えば、本人が意図的に行った行動の場合、回答を歪曲してしまう場合もある。そこで、攻撃特定手段１５０は、特定する段階を示す回答の一致度合いに基づいて、段階ごと、または、脅威の種類ごと、または、その組み合わせごとに、回答の尤もらしさを評価してもよい。その際、攻撃特定手段１５０は、特定の質問に対する回答の有無に応じて、尤もらしさを変化させてもよい。攻撃特定手段１５０は、例えば、クリティカルな質問（必ず、ＹＥＳ／ＮＯが決定されるはずの質問や、矛盾を確認するための質問など）の回答に応じて、尤もらしさを高く（低く）算出してもよい。なお、クリティカルな質問か否かを、例えば、質問テーブルに予め設定しておいてもよい。
【００４６】
対応実行手段１６０は、特定された段階に応じて、攻撃モデルが示す脅威に対する対応を実行する。また、脅威の種類が特定されている場合、対応実行手段１６０は、特定された段階および脅威の種類に応じて、脅威に対する対応を実行する
【００４７】
脅威に対する対応は、段階、脅威の種類、および、これらの組合せに応じて予め定められ、対応実行手段１６０は、定められた対応を実行する。以下、質問の回答に応じて実行される対応を、第一の対応と記す。すなわち、本実施形態の対応実行手段１６０は、特定された段階、脅威の種類、または、これらの組合せに応じて予め定められた第一の対応を実行する。
【００４８】
第一の対応の具体的内容は、ユーザ端末３０の通信遮断や、特別なネットワーク（検疫ネットワーク）への隔離である。ここで、検疫ネットワークとは、正常な外部との接続や内部サーバとの接続が遮断されたネットワーク（以下、通常ネットワークと記すこともある）であり、最小限のサーバとの接続のみ可能なネットワークを意味する。本実施形態の場合、検疫ネットワークは、例えば、ヒアリングシステム１００や、ワクチンデータをダウンロードするサイトのみに接続されたネットワークである。このように、脅威が検知されたときに、対応実行手段１６０がユーザ端末３０を通常ネットワークから自動的に遮断するため、他の端末等への影響を防ぎ、脅威に対する安全性を確保することが可能になる。
【００４９】
ただし、第一の対応の内容は、これらのいわゆるネットワーク隔離に限定されない。脅威事象が検知された場合、対応実行手段１６０は、機器やサービス、システムへのアクセスやサービスやアプリケーションの実行を制御する仕組み（例えば、ＳＤＮ、アクセス制御システム、アプリケーション制御システムなど）を起動してもよい。または、対応実行手段１６０は、ユーザ情報記憶手段１１０からユーザのＩＤを読み取り、そのユーザＩＤによるアプリケーションサービスの実行を一部に制限する、またはすべて停止するように制御を行ってもよい。このような仕組みを起動できるようにすることで、例えば、ネットワーク隔離が適切な対応にならないようなクラウド環境（Application as a service、Desktop as a serviceなど）に対しても、より適切な対応をとることが可能になる。
【００５０】
他にも、第一の対応として、フォレンジック用のログ取得ツールの実行、脅威を示すアプリケーションの削除（例えば、アドウェアの削除）や、ＯＳ（Operating System）の再インストールなどが挙げられる。
【００５１】
また、対応実行手段１６０は、他のユーザから受信した回答に基づいて第一の対応を実行してもよい。例えば、他のユーザから受信した回答が、「ユーザの回答が適切ではない」旨の回答だったとする。この場合、対応実行手段１６０は、ユーザからの回答が適切でないと判断し、ユーザの回答に応じて特定される第一の対応とは異なる対応（例えば、ネットワークからの遮断、他のユーザ（上司等）に対する通知、セキュリティ監視者へのアラート通知など）を行ってもよい。
【００５２】
また、例えば、攻撃特定手段１５０が、特定した段階の尤もらしさを評価していた場合、対応実行手段１６０は、評価された尤もらしさに応じて実行する第一の対応を決定してもよい。例えば、脅威の種類や段階の候補が複数存在したとする。この場合、対応実行手段１６０は、予め定めた閾値よりも大きく、尤もらしさが最大の候補に対する対応を実行してもよい。
【００５３】
また、対応実行手段１６０は、脅威への対応履歴（以下、脅威対応履歴と記す。）をユーザごとに対応履歴記憶手段１７０に登録する。そこで、対応実行手段１６０は、過去の脅威対応履歴に基づいてユーザの信頼性を評価し、評価された信頼性に応じて第一の対応を決定してもよい。
【００５４】
対応実行手段１６０は、例えば、ユーザ端末３０に生じた脅威事象を検知したときに、ユーザ端末３０のユーザを特定して、脅威対応履歴を検索する。そして、対応実行手段１６０は、そのユーザの過去の脅威発生回数や対応内容に基づいて、ユーザ回答の信頼性を推定し、脅威に対する対応を決定する。
【００５５】
例えば、そのユーザが予め定めた閾値（以下、第一の閾値と記す。）よりも多い回数の脅威を過去に検知されている場合、対応実行手段１６０は、「不注意な人物で信頼できない」と推定して、評価を低く算出してもよい。また、例えば、そのユーザが過去に同じ内容または種別の脅威を予め定めた閾値（以下、第二の閾値と記す。）よりも多い回数検知されている場合、対応実行手段１６０は、「不注意な人物で信頼できない」と推定して、評価を低く算出してもよい。このとき、第二の閾値は、第一の閾値よりも厳しい値に設定されてもよい。
【００５６】
対応履歴記憶手段１７０は、対応実行手段１６０によって実行された脅威への対応に関する履歴（すなわち、脅威対応履歴）を記憶する。図３は、脅威対応履歴の例を示す説明図である。図３に示す例では、ユーザを識別するユーザＩＤごとに、対応した脅威内容とその脅威の種類、および、対処結果、対処日時を対応付けて記憶していることを示す。この脅威対応履歴を参照することで、それぞれの発生回数（頻度）を把握することが可能になる。対応履歴記憶手段１７０は、例えば、磁気ディスク等により実現される。
【００５７】
通知先特定手段１２０と、質問生成手段１３０と、質問送受信手段１４０と、攻撃特定手段１５０と、対応実行手段１６０とは、プログラム（脅威対応プログラム）に従って動作するコンピュータのＣＰＵによって実現される。例えば、プログラムは、ヒアリングシステム１００の記憶部（図示せず）に記憶され、ＣＰＵは、そのプログラムを読み込み、プログラムに従って、通知先特定手段１２０、質問生成手段１３０、質問送受信手段１４０、攻撃特定手段１５０および対応実行手段１６０として動作してもよい。
【００５８】
また、通知先特定手段１２０と、質問生成手段１３０と、質問送受信手段１４０と、攻撃特定手段１５０と、対応実行手段１６０とは、それぞれが専用のハードウェアで実現されていてもよい。
【００５９】
次に、本実施形態の脅威対応システムの動作を説明する。図４は、本実施形態の脅威対応システムの動作例を示すフローチャートである。
【００６０】
まず、検知機１０が、ユーザ端末３０に生じた脅威事象を検知する（ステップＳ１１）。脅威事象が検知されると、通知先特定手段１２０は、ユーザ情報記憶手段１１０に記憶されたデータベースを用いて、脅威事象が検知されたユーザ端末３０のユーザの通知先を特定する（ステップＳ１２）。
【００６１】
一方、質問生成手段１３０は、ユーザ端末３０に生じた脅威の段階、脅威の種別、または、これらの組合せを特定するための質問を生成する（ステップＳ１３）。具体的には、質問生成手段１３０は、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザがユーザ端末３０に生じさせた事象、または、脅威によりユーザ端末３０に生じた事象の特定に用いられる質問を生成する。
【００６２】
質問送受信手段１４０は、特定されたユーザの通知先に生成された質問を送信する（ステップＳ１４）。そして、質問送受信手段１４０は、送信した質問に対するユーザの回答を受信する（ステップＳ１５）。攻撃特定手段１５０は、受信した回答に基づいて攻撃モデルにおける段階を特定する（ステップＳ１６）。なお、攻撃特定手段１５０は、併せて、脅威の種類を特定してもよい。そして、対応実行手段１６０は、特定された段階に応じて、攻撃モデルが示す脅威に対する対応（第一の対応）を実行する（ステップＳ１７）。
【００６３】
以上のように、本実施形態では、通知先特定手段１２０が、脅威事象が検知されたユーザ端末３０のユーザの通知先を特定する。また、質問生成手段１３０が、検知された脅威事象に基づいてユーザ端末の事象の特定に用いられる質問を生成し、質問送受信手段１４０が、特定されたユーザの通知先に生成された質問を送信して回答を受信する。そして、攻撃特定手段１５０が回答に基づいて攻撃モデルにおける段階を特定し、対応実行手段１６０が、特定された段階に応じて第一の対応を実行する。よって、セキュリティ監視者の作業工数を抑制しつつ、脅威に対する安全性を確保する対応をとることができる。
【００６４】
実施形態２．
次に、本発明による脅威対応システムの第２の実施形態を説明する。本実施形態では、検知機１０によって脅威事象が検知された場合、ユーザに対して質問を行う前に、脅威事象が示す脅威を回避する対応を実行する方法を説明する。なお、質問を行う前に実行する対応を、第二の対応と記すこともある。
【００６５】
図５は、本発明による脅威対応システムの第２の実施形態の構成例を示すブロック図である。本実施形態の脅威対応システム２は、検知機１０と、監視ログ記憶手段２０と、ヒアリングシステム２００とを備えている。本実施形態の検知機１０および監視ログ記憶手段２０の構成は、第１の実施形態と同様である。
【００６６】
ヒアリングシステム２００は、ユーザ情報記憶手段１１０と、通知先特定手段１２０と、質問生成手段１３０と、質問送受信手段１４０と、攻撃特定手段１５０と、対応実行手段２６０と、対応履歴記憶手段１７０とを含む。すなわち、本実施形態のヒアリングシステム２００は、第１の実施形態の対応実行手段１６０の代わりに対応実行手段２６０を含む。ユーザ情報記憶手段１１０、通知先特定手段１２０、質問生成手段１３０、質問送受信手段１４０、攻撃特定手段１５０および対応履歴記憶手段１７０の構成は、第１の実施形態と同様である。
【００６７】
なお、本実施形態では、第一の対応および第二の対応を、いずれも対応実行手段２６０が実行する場合について説明する。ただし、第一の対応および第二の対応を、それぞれ別の手段が実行する構成であってもよい。例えば、第１の実施形態の対応実行手段１６０が第一の対応を実行し、本実施形態の対応実行手段２６０が第二の対応を実行する構成であってもよい。
【００６８】
対応実行手段２６０は、検知機１０によって脅威事象が検知されたときに、その脅威事象が示す脅威を回避する対応（すなわち、第二の対応）を実行する。したがって、質問送受信手段１４０は、第二の対応を実行した後に質問を送信する。
【００６９】
第二の対応の具体的内容は、ユーザ端末３０の通信遮断や、特別なネットワーク（すなわち、検疫ネットワーク）への隔離である。このように、脅威が検知されたときに、対応実行手段２６０がユーザ端末３０を通常ネットワークから自動的に遮断するため、他の端末等への影響を防ぎ、脅威に対する安全性を確保することが可能になる。
【００７０】
ただし、第二の対応の内容は、これらのいわゆるネットワーク隔離に限定されない。脅威事象が検知された場合、対応実行手段２６０は、機器やサービス、システムへのアクセスやサービスやアプリケーションの実行を制御する仕組み（例えば、ＳＤＮ、アクセス制御システム、アプリケーション制御システムなど）を起動してもよい。または、対応実行手段２６０は、ユーザ情報記憶手段１１０からユーザのＩＤを読み取り、そのユーザＩＤによるアプリケーションサービスの実行を一部に制限する、またはすべて停止するように制御を行ってもよい。このような仕組みを起動できるようにすることで、例えば、ネットワーク隔離が適切な対応にならないようなクラウド環境（Application as a service、Desktop as a serviceなど）に対しても、より適切な対応をとることが可能になる。
【００７１】
また、対応実行手段２６０は、検知された脅威事象の内容に基づいて、第二の対応を実行するか否か判断してもよい。具体的には、対応実行手段２６０は、検知された脅威事象の内容に基づいて攻撃モデルの段階、脅威の種類、またはこれらの組合せを特定し、特定された状況に応じて、第二の対応を実行するか否か判断してもよい。また、脅威事象の内容からはこれらの状況を特定できない場合、対応実行手段２６０は、予め定めた対応（例えば、通信遮断や、検疫ネットワークへの隔離など）を実行してもよい。
【００７２】
対応実行手段２６０は、例えば、状況に応じたポリシテーブルを定めておき、そのポリシテーブルに従って、第二の対応を実行するか否か判断してもよい。図６は、ポリシテーブルの例を示す説明図である。例えば、図６に例示するポリシテーブルのように、攻撃モデルの段階に応じて実行する第二の対応を定めておいてもよい。図６に例示するポリシテーブルＰＴ１は、脅威事象から「アクセス」または「感染」のいずれかの段階が特定できた場合に、遮断処理が実行されることを示す。また、例えば、図６のポリシテーブルＰＴ２に例示するように、攻撃モデルの段階および脅威の種類ごとに第二の対応を定めておいてもよい。図６に例示するポリシテーブルＰＴ２は、脅威事象から「アクセス」の段階および脅威の種類Ｃが特定できた場合、または、脅威事象から「感染」の段階および脅威の種類Ａまたは種類Ｃが特定できた場合に遮断処理が実行されることを示す。
【００７３】
その後、対応実行手段２６０は、質問の回答に基づいて、実行する対応を決定する。例えば、第二の対応として、ユーザ端末３０が接続していた通常ネットワークから遮断されていた場合、対応実行手段２６０は、質問の回答に基づいて、通常ネットワークからの遮断を解除するか、遮断を継続するか判断し、判断結果に基づいて対応を実行してもよい。また、例えば、第二の対応として、ユーザ端末３０が検疫ネットワークに隔離されている場合、対応実行手段２６０は、質問の回答に基づいて、通常ネットワークへ復旧させるか、隔離を継続するか判断し、判断結果に基づいて対応を実行してもよい。
【００７４】
例えば、質問の回答からは、攻撃特定手段１５０が攻撃モデルにおける段階や脅威の種類が特定できない場合、対応実行手段２６０は、遮断の継続や隔離の継続を選択してもよい。また、例えば、過去のユーザの対応履歴が適切でないと判断される場合、対応実行手段２６０は、遮断の継続や隔離の継続を選択してもよい。対応が適切でない例として、ユーザが過去に予め定めた閾値を超える回数で「ユーザ判断で再接続」している場合などが挙げられる。
【００７５】
さらに、対応実行手段２６０は、特定された段階、脅威の種類、またはこれらの組合せに応じた対応を実行する。なお、特定された段階等に応じた対応を実行する方法は、第１の実施形態で対応実行手段１６０が実行する方法と同様である。また、第１の実施形態の対応実行手段１６０が図６に例示するポリシテーブルに基づいて第一の対応を決定してもよい。
【００７６】
このように、対応実行手段２６０が質問の回答に基づいて実行する対応を決定することで、適切な回答であればユーザの利便性が損なわれることを最小限に抑えることが可能になる。また、ユーザの回答が遅れると、遮断や隔離が継続されることになるため、ユーザからの迅速な回答を得ることも可能になる。
【００７７】
通知先特定手段１２０と、質問生成手段１３０と、質問送受信手段１４０と、攻撃特定手段１５０と、対応実行手段２６０とは、プログラム（脅威対応プログラム）に従って動作するコンピュータのＣＰＵによって実現される。
【００７８】
次に、本実施形態の脅威対応システムの動作を説明する。図７は、本実施形態の脅威対応システムの動作例を示すフローチャートである。
【００７９】
図４に例示するステップＳ１１と同様、まず、検知機１０が、ユーザ端末３０に生じた脅威事象を検知する（ステップＳ１１）。脅威事象が検知されると、対応実行手段２６０は、脅威事象が示す脅威を回避する第二の対応を実行する（ステップＳ２１）。なお、対応実行手段２６０は、脅威事象から特定される状況（段階、脅威の種類、または、これらの組合せ）に応じて、第二の対応を実行するか否か判断してもよい。
【００８０】
その後、図４に例示するステップＳ１２からステップＳ１６と同様に、ユーザ端末３０のユーザの通知先に送信する質問を生成し、生成された質問に対する回答に基づいて攻撃モデルにおける段階を特定する。
【００８１】
対応実行手段２６０は、質問の回答に基づいて、実行された第二の対応への対応を実行する（ステップＳ２２）。例えば、第二の対応として通常ネットワークからの遮断が行われていた場合、対応実行手段２６０は、質問の回答に基づいて、通常ネットワークへの復旧または遮断の継続を実行してもよい。併せて、対応実行手段２６０は、特定された段階に応じて、攻撃モデルが示す脅威に対する対応（第一の対応）を実行する（ステップＳ１７）。
【００８２】
以上のように、本実施形態では、対応実行手段２６０が、検知機１０によって脅威事象が検知されたときに、脅威事象が示す脅威を回避する第二の対応を実行する。そのため、第１の実施形態の効果に加え、脅威に対する安全性を確保することが可能になる。
【００８３】
なお、第２の実施形態で説明した自動遮断を行うか否かは、ユーザのポリシに応じて定めておけばよい。これは、第１の実施形態で第一の対応として自動遮断を実行する場合も同様である。上述する攻撃モデルの段階において、「アクセス」、「感染」、「外部への通信」、「目的実行」の順に、検知される脅威の件数は少なくなると考えられる。ただし、脅威事象の検知は必ずしも完全ではないため、どの段階で自動遮断するかを明確に定義することは困難である。そのため、「疑わしきは隔離」とのポリシが設定されている場合、件数が多くても「アクセス」寄りに自動遮断を行うタイミングを設定することができる。一方、「確実なものを隔離」とのポリシが設定されている場合、件数が少ない「目的実行」寄りに自動遮断を行うタイミングを設定することができる。
【００８４】
「疑わしきは隔離」とのポリシを設定することで、より安全性を高めることが可能になる。一方、「確実なものを隔離」とのポリシを設定することで、従業員の利便性を維持しつつ、セキュリティ監視者の作業工数を抑制することが可能になる。
【００８５】
以下、本発明の具体例を説明する。以下では、脅威の種類としてマルウェアであるアドウェア／ＰＵＡ（Potentially Unwanted Application）およびランサムウェアを例に、本発明の脅威対応システムの動作を説明する。なお、本具体例では、ユーザ端末３０のユーザの通知先はすでに特定されているものとする。
【００８６】
アドウェア／ＰＵＡは、ユーザが目的としない機能を有するアプリケーションであり、ユーザに知られずインストールされる。アドウェア／ＰＵＡには、広告などがポップアップ表示されるものや、不要なソフトウェアやばら撒き型のマルウェアがインストールされるものなどが存在する。また、ランサムウェアは、感染された端末でアクセス可能なファイルを暗号化することで、身代金（ランサム）要求を行うタイプのものである。ランサムウェアには、他にも、脆弱性を利用して他の端末へ感染を拡大するものもある。
【００８７】
図８から図１２は、質問テーブルおよび脅威に対する対応の例を示す説明図である。具体的には、図８に示す例は、「アクセス」段階における脅威事象の検出有無に応じた質問および対応の例である。同様に、図９に示す例は、「感染」段階における脅威事象の検出有無に応じた質問および対応の例であり、図１０に示す例は、「外部への通信」段階における脅威事象の検出有無に応じた質問および対応の例である。また、図１１に示す例は、「目的実行」段階においてランサムウェアの内容に関する質問および対応の例であり、図１２に示す例は、「目的実行」段階においてアドウェア／ＰＵＡの内容に関する質問および対応の例である。
【００８８】
例えば、図１０に示す例では、「外部への通信」に関する脅威事象が検知された場合の質問として、質問ｃ１および質問ｃ２が準備されており、質問の回答（Ｙｅｓ／Ｎｏ）に応じて、対応が定義されていることを示す。なお、対応の中には、さらなる質問を行うことも含まれる。また、例えば、図８に示す例では、「アクセス」に関する脅威事象が検知されていない場合でも、他の段階での脅威事象の検知に応じて行われる質問ａ４、質問ａ５および質問ａ６が準備されていることを示す。
【００８９】
本具体例では、検知機１０が脅威事象として外部への通信を行う「ＣａｌｌＢａｃｋ」を検出した場合の動作例を説明する。質問生成手段１３０は、検知された脅威事象に基づいて、図１０に例示する質問ｃ１を選択する。質問送受信手段１４０は、生成した質問をユーザの通知先に送信する。なお、質問を生成する前に、対応実行手段２６０が通信遮断や、検疫ネットワークへの隔離を行ってもよい。
【００９０】
その後、質問送受信手段１４０が質問に対する回答を受信する。例えば、質問ｃ１に対する回答が「Ｙｅｓ」の場合、質問生成手段１３０は、さらに、質問ｃ２を選択する。そして、質問送受信手段１４０が生成した質問をユーザの通知先に送信する。一方、質問ｃ１に対する回答が「Ｎｏ」の場合、質問生成手段１３０は、さらに、質問ａ２またはａ４を選択する。具体的には、検知機１０がアクセス段階における脅威事象を検知している場合、質問生成手段１３０は、さらに、質問ａ２を選択する。一方、検知機１０がアクセス段階における脅威事象を検知していない場合、質問生成手段１３０は、さらに、質問ａ４を選択する。そして、質問送受信手段１４０が生成した質問をユーザの通知先に送信する。
【００９１】
ここでは、質問送受信手段１４０が質問ｃ２に対する回答を受信したとする。質問ｃ２に対する回答が「Ｙｅｓ」であっても「Ｎｏ」であっても、攻撃特定手段１５０は、「外部への通信」段階の攻撃がされたと特定し、対応実行手段１６０（対応実行手段２６０）は、遮断の継続を実行する。併せて、対応実行手段１６０は、脅威に対する情報収集を行う。さらに、質問ｃ２の中で一つも「Ｙｅｓ」の回答がなかった場合、さらに情報を収集するため、質問生成手段１３０は、さらに、質問ａ２またはａ４を選択する。以降、質問送受信手段１４０が質問をユーザの通知先に送信し、回答を得ることで情報収集が行われる。
【００９２】
図１３は、通知された質問を表示する処理の例を示す説明図である。ユーザは、通知された質問にＹｅｓまたはＮｏで回答し、回答結果をヒアリングシステムに通知する。質問生成手段１３０は、図１３に例示する２種類の質問について、１種類ずつ質問を送信してもよく、２種類とも送信してもよい。
【００９３】
なお、攻撃特定手段１５０によって攻撃が特定できなかった場合、対応実行手段２６０は、攻撃が特定できなかった旨をユーザに通知し、後続の対応を選択させるようにしてもよい。図１４は、攻撃が特定できなかった場合の通知例を示す説明図である。図１４に例示するように、対応実行手段２６０は、後続の対応を直接ユーザに入力させてもよいし、脅威に対応する部署（例えば、セキュリティ監視者）等の連絡先の情報を通知してもよい。
【００９４】
以上、具体例を用いて本発明のヒアリングシステム（脅威対応システム）を説明したが、本発明によるヒアリングシステム（脅威対応システム）は、上述する具体例に限定されない。他にも、脅威への対応として、様々なポリシが考えられる。
【００９５】
例えば、検知した内容およびユーザからの回答が、マルウェア種別ごとの攻撃モデルに合致していれば、ヒアリングシステムは、遮断を継続し再接続しないようにしてもよい。特に、「感染」および「目的実行」の段階はクリティカルなため、これらのいずれかが特定されている状態の場合、ヒアリングシステムは、遮断を継続し再接続しないようにしてもよい。一方で、マルウェア種別ごとの攻撃モデルに合致してないならば、再接続する。
【００９６】
また、例えば、「アクセス」や「外部への通信」を示す脅威事象を検知し、感染の有無を確認する質問を送信したときに、ユーザが感染なしと回答してきたとする。ここで、検知した内容およびユーザの回答から、攻撃モデルの段階が判断できない場合、ヒアリングシステムは、ユーザ自身に状況を判断してもらい、回答に応じて対応を変えてもよい。
【００９７】
また、ユーザの判断により再接続を希望してきた場合、ヒアリングシステムは、再接続を行いつつ、セキュリティ監視者は、監視を一定期間強化するようにしてもよい。また、ユーザがセキュリティ監視者への連絡を希望している場合、ヒアリングシステムは、遮断を継続してもよい。そして、セキュリティ監視者自身が、監視ログおよび回答に基づいて再度ユーザに状況を質問し、遮断を継続するか再接続するかを判断してもよい。
【００９８】
次に、本発明の概要を説明する。図１５は、本発明によるヒアリングシステムの概要を示すブロック図である。本発明によるヒアリングシステム８０（例えば、ヒアリングシステム１００、ヒアリングシステム２００）は、ユーザ端末（例えば、ユーザ端末３０）とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定する通知先特定手段８１（例えば、通知先特定手段１２０）と、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザがユーザ端末に生じさせた事象、または、脅威によりユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する質問生成手段８２（例えば、質問生成手段１３０）と、特定されたユーザの通知先に生成された質問を送信し、その質問に対するユーザの回答を受信する質問送受信手段８３（質問送受信手段１４０）と、脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおける段階を、回答に基づいて特定する攻撃特定手段８４（攻撃特定手段１５０）と、特定された段階に応じて、攻撃モデルが示す脅威に対する第一の対応を実行する第一対応実行手段８５（例えば、対応実行手段１６０）とを備えている。
【００９９】
そのような構成により、セキュリティ監視者の作業工数を抑制しつつ、脅威に対する安全性を確保する対応をとることができる。
【０１００】
また、攻撃特定手段８４は、ユーザの回答に基づいて、攻撃モデルにおける段階および脅威の種類を特定してもよい。そして、第一対応実行手段８５は、特定された段階および脅威の種類に応じて、第一の対応を実行してもよい。そのような構成によれば、虚位の種類に応じて、より適切な対応を実行できる。
【０１０１】
また、ヒアリングシステム８０（例えば、ヒアリングシステム２００）は、脅威事象が検知されたときに、その脅威事象が示す脅威を回避する第二の対応を実行する第二対応実行手段（例えば、対応実行手段２６０）を備えていてもよい。そして、質問送受信手段８３は、第二の対応を実行した後に質問を送信してもよい。そのような構成によれば、脅威に対する安全性をより確保することが可能になる。
【０１０２】
また、第二対応実行手段は、第二の対応として、ユーザ端末をそのユーザ端末が接続しているネットワークである通常ネットワークから遮断する対応、または、ユーザ端末を検疫ネットワークに隔離する対応を実行してもよい。
【０１０３】
さらに、第一対応実行手段は、質問の回答に基づいて、通常ネットワークからの遮断の解除もしくは通常ネットワークへの復旧、または、遮断の継続もしくは隔離の継続のいずれかの対応を実行してもよい。
【０１０４】
また、質問生成手段８２は、脅威事象に応じて特定される、脅威の種類と段階とに応じた質問を規定した質問テーブルから質問を生成してもよい。そして、攻撃特定手段８４は、質問に対するユーザの回答から、質問テーブルを参照して、段階を特定してもよい。
【０１０５】
また、質問送受信手段８３は、受信したユーザからの回答の適否を示す質問をそのユーザとは異なる他のユーザ（例えば、上司等）に送信し、他のユーザからの回答を受信し、第一対応実行手段８５は、受信した他のユーザからの回答に基づいて、第一の対応を実行してもよい。そのような構成によれば、回答の信憑性を高めることが可能になる。
【０１０６】
また、攻撃特定手段８４は、各質問に対するユーザの回答に基づいて、特定した段階の尤もらしさを評価してもよい。そして、第一対応実行手段８５は、評価された尤もらしさに応じて実行する第一の対応を決定してもよい。
【０１０７】
また、ヒアリングシステム８０は、ユーザごとの脅威対応履歴を記憶する対応履歴記憶手段（例えば、対応履歴記憶手段１７０）を備えていてもよい。そして、第一対応実行手段８５は、対応脅威対応履歴に基づいてユーザの信頼性を評価し、評価された信頼性に応じて第一の対応を決定してもよい。
【０１０８】
図１６は、本発明による脅威対応システムの概要を示すブロック図である。本発明による脅威対応システム９０（例えば、脅威対応システム１、脅威対応システム２）は、ユーザ端末（例えば、ユーザ端末３０）に生じた脅威事象を検知する脅威事象検知手段９１と、通知先特定手段８１と、質問生成手段８２と、質問送受信手段８３と、攻撃特定手段８４と、第一対応実行手段８５とを備えている。通知先特定手段８１、質問生成手段８２、質問送受信手段８３、攻撃特定手段８４および第一対応実行手段８５の構成は、図１５に例示するヒアリングシステム８０の構成と同様である。
【０１０９】
そのような構成によっても、セキュリティ監視者の作業工数を抑制しつつ、脅威に対する安全性を確保する対応をとることができる。
【０１１０】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
【０１１１】
（付記１）ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定する通知先特定手段と、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザが前記ユーザ端末に生じさせた事象、または、脅威により前記ユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する質問生成手段と、特定されたユーザの通知先に生成された質問を送信し、当該質問に対するユーザの回答を受信する質問送受信手段と、脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおける当該段階を、前記回答に基づいて特定する攻撃特定手段と、特定された段階に応じて、前記攻撃モデルが示す脅威に対する第一の対応を実行する第一対応実行手段とを備えたことを特徴とするヒアリングシステム。
【０１１２】
（付記２）攻撃特定手段は、ユーザの回答に基づいて、攻撃モデルにおける段階および脅威の種類を特定し、第一対応実行手段は、特定された段階および脅威の種類に応じて、第一の対応を実行する付記１記載のヒアリングシステム。
【０１１３】
（付記３）脅威事象が検知されたときに、当該脅威事象が示す脅威を回避する第二の対応を実行する第二対応実行手段を備え、質問送受信手段は、前記第二の対応を実行した後に質問を送信する付記１または付記２記載のヒアリングシステム。
【０１１４】
（付記４）第二対応実行手段は、第二の対応として、ユーザ端末を当該ユーザ端末が接続しているネットワークである通常ネットワークから遮断する対応、または、ユーザ端末を検疫ネットワークに隔離する対応を実行する付記３記載のヒアリングシステム。
【０１１５】
（付記５）第一対応実行手段は、質問の回答に基づいて、通常ネットワークからの遮断の解除もしくは通常ネットワークへの復旧、または、遮断の継続もしくは隔離の継続のいずれかの対応を実行する付記４記載のヒアリングシステム。
【０１１６】
（付記６）質問生成手段は、脅威事象に応じて特定される、脅威の種類と段階とに応じた質問を規定した質問テーブルから質問を生成し、攻撃特定手段は、前記質問に対するユーザの回答から、前記質問テーブルを参照して、段階を特定する付記１から付記５のうちのいずれか１つに記載のヒアリングシステム。
【０１１７】
（付記７）質問送受信手段は、受信したユーザからの回答の適否を示す質問を当該ユーザとは異なる他のユーザに送信し、当該他のユーザからの回答を受信し、第一対応実行手段は、受信した前記他のユーザからの回答に基づいて、第一の対応を実行する付記１から付記６のうちのいずれか１つに記載のヒアリングシステム。
【０１１８】
（付記８）攻撃特定手段は、各質問に対するユーザの回答に基づいて、特定した段階の尤もらしさを評価し、第一対応実行手段は、評価された尤もらしさに応じて実行する第一の対応を決定する付記１から付記７のうちのいずれか１つに記載のヒアリングシステム。
【０１１９】
（付記９）ユーザごとの脅威対応履歴を記憶する対応履歴記憶手段を備え、第一対応実行手段は、前記脅威対応履歴に基づいてユーザの信頼性を評価し、評価された信頼性に応じて第一の対応を決定する付記１から付記８のうちのいずれか１つに記載のヒアリングシステム。
【０１２０】
（付記１０）ユーザ端末に生じた脅威事象を検知する脅威事象検知手段と、前記ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、前記脅威事象が検知されたユーザ端末のユーザの通知先を特定する通知先特定手段と、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザが前記ユーザ端末に生じさせた事象、または、脅威により前記ユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する質問生成手段と、特定されたユーザの通知先に生成された質問を送信し、当該質問に対するユーザの回答を受信する質問送受信手段と、脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおける当該段階を、前記回答に基づいて特定する攻撃特定手段と、特定された段階に応じて、前記攻撃モデルが示す脅威に対する第一の対応を実行する第一対応実行手段とを備えたことを特徴とする脅威対応システム。
【０１２１】
（付記１１）ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定し、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザが前記ユーザ端末に生じさせた事象、または、脅威により前記ユーザ端末に生じた事象の特定に用いられる１以上の質問を生成し、特定されたユーザの通知先に生成された質問を送信し、前記質問に対するユーザの回答を受信し、脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおける当該段階を、前記回答に基づいて特定し、特定された段階に応じて、前記攻撃モデルが示す脅威に対する第一の対応を実行することを特徴とする脅威対応方法。
【０１２２】
（付記１２）コンピュータに、ユーザ端末とユーザの通知先とが対応付けられたデータベースを用いて、脅威事象が検知されたユーザ端末のユーザの通知先を特定する通知先特定処理、検知された脅威事象に基づいて、ユーザが気付き得る事象のうち、脅威を生じさせる原因としてユーザが前記ユーザ端末に生じさせた事象、または、脅威により前記ユーザ端末に生じた事象の特定に用いられる１以上の質問を生成する質問生成処理、特定されたユーザの通知先に生成された質問を送信し、当該質問に対するユーザの回答を受信する質問送受信処理、脅威の種類に応じて特定される一連の攻撃の段階を示す攻撃モデルにおける当該段階を、前記回答に基づいて特定する攻撃特定処理、および、特定された段階に応じて、前記攻撃モデルが示す脅威に対する第一の対応を実行する第一対応実行処理を実行させるための脅威対応プログラム。
【０１２３】
以上、実施形態及び実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【０１２４】
この出願は、２０１８年３月２０日に出願された日本特許出願２０１８−０５２０７７を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【符号の説明】
【０１２５】
１，２  脅威対応システム
１０  検知機
２０  監視ログ記憶手段
３０  ユーザ端末
１００，２００  ヒアリングシステム
１１０  ユーザ情報記憶手段
１２０  通知先特定手段
１３０  質問生成手段
１４０  質問送受信手段
１５０  攻撃特定手段
１６０，２６０  対応実行手段
１７０  対応履歴記憶手段
【図１】
2019180989.tif 000003
【図２】
2019180989.tif 000004
【図３】
2019180989.tif 000005
【図４】
2019180989.tif 000006
【図５】
2019180989.tif 000007
【図６】
2019180989.tif 000008
【図７】
2019180989.tif 000009
【図８】
2019180989.tif 000010
【図９】
2019180989.tif 000011
【図１０】
2019180989.tif 000012
【図１１】
2019180989.tif 000013
【図１２】
2019180989.tif 000014
【図１３】
2019180989.tif 000015
【図１４】
2019180989.tif 000016
【図１５】
2019180989.tif 000017
【図１６】
2019180989.tif 000018
【国際調査報告】
2019180989.tif 000019
2019180989.tif 000020
2019180989.tif 000021
2019180989.tif 000022