(57)【要約】  より良好な脅威スコアを生成する脅威スコアリングシステム及び方法を提供する。１つの実施形態では、システム及び方法が、脅威因子を受け入れ、脅威因子の重み付けを受け入れ、グランドトゥルースを生成し、生成されたグランドトゥルースに少なくとも部分的に基づく分析を用いて脅威スコアリングを生成する。【選択図】図２
2019533856.tif 000002
【特許請求の範囲】
【請求項１】
脅威スコアリングシステムであって、
プロセッサと、メモリと、複数行の命令とを有する脅威スコアリングコンピュータシステムを備え、前記命令は、
それぞれがサイバー脅威攻撃に関するデータである複数の脅威因子を選択し、
別の脅威因子に対する各特定の脅威因子の重要度を指定することによって決定された重みを各選択された脅威因子に割り当てて複数の重み付き脅威因子を生成し、
前記複数の重み付き脅威因子に対する機械学習を用いて脅威スコアを決定する、
ように構成される、
ことを特徴とするシステム。
【請求項２】
前記脅威スコアリングコンピュータシステムは、脅威因子のリストを含むユーザインターフェイスを生成し、ユーザが前記脅威因子のリストから前記複数の脅威因子を選択するようにさらに構成される、
請求項１に記載のシステム。
【請求項３】
前記脅威スコアリングコンピュータシステムは、前記選択された複数の脅威因子の各々を、各脅威因子が０〜１のスコアを有するようにスケーリングするようさらに構成される、
請求項２に記載のシステム。
【請求項４】
前記脅威因子のリストは、攻撃回数、センサの多様性、ｄｉｍｅｎｓｉｏｎ  ｄａｔａ社の注釈、ハニーポット検出及びＤＳＡＰ検出を含む、
請求項３に記載のシステム。
【請求項５】
前記脅威スコアリングコンピュータシステムは、ユーザが定義した各脅威因子の重みの組を含む逆行列を計算するようにさらに構成される、
請求項１に記載のシステム。
【請求項６】
前記脅威スコアリングコンピュータシステムは、前記複数の重み付き脅威因子から正規化された重みを生成し、前記複数の重み付き脅威因子の各々についてのグランドトゥルーススコアを生成するようにさらに構成される、
請求項５に記載のシステム。
【請求項７】
前記脅威スコアリングコンピュータシステムは、前記グランドトゥルーススコアを用いた回帰モデルを使用するようにさらに構成される、
請求項６に記載のシステム。
【請求項８】
前記脅威スコアリングコンピュータシステムは、ロジスティック回帰、ディープラーニング、及びランダムフォレストのうちの１つを使用するようにさらに構成される、
請求項７に記載のシステム。
【請求項９】
前記脅威スコアリングコンピュータシステムは、前記脅威スコアの性能評価を生成するようにさらに構成される、
請求項８に記載のシステム。
【請求項１０】
前記脅威スコアリングコンピュータシステムは、二乗平均平方根誤差を求めるようにさらに構成される、
請求項９に記載のシステム。
【請求項１１】
脅威スコアリング方法であって、
それぞれがサイバー脅威攻撃に関するデータである複数の脅威因子を選択するステップと、
別の脅威因子に対する各特定の脅威因子の重要度を指定することによって決定された重みを各選択された脅威因子に割り当てて複数の重み付き脅威因子を生成するステップと、
前記複数の重み付き脅威因子に対する機械学習を用いて脅威スコアを決定するステップと、
を含むことを特徴とする方法。
【請求項１２】
前記複数の脅威因子を選択するステップは、脅威因子のリストを含むユーザインターフェイスを生成し、ユーザが前記脅威因子のリストから前記複数の脅威因子を選択するステップをさらに含む、
請求項１１に記載の方法。
【請求項１３】
前記複数の脅威因子を選択するステップは、前記選択された複数の脅威因子の各々を、各脅威因子が０〜１のスコアを有するようにスケーリングするステップをさらに含む、
請求項１２に記載の方法。
【請求項１４】
前記脅威因子のリストは、攻撃回数、センサの多様性、ｄｉｍｅｎｓｉｏｎ  ｄａｔａ社の注釈、ハニーポット検出及びＤＳＡＰ検出を含む、
請求項１３に記載の方法。
【請求項１５】
各選択された脅威因子に前記重みを割り当てるステップは、ユーザが定義した各脅威因子の重みの組を含む逆行列を計算するステップをさらに含む、
請求項１１に記載の方法。
【請求項１６】
各選択された脅威因子に前記重みを割り当てるステップは、前記複数の重み付き脅威因子から正規化された重みを生成し、前記複数の重み付き脅威因子の各々についてのグランドトゥルーススコアを生成するステップをさらに含む、
請求項１５に記載の方法。
【請求項１７】
機械学習を用いて前記脅威スコアを決定するステップは、前記グランドトゥルーススコアを用いた回帰モデルを使用するステップをさらに含む、
請求項１６に記載の方法。
【請求項１８】
回帰モデルを使用するステップは、ロジスティック回帰、ディープラーニング、及びランダムフォレストのうちの１つを使用するステップをさらに含む、
請求項１７に記載の方法。
【請求項１９】
前記脅威スコアの性能評価を生成するステップをさらに含む、
請求項１８に記載の方法。
【請求項２０】
前記性能評価を生成するステップは、二乗平均平方根誤差を求めるステップをさらに含む、
請求項１９に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、一般に脅威スコアリングのためのシステム及び方法に関し、特にサイバー脅威スコアリングのためのシステム及び方法に関する。
【背景技術】
【０００２】
脅威（ｔｈｒｅａｔ）とは、コンピュータネットワーク、コンピュータ及びサーバなど（それぞれを総称して「コンピュータ装置」）に対する攻撃のことである。通常、脅威は、コンピュータ装置にアクセスし、コンピュータ装置に記憶され管理されている情報／データを盗み取り、又はコンピュータ装置を停止させるために実行される。脅威に関する情報は、攻撃ソース、宛先ソース、位置、タイムスタンプなどの多くの属性を脅威毎に有する。脅威スコアリング又は優先順位付けは、これらの属性の１つ１つに脅威スコアを追加するものである。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
セキュリティ専門家は、脅威スコアリングを通じてデータストリームに優先順位を付け、サイバー脅威に対処する機構を形成することができる。例えば、セキュリティ専門家は、スコアレベルが一定の閾値を上回った場合に情報へのアクセスを遮断するポリシーを作成することができる。脅威スコアリングには以下の課題がある。
【０００４】
・普遍的グランドトゥルースの不在
機械学習ソフトウェアを使用して、セキュリティ専門家によってラベリングされたサイバー脅威データを分析し、非ラベリングデータ内の脅威へのスコア付けに使用できるモデルを生成することができる。この例では０．０〜１．０に及ぶ脅威スコアを有するこれらのラベリングデータは、「グランドトゥルース」と呼ばれる。機械学習ソフトウェアは、セキュリティ専門家が生成したグランドトゥルースを分析することによって、専門家がデータのラベリングに使用したロジックを模倣することができ、この結果、非熟練者が生成したグランドトゥルースよりも高精度の脅威スコアがもたらされる。脅威データのラベリングを誰が行うかによってグランドトゥルースの精度が決まる点が課題である。どのようにデータをラベリングするかは、たとえセキュリティ専門家であっても異なり得る。これまで、脅威スコアリングのためのグランドトゥルースの最良な決定方法についての合意は取れていない。
【０００５】
・信頼性とデータ処理スループットとの対立性
脅威スコアを決定する因子は、攻撃回数、攻撃の多様性、企業の信頼できる脅威情報、及び他の脅威分析ツールによって発見された因子など複数のものが存在する。各因子は、異なる信頼性スコアを有する。例えば、分析ツールの１つであるＤＳＡＰは信頼性の高い分析ツールとして知られているが、ＤＳＡＰがマルウェアを完全に分析するには平均で５分掛かる。従って、信頼性はデータ処理スループットを犠牲にして成り立っている。信頼性の高い脅威検出方法を使用するとデータセットが小さくなり、機械学習によるデータ分析の結果に悪影響を及ぼす。
【０００６】
・一意的ＩＤの問題
通常、脅威情報は、ソースＩＰアドレス又はＵＲＬを伴う。しかしながら、攻撃者の中には、検出を避けるためにＩＰアドレス又はＵＲＬを巧みに変更する者もいる。この場合、たとえ脅威スコアリングが上手くいったとしても、数時間後に攻撃者がＩＰアドレスを変更してしまえば分析データは使いものにならなくなってしまう。
【０００７】
脅威スコアリングには、ＳＯＣ及び管理セキュリティサービスプロバイダ（ＭＳＳＰ）内の時間及び効率の向上、並びに脅威の検出及び軽減を行えないリスクの低減を含む様々な一般的利点がある。セキュリティ専門家は、スコアリングが行われていなければ全ての脅威をチェックできない可能性もあるが、スコアリングが行われていればチェックすべき脅威の数が大幅に減少し、これらの脅威に対応できる可能性が高まる。
【０００８】
従って、新規の脅威スコアリングシステム及び方法を提供することが望ましく、本開示はこれを目的とする。
【図面の簡単な説明】
【０００９】
【図１】脅威スコアリングの例を示す図である。
【図２】脅威スコアリングシステムの実装例を示す図である。
【図３】脅威スコアリングシステム及び方法のさらなる詳細を示す図である。
【図４】脅威スコアリングシステムの初期ユーザインターフェイス例を示す図である。
【図５】脅威スコアリング方法の一部である脅威因子の選択を行うためのユーザインターフェイス例を示す図である。
【図６】脅威スコアリング方法の一部である選択された因子への重みの割り当てを行うためのユーザインターフェイス例を示す図である。
【図７】脅威スコアリング方法の一部である機械学習脅威スコアリングのさらなる詳細を示す図である。
【図８】脅威スコアリング方法において使用されるデータセット例を示す図である。
【図９】脅威スコアリング方法の結果を表示するためのユーザインターフェイス例を示す図である。
【発明を実施するための形態】
【００１０】
本開示は、サイバー脅威のための脅威スコアリングシステムにとりわけ適用可能であり、この文脈で本開示を説明する。しかしながら、このシステムは、異なるタイプの脅威のスコアリングに使用することも、他の形で実装することもできるので、システム及び方法は非常に有用であると理解されるであろう。
【００１１】
図１に、後述する脅威スコアリングシステム及び方法の結果とすることができる脅威スコアリングの例を示す。脅威とは、一般に宛先ソース（コンピュータ装置）に違法にアクセスし、コンピュータ装置から情報／データを違法に抽出し、及び／又はコンピュータ装置が正しく機能するのを妨げようと試みる攻撃ソース（人物、事業体など）による、コンピュータネットワーク、コンピュータ及びサーバなど（それぞれを総称して「コンピュータ装置」）に対する攻撃のことである。脅威スコアは、コンピュータ装置にとって脅威がどれほど危険であるかについての評価であり、このスコアは、３０を超える異なる特徴に基づくことができる。図１には、異なる脅威スコアに緊急〜高〜並の範囲に及ぶ異なる脅威レベルを割り当てた脅威スコアリングの例も示す。結果として得られる脅威スコアは、事業体のＩＴ担当者又はその他のセキュリティ要員が使用することができる。例えば、脅威スコアは、緊急の脅威に対するリソースの優先順位付け及びその他の用途に使用することができる。
【００１２】
図２に、脅威スコアの決定及び脅威スコアの結果表示に使用できる脅威スコアリングシステム２００の実装例を示す。この実装では、クライアント／サーバタイプのコンピュータアーキテクチャが使用されている。しかしながら、脅威スコアリングシステムは、いずれかの特定のコンピュータアーキテクチャに限定されるものではないため、クラウドベースのアーキテクチャ、スタンドアロン型コンピュータ及びメインフレームコンピュータシステムなどを用いて実装することもできる。
【００１３】
システム２００は、通信経路２０４を介してバックエンドシステム２０６に接続して相互作用することができる、図２に示すコンピュータ装置２０２Ａ、２０２Ｂ、．．．、２０２Ｎなどの１又は２以上のコンピュータ装置２０２（フロントエンドの一部）を有することができる。各コンピュータ装置２０２は、（図４〜図９に例を示す）システムのユーザインターフェイスを表示し、バックエンドシステム２０６からデータを受け取り、図示のクライアントサーバの実装ではフォームを満たし又はウェブページと相互作用することなどによってバックエンドシステムにデータを入力し、ブラウザ内に表示できるＨＴＭＬコードのウェブページなどを使用してバックエンドシステム２０６から結果を受け取るために使用することができる。各コンピュータ装置２０２は、１又は２以上のプロセッサと、ＳＲＡＭ又はＤＲＡＭなどのメモリと、フラッシュメモリ又はハードディスクドライブなどの永続ストレージと、ディスプレイと、通信回路とを含むプロセッサベースの装置とすることができる。例えば、各コンピュータ装置２０２は、Ａｐｐｌｅ  ｉＰｈｏｎｅ（登録商標）又はＡｎｄｒｏｉｄ  ＯＳベースの装置などのスマートホン装置、コンピュータシステム、ラップトップコンピュータ、タブレットコンピュータ及び端末などとすることができる。図２に示す実装では、各コンピュータ装置２０２が、プロセッサがバックエンドシステム２０６と相互作用するために実行するブラウザアプリケーションを有することができる。他の実施形態では、各コンピュータ装置２０２が、コンピュータ装置のユーザをバックエンドシステム２０６に接続して相互作用を可能にするモバイルアプリケーション、又はコンピュータ装置にダウンロードされたアプリケーションを有することができる。
【００１４】
通信経路２０４は、各コンピュータ装置をバックエンドシステム２０６に接続し、様々な通信及びデータプロトコルを用いたバックエンドシステムとのデータ交換を可能にする、有線通信リンク、無線通信リンク、又は有線通信リンクと無線通信リンクとの組み合わせとすることができる。例えば、図２に示す実装では、通信プロトコルがＴＣＰ／ＩＰであり、データ転送プロトコルがＨＴＴＰ又はＨＴＴＰＳであって、データの通信にＨＴＭＬコードを使用することができる。例えば、通信経路２０４は、イーサネット（登録商標）ネットワーク、ケーブルネットワーク、ＷｉＦｉネットワーク、セルラーデジタルデータネットワーク、デジタルデータネットワーク及びデジタルコンピュータネットワークなどのうちの１つ又は２つ以上とすることができる。
【００１５】
バックエンド２０６は、サーバコンピュータ、メインフレームコンピュータ、ブレードサーバ、プロセッサ及び記憶装置などの１又は２以上のコンピューティングリソースを用いて実装することができる。１つの実装では、バックエンド２０６が、（複数行の命令／コンピュータコードを有する）脅威スコアリングコンポーネント２０８を実行して後述の脅威スコアリング方法を実施できる少なくとも１つのプロセッサを有することができる。他の実装では、脅威スコアリングコンポーネント２０８を、後述する脅威スコアリング方法を実施する１つのハードウェア（集積回路、マイクロコントローラ、論理装置など）とすることができる。
【００１６】
システム２００は、脅威スコアリングコンポーネント２０８がアクセスできるストレージ２１０を有することもでき、そのデータを使用して後述するような脅威スコアリング方法を実行することができる。ストレージ２１０は、例えばユーザデータ、後述するような様々なタイプの脅威データ及び脅威データ因子、並びに他の様々なタイプのデータを記憶することができる。
【００１７】
図３に、例えば図２に示すシステム２００を用いて実装できる脅威スコアリングシステム及び方法３００のさらなる詳細を示す。図３に示すように、この方法は、フロントエンド内の（単複の）コンピュータ装置２０２と、バックエンドシステム２０６とを用いて実行することができる。この方法は、脅威因子を選択するプロセス３０２と、選択された因子に重みを割り当てるプロセス３０４と、脅威スコアリング及び性能評価を決定するプロセス３０６とを含むことができる。プロセス３０２、３０４は、グランドトゥルースを計算した後に、このグランドトゥルースを用いて、選択された因子に基づいてさらに正確な脅威スコアを生成する。図４には、脅威スコアを決定するプロセスの概要をユーザに示すことができる、脅威スコアリングシステムの初期ユーザインターフェイスの例を示す。
【００１８】
脅威因子の選択３０２
このプロセス３０２中には、１又は２以上の脅威因子の選択／システムへの入力を行うことができる（３１０）。１つの例では、ユーザが、ユーザインターフェイスを用いてシステムに１又は２以上の脅威因子を入力することができる。図５に、脅威因子を入力するためのユーザインターフェイス例を示す。図５の例では、ユーザが選択できる脅威因子が、例えば攻撃回数、攻撃の多様性、センサの多様性、ｄｉｍｅｎｓｉｏｎ  ｄａｔａ社の注釈、Ｐａｌｏ  Ａｌｔｏ  Ｎｅｔｗｏｒｋｓ社の脅威、ハニーポット検出及びＤＳＡＰ検出を含むことができる。攻撃回数は、脅威情報内のオリジナルソースに示される１つのＩＰアドレスの数である。攻撃の多様性は、１つのオリジナルＩＰアドレスが攻撃している一意的な宛先ソースの数である。センサの多様性は、１つのオリジナルＩＰアドレスを脅威情報として獲得した一意的なセンサの数である。ｄｉｍｅｎｓｉｏｎ  ｄａｔａ社の注釈及びＰａｌｏ  Ａｌｔｏ  Ｎｅｔｗｏｒｋｓ社の脅威は、他のセキュリティ会社が手動又は自動で獲得した攻撃情報の例である。ハニーポット検出及びＤＳＡＰは、脅威情報を獲得する脅威分析ツールの例である。１つの実施形態では、選択のためにユーザに表示できる脅威因子を、システムのストレージ２１０が記憶できる脅威データ２１０Ａに基づいて生成（から抽出）することができる。脅威データは、システムの設計において考慮されるセキュリティ専門家からの入力に基づくオリジナルデータとすることができる。脅威因子は、データプリプロセッサ３１２及び因子抽出器３１４を用いて抽出することができる。データプリプロセッサは、脅威データを処理して正規化することができ、脅威データから抽出された各因子のスコアは、後述するようにスケーリングすることができる。
【００１９】
以下は、システムが因子を抽出できるオリジナルデータの例である。
【表１】
2019533856.tif 000003
【００２０】
システムは、上記の脅威データ例に基づいて脅威データから因子を抽出することができる。システムは、上記のデータ例から７つの因子を抽出することができるが、データに応じて、並びにセキュリティ専門家が顧客にとって何が適切であると考えるかに応じて、さらに少ない又は多くの因子を抽出することもできる。システムは、上記のデータ例に基づいて以下の７つの因子候補を抽出することができる。
ｆ1：攻撃回数
ｆ2：攻撃の多様性
ｆ3：センサの多様性
ｆ4：ｄｉｍｅｎｓｉｏｎ  ｄａｔａ社の注釈
ｆ5：Ｐａｌｏ  Ａｌｔｏ  Ｎｅｔｗｏｒｋｓ社のスレッド
ｆ6：ハニーポット検出
ｆ7：ＤＳＡＰ検出
【００２１】
図５に、ユーザが脅威因子を選択できる元となる抽出された因子を表示するインターフェイスの例を示す。ユーザは、このユーザインターフェイス内で、抽出された因子のうちの１つ又は２つ以上を選択することができる。このユーザインターフェイスでは、各抽出された因子のデータのアカウントサイズが括弧内に示される。従って、（図５に示すＤＳＡＰ検出因子のように）データサンプルが小さければ小さいほど精度が低くなる（性能が低下する）ので、顧客は、因子を選択する際にデータのサイズを考慮する必要がある。
【００２２】
システムは、これらの因子のスコアを０〜１になる（０＜＝ｆ＊＜＝１）ようにスケーリングする。
【００２３】
選択された因子への重みの割り当て（３０４）
このプロセス３０４では、フロントエンド（コンピュータ装置２０２のうちの１つ）を用いて、選択された各因子の重みを割り当てることができる。１つの実施形態では、ユーザが、（図６に例を示す）ユーザインターフェイスを用いて、各選択された因子に重みを割り当てることができる。重みの割り当ては容易でないため、システムは、図６に示すようにユーザによる相対的な因子の重要度の指定を可能にすることによってユーザに単純な重み指定方法を示す。
【００２４】
図６に示す例では、ユーザがシステムに、センサの多様性因子が攻撃の多様性因子よりも５倍重要であり、センサの多様性因子がＤｉｍｅｎｓｉｏｎ  Ｄａｔａ社の注釈因子よりも３倍重要であり、攻撃の多様性因子がＤｉｍｅｎｓｉｏｎ  Ｄａｔａ社の注釈因子よりも７倍重要であることを示す。なお、相対的重要度の重み付けスケールは調整可能である。従って、別のデータセットでは、５の相対的重要度因子を選択すると、１つの因子が別の因子よりも１．５倍重要であることを示すことができる。
【００２５】
プロセス３０４では、プロセスが、相互作用的重み計算３２２、グランドトゥルース計算３２４（及び正規化）、並びに選択された因子と、因子抽出器３１４から抽出された因子と、事前処理されてスケーリングされた脅威データ及び脅威スコアデータとに基づく特徴エンジニアリング３２６を含むことができる。
【００２６】
相互作用的重み計算（３２２）中には、因子の選択に基づいて顧客にnＣ2個の組み合わせパターンが提示される。システムは、上記の顧客選択を用いて因子ａと因子ｂとの間の重み（ｗab）を計算することができる。この時、ｎ×ｎの逆行列は以下のようになる。
【数１】
2019533856.tif 000004
【００２７】
例えば、図５の例における選択によれば、システムは以下の値を生成することができる。
・ｆ1対ｆ2＝５
・ｆ2対ｆ3＝１／３
・ｆ3対ｆ1＝７
【００２８】
この結果、以下のようになる。
【数２】
2019533856.tif 000005
【００２９】
全体的な重みの計算では、以下の式に示すようにＷの第１の固有ベクトルが全体的な重みに対応することが知られている。
ＥｉｇＶｅｃ（Ａ）＝Ｗ＝［ｗ1*，ｗ2*，ｗ3*］
【００３０】
この式では、ｗ1*が全体的な重みを表す。
【００３１】
システムは、正規化された重みｗ1を計算するために以下の式を使用する。
【数３】
2019533856.tif 000006
【００３２】
この例では、ｗ1*＝［−０．３０５，−０．１３８，−０．９４２］＾Ｔであり、ｗ＿１＝［０．２２０，０．１００，０．６８０］＾Ｔである。
【００３３】
次に、グランドトゥルースプロセス３２４は、正規化された重みを用いて以下のようなグランドトゥルースの計算を行い、ここでのｆkはｋ番目の因子を表す。
ｆ＝［ｆ1，ｆ2，．．．，ｆk，．．．，ｆn］
ｓｃｏｒｅ＝ｆ×ｗ1（［１×ｎ］×［ｎ×１］＝ｓｃａｌａｒ）
【００３４】
この計算を、完全なデータセット全てについて行うべきである。なお、全てのデータ点が計算可能なグランドトゥルースを有しているわけではない。例えば、因子の次元データスコア（ＤＤスコア）がＮａＮである（数字でない）場合には、グランドトゥルースを計算することはできない。例えば、図７に示すように、脅威１０３及び１０４は、ＤＤスコアがＮａＮであるため計算することができない。図７に示すように、上記の因子例の計算されたグランドトゥルースが示されている。
【００３５】
これらのプロセスの要点は、システムの各顧客／ユーザが脅威分析に異なる重点を置くことができ、従ってユーザが適用する重点に基づいて脅威スコアリングが調整される点である。このシステムでは、特徴抽出が、３０次元データ点を有することができるオリジナル脅威データ２１０Ａを使用し、上述したように抽出された因子がさらなる特徴をもたらす。これらの２つの成分は、１つの特徴として連結される。
【００３６】
特徴エンジニアリング３２６の目的は、未加工のデータを機械学習に適したデータに変換することである。カテゴリ情報は、ワンホット（ｏｎｅ−ｈｏｔ）エンコードすることができる。脅威データの例では、以下のリストを変換すべきである。このトランザクションは、特徴空間を４０から１８０に拡張する。
ｏｎｅ＿ｈｏｔ＿ｌｉｓｔ＝［“ｃａｔｅｇｏｒｙ”、“ｋｉｌｌＣｈａｉｎ”，“ｉｄｅｎｔｉｆｉｅｄＢｙ”，“ｒｅｌｅａｓｅＬｉｍｉｔｓ”，“ｄｅｓｔｉｎａｔｉｏｎＣｏｕｎｔｒｙＣｏｄｅ”，“ｄｅｓｔｉｎａｔｉｏｎＣｉｔｙ”，“ｓｅｎｓｏｒＴＹｐｅ”，“ｄａｔａＳｏｕｒｃｅ”，“ｔｉｍｅｓｔａｍｐＲｅｃｅｉｖｅｄ＿ｗｅｅｋｄａｙ”，“ｔｉｍｅｓｔａｍｐＲｅｃｅｉｖｅｄ＿２４ｈｏｕｒ”，“ｔｉｍｅｓｔａｍｐＩｄｅｎｔｉｆｉｅｄ＿ｗｅｅｋｄａｙ”，“ｔｉｍｅｓｔａｍｐＩｄｅｎｔｉｆｉｅｄ＿２４ｈｏｕｒ”，“ｅｘｐｉｒａｔｉｏｎＤａｔｅ＿ｗｅｅｋｄａｙ”，“ｅｘｐｉｒａｔｉｏｎＤａｔｅ＿２４ｈｏｕｒ”，“ｍｏｄｉｆｉｃａｔｉｏｎｔｉｍｅｓｔａｍｐ＿ｗｅｅｋｄａｙ”，“ｍｏｄｉｆｉｃａｔｉｏｎｔｉｍｅｓｔａｍｐ＿２４ｈｏｕｒ”］
【００３７】
他の特徴は、スコアが０．０〜１．０になるようにスケーリングすることができる。図８に、例示的なデータの最終データセットを示す。この最終データセットは、スケーリングされた未加工の非カテゴリデータと、ワンショットエンコードされた未加工のカテゴリデータと、抽出されてスケーリングされた因子と、計算されたグランドトゥルース（ラベル付きデータ）との組み合わせである。
【００３８】
機械学習及び性能評価プロセス３０６による脅威スコアリング
このプロセス３０６では、システムが、機械学習を実行して脅威をスコアリングし３３０、性能評価を行い３３２、その後にユーザに対してコンピュータ装置２０２上に表示できる結果を生成する３３４。図９に、例示的なデータの結果例を示す。
【００３９】
この回帰モデルである予測モデルは、上述した一意的ＩＤの問題に起因して一定のリフレッシュ間隔でリモデリングされ、これによってＩＰアドレスを更新し続けなければならない。このリフレッシュ間隔は、データ分析に必要な計算時間を考慮することによって決定することができる。機械学習を用いた回帰予測に関しては、計算されたグランドトゥルースを含むデータ（図７の脅威１０１及び１０２）を機械学習分析に使用し、これらのデータを用いてラベルなしデータ（脅威１０３及び１０４）をスコアリングする。システムがモデルを構築した後には、特徴が完全なものであるか、それとも補足的なものであるかのみについて特徴を考慮する。
【００４０】
回帰モデルは、以下のモデルのうちの１つ又はこれらの組み合わせとすることができる。
ロジスティック回帰
ディープラーニング
ランダムフォレスト
【００４１】
現実の稼働環境では、予測性能を最大化するように、試行錯誤を通じてこの回帰モデルを慎重に選択しなければならない。図９に、機械学習の結果例を示す。
【００４２】
性能評価３３２
システムは、回帰モデルに一般的に使用されているメトリックである二乗平均平方根誤差（ＲＭＳＥ）メトリックを評価のために使用する。図９には、ユーザに表示される性能評価例を示す。
【００４３】
ＲＭＳＥの計算には以下の公式が使用され、ここでのｘはグランドトゥルースであり、ｘ~は予測値であり、Ｎはデータサイズである。
【数４】
2019533856.tif 000007
【００４４】
例えば、グランドトゥルースが０．８０であるデータは、０．７であると予測される。この場合、誤差は０．１である。グランドトゥルースが０．６０であるデータは、０．９であると予測される。この場合、誤差は０．３である。これらの２つのデータ点のＲＭＳＥは、０．２である。
【００４５】
完全なデータについてのみ１０分割交差検証（１０−ｆｏｌｄ  ｃｒｏｓｓ  ｖａｌｉｄａｔｉｏｎ）を実行しなければならない。
【００４６】
たとえ前の図のオレンジボックスデータ内に機械学習の力が特別に示されていたとしても、これらのデータの予測性能を計算することはできない。
【００４７】
実験結果
システムの性能を評価するために、システムを使用して小さなデータセット例を処理することができる。このデータセットのために、６時間のライブ脅威データと、１０００個のシードを含むランダムフォレスト回帰モデルとを使用した。３．１ＧＨｚ  Ｉｎｔｅｌ  Ｃｏｒｅ  ｉ７プロセッサと１６ＧＢのＲＡＭとを備えたＭａｃＢｏｏｋ  Ｐｒｏ上で実験を行った。
【００４８】
１０回の試行にわたる精度結果の平均値は以下の通りである。
ＲＭＳＥ学習誤差：０．０３９
ＲＭＳＥ試験誤差：０．０４１
【００４９】
計算時間結果は以下の通りである。
グランドトゥルース計算：５８秒
学習処理：３分３０秒
試験処理：１４秒
【００５０】
図９に示すように、ユーザインターフェイスは、機械学習データを含むテーブルを表示することができ、このテーブルは脅威情報をリスト化する。このテーブルは、リスト化された脅威毎にグランドトゥルーススコア及び予測スコアを表示する。ユーザは、このテーブルを用いてスコアの妥当性を確認することができる。ユーザインターフェイスは、分析された脅威スコアのＲＭＳＥ信頼性メトリックも表示する。ユーザインターフェイスは、さらなる分析に使用できる、結果を可視化したグラフをネットワークグラフの形で示すこともできる。結果の表示に加え、ユーザは、図９に示すユーザインターフェイスを用いて、１）カンマで区切られた形式のスコアリング結果、２）スコアリング結果のネットワークグラフ可視化、及び／又は３）分析において使用されたオリジナルデータ、をダウンロードすることもできる。
【００５１】
以上、特定の実施形態を参照しながら説明目的で解説を行った。しかしながら、上記の例示的な説明は、完全であることや、或いは開示した厳密な形に本開示を限定することを意図したものではない。上記の教示に照らして多くの修正及び変形が可能である。これらの実施形態は、本開示の原理及びその実際の応用を最良に説明することにより、他の当業者が検討する特定の用途に適した形で本開示及び様々な実施形態を様々に修正して最良に利用できるように選択し説明したものである。
【００５２】
本明細書に開示したシステム及び方法は、１又は２以上のコンポーネント、システム、サーバ、機器又はその他のサブコンポーネントを通じて実装することができ、或いはこのような要素間で分散することもできる。システムとして実装する場合、このようなシステムは、とりわけ汎用コンピュータで見られるソフトウェアモジュール、汎用ＣＰＵ、ＲＡＭなどのコンポーネントを含み、及び／又は伴うことができる。サーバに革新性が存在する実装では、このようなサーバが、汎用コンピュータで見られるようなＣＰＵ、ＲＡＭなどのコンポーネントを含み、及び／又は伴うことができる。
【００５３】
また、本明細書におけるシステム及び方法は、上述した以外の異種の又は完全に異なるソフトウェアコンポーネント、ハードウェアコンポーネント及び／又はファームウェアコンポーネントを含む実装を通じて実現することもできる。このような他のコンポーネント（例えば、ソフトウェア、処理コンポーネントなど）、及び／又は本発明に関連する又は本発明を具体化するコンピュータ可読媒体については、例えば本明細書における革新性の態様を数多くの汎用又は専用コンピュータシステム又は構成と調和させて実装することができる。本明細書における革新性との併用に適することができる様々な例示的なコンピュータシステム、環境及び／又は構成としては、以下に限定されるわけではないが、パーソナルコンピュータ、ルーティング／接続性コンポーネントなどのサーバ又はサーバコンピュータ装置、ハンドヘルド又はラップトップ装置、マルチプロセッサシステム、マイクロプロセッサベースのシステム、セットトップボックス、消費者電子装置、ネットワークＰＣ、他の既存のコンピュータプラットフォーム、上記のシステム又は装置のうちの１つ又は２つ以上を含む分散型コンピュータ環境などの内部の又はこれらに組み込まれたソフトウェア又はその他のコンポーネントを挙げることができる。
【００５４】
場合によっては、システム及び方法の態様を、例えばこのようなコンポーネント又は回路に関連して実行されるプログラムモジュールを含む論理回路及び／又は論理命令を介して実現し、或いはこのような論理回路及び／又は論理命令によって実行することもできる。一般に、プログラムモジュールは、本明細書における特定のタスク又は特定の命令を実行するルーチン、プログラム、オブジェクト、コンポーネント、データ構造などを含むことができる。また、本発明は、通信バス、通信回路又は通信リンクを介して回路が接続された分散ソフトウェア、分散コンピュータ又は分散回路環境を背景として実施することもできる。分散環境では、メモリストレージデバイスを含むローカルコンピュータ記憶媒体及び遠隔コンピュータ記憶媒体の両方から制御／命令を行うことができる。
【００５５】
本明細書におけるソフトウェア、回路及びコンポーネントは、１又は２以上のタイプのコンピュータ可読媒体を含み及び／又は利用することもできる。コンピュータ可読媒体は、このような回路及び／又はコンピュータコンポーネント上に存在する、これらに関連する、又はこれらがアクセスできるいずれかの利用可能な媒体とすることができる。一例として、限定するわけではないが、コンピュータ可読媒体としてはコンピュータ記憶媒体及び通信媒体を挙げることができる。コンピュータ記憶媒体は、コンピュータ可読命令、データ構造、プログラムモジュール又はその他のデータなどの情報を記憶するためのいずれかの方法又は技術で実装された揮発性及び不揮発性の取り外し可能及び取り外し不能媒体を含む。コンピュータ記憶媒体は、以下に限定するわけではないが、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、フラッシュメモリ又はその他のメモリ技術、ＣＤ−ＲＯＭ、デジタル多用途ディスク（ＤＶＤ）又はその他の光学ストレージ、磁気テープ、磁気ディスクストレージ又はその他の磁気記憶装置、或いは所望の情報を記憶するために使用できるとともにコンピュータコンポーネントがアクセスできる他のいずれかの媒体を含む。通信媒体は、コンピュータ可読命令、データ構造、プログラムモジュール及び／又はその他のコンポーネントを含むことができる。さらに、通信媒体は、有線ネットワーク又は直接有線接続などの有線媒体を含むことができるが、本明細書におけるこのようなタイプの媒体は、いずれも一時的媒体を含まない。また、上記のいずれかの組み合わせもコンピュータ記憶媒体の範囲に含まれる。
【００５６】
本明細書におけるコンポーネント、モジュール、装置などの用語は、様々な形で実装できるあらゆるタイプの論理的又は機能的ソフトウェア要素、回路、ブロック及び／又はプロセスを意味することができる。例えば、様々な回路及び／又はブロックの機能を互いに組み合わせて他のあらゆる数のモジュールにすることができる。各モジュールは、中央処理装置に読み取られて本明細書における革新性の機能を実行できる、有形メモリ（例えば、ランダムアクセスメモリ、リードオンリメモリ、ＣＤ−ＲＯＭメモリ、ハードディスクドライブなど）に記憶されたソフトウェアプログラムとして実装することもできる。或いは、これらのモジュールは、汎用コンピュータに送信される、又は送信搬送波を介して処理／グラフィックスハードウェアに送信されるプログラミング命令を含むこともできる。また、モジュールは、本明細書における革新性に含まれる機能を実装するハードウェア論理回路として実装することもできる。最後に、これらのモジュールは、専用命令（ＳＩＭＤ命令）、フィールドプログラマブルロジックアレイ、又は所望のレベルの性能及びコストをもたらすこれらのいずれかの混合物を用いて実装することもできる。
【００５７】
本明細書に開示したように、本開示による機能は、コンピュータハードウェア、ソフトウェア及び／又はファームウェアを通じて実装することができる。例えば、本明細書で開示したシステム及び方法は、例えばデータベース、デジタル電子回路、ファームウェア、ソフトウェア又はこれらの組み合わせも含むコンピュータなどのデータプロセッサを含む様々な形態で具体化することができる。さらに、開示した実装の一部では、特定のハードウェアコンポーネントについて説明しているが、本明細書における革新性によるシステム及び方法は、ハードウェア、ソフトウェア及び／又はファームウェアのあらゆる組み合わせを用いて実装することもできる。さらに、上述した機能及びその他の態様、並びに本明細書における革新性の原理は、様々な環境で実装することができる。このような環境及び関連する用途は、本発明による様々なルーチン、プロセス及び／又は動作を実行するように特別に構成することも、或いは汎用コンピュータ、又は必要な機能を提供するようにコードによって選択的に有効化又は再構成されたコンピュータプラットフォームを含むこともできる。本明細書で開示したプロセスは、本質的にいずれかの特定のコンピュータ、ネットワーク、アーキテクチャ、環境又はその他の装置に関連するものではなく、ハードウェア、ソフトウェア及び／又はファームウェアの好適な組み合わせによって実装することができる。例えば、本発明の教示に従って書かれたプログラムと共に様々な汎用機械を使用することもでき、或いは必要な方法及び技術を実行するように特殊な装置又はシステムを構成する方が便利な場合もある。
【００５８】
本明細書で説明したロジックなどの方法及びシステムの態様は、フィールドプログラマブルゲートアレイ（「ＦＰＧＡ」）、プログラマブルアレイロジック（「ＰＡＬ」）デバイス、電気的にプログラム可能なロジックなどのプログラマブルロジックデバイス（「ＰＬＤ」）、メモリデバイス及び標準的なセルベースの装置、並びに特定用途向け集積回路を含む様々な回路のいずれかにプログラムされる機能として実装することもできる。態様を実装するための他のいくつかの可能性としては、メモリデバイス、（ＥＥＰＲＯＭなどの）メモリ付きマイクロコントローラ、内蔵マイクロプロセッサ、ファームウェア、ソフトウェアなどが挙げられる。さらに、ソフトウェアベースの回路エミュレーション、個別ロジック（順序ロジック及び組み合わせロジック）、カスタムデバイス、ファジー（ニューラル）ロジック、量子デバイス、及びこれらのデバイスタイプのいずれかの混成を有するマイクロプロセッサにおいて態様を具体化することもできる。例えば、金属酸化物半導体電界効果トランジスタ（「ＭＯＳＦＥＴ」）技術に似た相補型金属酸化物半導体（「ＣＭＯＳ」）、バイポーラ技術に似たエミッタ結合型論理回路（「ＥＣＬ」）、ポリマー技術（例えば、シリコン共役ポリマー及び金属共役ポリマー金属構造体）、混合アナログ及びデジタルなどの基礎デバイス技術を様々なコンポーネントタイプで提供することができる。
【００５９】
また、本明細書で開示した様々なロジック及び／又は機能は、挙動特性、レジスタ転送特性、論理コンポーネント特性及び／又はその他の特性の観点から、ハードウェア、ファームウェアのあらゆる数の組み合わせを使用して、及び／又は機械可読又はコンピュータ可読媒体に具体化されたデータ及び／又は命令として有効にすることができる。このようなフォーマットデータ及び／又は命令を具体化できるコンピュータ可読媒体は、限定的な意味ではなく様々な形態の不揮発性記憶媒体（例えば、光学記憶媒体、磁気記憶媒体又は半導体記憶媒体）を含むことができるが、ここでも一時的媒体は含まない。本明細書全体を通じ、「備える（ｃｏｍｐｒｉｓｅ、ｃｏｍｐｒｉｓｉｎｇ）」などの用語は、文脈上明らかに他の意味を必要としない限り、排他的又は網羅的な意味の対語である包括的な意味で、すなわち「〜を含むけれどもそれに限定されない（ｉｎｃｌｕｄｉｎｇ，ｂｕｔ  ｎｏｔ  ｌｉｍｉｔｅｄ  ｔｏ）」という意味で解釈されたい。また、単数又は複数を用いた単語は、それぞれ複数又は単数も含む。また、「本明細書において（ｈｅｒｅｉｎ）」、「本明細書に従って（ｈｅｒｅｕｎｄｅｒ）」、「上記の（ａｂｏｖｅ）」、「以下の（ｂｅｌｏｗ）」、及び同様の意味の単語は、本出願のいずれかの特定の部分ではなく本出願全体を示す。２又は３以上の項目のリストへの言及において「又は（ｏｒ）」という単語を使用している場合、この単語は、リスト内のいずれかの項目、リスト内の全ての項目、及びリスト内の項目のいずれかの組み合わせ、という解釈を全て含む。
【００６０】
本明細書では、本発明の現在のところ好ましいいくつかの実装について具体的に説明したが、本発明に関連する当業者には、本発明の趣旨及び範囲から逸脱することなく、本明細書で図示し説明した様々な実装の変形及び変更を行えることが明らかであろう。従って、本発明は、適用される法の原則によって定められる範囲のみに限定されるように意図されている。
【００６１】
上記では、本開示の特定の実施形態について言及したが、当業者であれば、本開示の原理及び趣旨から逸脱することなく実施形態に変更を行うことができ、本開示の範囲は添付の特許請求の範囲によって定められると理解するであろう。
【符号の説明】
【００６２】
２００  脅威スコアリングシステム
２０２Ａ〜Ｎ  コンピュータ装置
２０４  通信経路
２０６  バックエンドシステム
２０８  脅威スコアリングコンポーネント
２１０  ストレージ
【図１】
2019533856.tif 000008
【図２】
2019533856.tif 000009
【図３】
2019533856.tif 000010
【図４】
2019533856.tif 000011
【図５】
2019533856.tif 000012
【図６】
2019533856.tif 000013
【図７】
2019533856.tif 000014
【図８】
2019533856.tif 000015
【図９】
2019533856.tif 000016
【国際調査報告】
2019533856.tif 000017