(57)【要約】  組織のコンピューティング環境におけるアプリケーションを発見および管理するための技術を開示する。セキュリティ管理システムは、組織のコンピューティング環境におけるセキュリティ脅威およびリスクを最小限に抑えるために、コンピューティング環境内のアプリケーションの使用を発見し、アプリケーションへのアクセスを管理する。セキュリティ管理システムは、ネットワークトラフィックについてのネットワークデータを取得して、固有のアプリケーションを特定することができる。セキュリティ管理システムは、１つ以上のデータソースの使用を含む、分析および相関分析を行い、アプリケーションについての情報を特定することができる。システムは、アプリケーションの安全度合い（「アプリケーション・リスクスコア」）、およびユーザの安全度合い（「ユーザ・リスクスコア」）を演算できる。このスコアは、アプリケーションの使用に基づいてアプリケーションによってもたらされるセキュリティの脅威決定するために分析され得る。セキュリティシステムは、１つ以上の命令を実行し、アプリケーションが許可するアクセスを拒否するか制限するかどうかを設定することができる。
2019510304.tif 000002
【特許請求の範囲】
【請求項１】
セキュリティ管理システムのコンピュータシステムにおいて、
組織のネットワーク上のユーザによるネットワーク・アクティビティについてのデータを取得するステップと、
前記ネットワーク・アクティビティについてのデータを使用して、前記ネットワーク上で前記ユーザがアクセスしたアプリケーションを特定するステップと、
前記ネットワーク・アクティビティについてのデータを使用して、前記ユーザがアクセスしたアプリケーションに対応する前記ネットワーク・アクティビティについてのアクセス情報を特定するステップと、
前記アクセス情報を使用して、前記アプリケーションについてのドメイン情報を検索するステップと、
前記アプリケーションについてのセキュリティ情報を求めるステップと、
前記セキュリティ情報を使用して、前記アクセスされたアプリケーションの安全度合いを演算するステップと、
前記安全度合いに基づいてセキュリティポリシーを適用することによって、前記アプリケーションに対する救済操作を実行するステップとを含む、コンピュータにより実現される方法。
【請求項２】
前記セキュリティ情報は、前記アプリケーションによる第１のセキュリティ脅威の第１インジケータである第１の値を含み、前記アプリケーションによる第２のセキュリティ脅威の第２インジケータである第２の値を含み、前記第１インジケータは、第１のデータソースから取得され、前記第２インジケータは、第２のデータソースから取得される、請求項１に記載のコンピュータにより実現される方法。
【請求項３】
前記安全度合いを演算するステップは、
前記第１の値に第１の重み値を乗算することに基づいて第１の重み付き値を演算するステップと、
前記第２の値に第２の重み値を乗算することに基づいて第２の重み付き値を演算するステップと、
前記第１の重み付き値と前記第２の重み付き値との総和に基づく重み付き総和を演算するステップと、
前記第１の重み値と前記第２の重み値との総和に基づく重み総和を演算するステップとを含み、
前記安全度合いは、前記重み付き総和を前記重み総和で除算することに基づいて演算される値である、請求項２に記載のコンピュータにより実現される方法。
【請求項４】
前記第１の重み値は、前記第２の重み値とは異なり、前記第１の値は、前記第２の値とは異なる、請求項３に記載のコンピュータにより実現される方法。
【請求項５】
前記ネットワーク・アクティビティについてのデータを取得するステップは、前記ネットワーク上の１つ以上のネットワーク機器からネットワークデータを取得するステップを含み、前記ネットワークは、パブリックネットワークに対して安全であるセキュアな前記組織のコンピューティング環境において保護される、先行する請求項のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項６】
前記アプリケーションの組織情報を特定するステップと、
前記アプリケーションについての情報を表示するグラフィカルインタフェースを生成するステップとをさらに含み、前記アプリケーションについての情報は、前記組織情報と、前記アプリケーションについて演算された安全度合いとに基づいて表示され、前記グラフィカルインタフェースは、前記アプリケーションに対して行われた前記救済操作を示す、先行する請求項のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項７】
前記データは、前記ネットワーク上の通信用のデータであり、前記アプリケーションを特定するステップは、前記データを処理して、前記ユーザがアクセスしたアプリケーションの要求に対応する、前記データの部分を識別するステップを含み、前記データの部分は、前記アプリケーションの要求についてのアプリケーション情報を示し、前記アプリケーション情報は、前記アプリケーションが前記ユーザによってアクセスされたと特定するために使用される、先行する請求項のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項８】
前記アプリケーションに対応する前記ネットワーク・アクティビティについてのアクセス情報は、前記データの部分を使用して特定され、前記アクセス情報は、前記アプリケーションについての前記ネットワーク・アクティビティのタイムスタンプと、前記アプリケーションを提供するシステムのＩＰ（Internet Protocol）アドレスと、前記アプリケーションにアクセスするために使用されたデバイスのＭＡＣ（Media Access Control）アドレスと、前記ユーザについてのユーザ情報とを示す、請求項７に記載のコンピュータにより実現される方法。
【請求項９】
前記アクセス情報は、前記アプリケーションを提供するシステムのＩＰ（Internet Protocol）アドレスを示し、前記ドメイン情報を検索するステップは、前記第１アプリケーションのＩＰアドレスに基づいて、前記アプリケーションをホストするドメインに対応する前記ドメイン情報を求めるクエリを実行するステップを含む、先行する請求項のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項１０】
前記アクセス情報は、前記アプリケーションのソース情報を示し、前記ソース情報は、ホストが提供する前記アプリケーションの場所を示し、前記ドメイン情報を検索するステップは、前記アプリケーションのソース情報に基づいて前記アプリケーションの認証を求める要求を前記ホストに送るステップを含む、先行する請求項のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項１１】
前記安全度合いに基づいてセキュリティポリシーを適用するステップは、前記安全度合いが前記アプリケーションのリスク閾値を満たすかどうかを決定するステップを含み、前記救済操作は、前記アプリケーションが前記ネットワーク上で前記ユーザによってアクセスされないよう、前記ネットワークを設定することである、先行する請求項のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項１２】
前記データは、さらに、前記組織の前記ネットワーク上のテナントとしての複数のユーザによる前記ネットワークについてのデータであり、前記複数のユーザは、前記ユーザを含み、前記救済操作は、前記複数のユーザによる前記アプリケーションへのアクセスを防止することである、先行する請求項のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項１３】
前記アプリケーションに対する救済操作は、前記グラフィカルインタフェースに、前記安全度合いに適用された前記セキュリティポリシーに基づいて前記アプリケーションの構成操作を調整するように前記ユーザに求めさせることを含む、先行する請求項のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項１４】
１つ以上のプロセッサと、
前記１つ以上のプロセッサにアクセス可能なメモリとを備え、前記メモリは、１つ以上の命令を格納し、前記１つ以上の命令は、前記１つ以上のプロセッサによって実行されると、前記１つ以上のプロセッサに、動作を実行させ、前記動作は、
組織のネットワーク上のユーザによるネットワーク・アクティビティについてのデータを取得する動作と、
前記ネットワーク・アクティビティについてのデータを使用して、前記ネットワーク上で前記ユーザがアクセスしたアプリケーションを特定する動作と、
前記ネットワーク・アクティビティについてのデータを使用して、前記ユーザがアクセスしたアプリケーションに対応する前記ネットワーク・アクティビティについてのアクセス情報を特定する動作と、
前記アクセス情報を使用して、前記アプリケーションのドメイン情報を求める１つ以上のクエリを実行する動作と、
前記アプリケーションのセキュリティ情報を求める動作と、
前記セキュリティ情報を使用して、前記アクセスされたアプリケーションの安全度合いを演算する動作と、
前記安全度合いに基づいてセキュリティポリシーを適用することによって、前記アプリケーションに対する救済操作を実行する動作とを含む、セキュリティ管理システム。
【請求項１５】
前記安全度合いを演算する動作は、
前記第１の値に第１の重み値を乗算することに基づいて第１の重み付き値を演算する動作と、
前記第２の値に第２の重み値を乗算することに基づいて第２の重み付き値を演算する動作と、
前記第１の重み付き値と前記第２の重み付き値との総和に基づく重み付き総和を演算する動作と、
前記第１の重み値と前記第２の重み値との総和に基づく重み総和を演算する動作とを含み、
前記安全度合いは、前記重み付き総和を前記重み総和で除算することに基づいて演算される値である、請求項１４に記載のセキュリティ管理システム。
【請求項１６】
セキュリティ管理システムのコンピュータシステムにおいて、
ユーザが第１のサービスプロバイダシステムからアクセスした第１アプリケーションについての第１データを、前記第１のサービスプロバイダシステムから取得するステップと、
前記ユーザが第２のサービスプロバイダシステムからアクセスした第２アプリケーションについての第２データを、前記第２のサービスプロバイダシステムから取得するステップと、
前記第１データおよび前記第２データを使用して、前記ユーザがアクセスした第３アプリケーションのアクセス情報を特定するステップと、
前記アクセス情報を使用して、前記第３アプリケーションを提供するプロバイダシステムについてのドメイン情報を検索するステップと、
前記第３アプリケーションについてのセキュリティ情報を求めるステップと、
前記セキュリティ情報を使用して、アクセスされた前記第３のアプリケーションの安全度合いを演算するステップと、
前記安全度合いに基づいてセキュリティポリシーを適用することによって、前記第３アプリケーションに対する救済操作を実行するステップとを含む、コンピュータにより実現される方法。
【請求項１７】
第１のサービスプロバイダシステムは、第２のサービスプロバイダシステムとは異なり、前記第１のサービスプロバイダシステムは、前記第１アプリケーションへのアクセスを、第１のクラウドサービスとして提供し、前記第２のサービスプロバイダシステムは、前記第２アプリケーションへのアクセスを、第２のクラウドサービスとして提供する、請求項１６に記載のコンピュータにより実現される方法。
【請求項１８】
前記第３アプリケーションの組織情報を特定するステップと、
前記第３アプリケーションについての情報を表示するグラフィカルインタフェースを生成するステップとをさらに含み、前記アプリケーションについての情報は、前記第３アプリケーションの前記組織情報と、演算された前記安全度合いとに基づいて表示され、前記グラフィカルインタフェースは、前記第３アプリケーションに対して実行された救済操作を示す、請求項１６または１７のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項１９】
前記第１データは、前記第１アプリケーションが、前記第３アプリケーションを通して前記ユーザによってアクセスされたことを示し、前記第２データは、前記第２アプリケーションが、前記第３アプリケーションを通して前記ユーザによってアクセスされたことを示し、前記アクセス情報を特定ステップは、前記第１アプリケーションおよび前記第２アプリケーションへのアクセスを提供するために前記第３アプリケーションがアクセスされたと判定するステップを含む、請求項１６〜１８のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項２０】
前記セキュリティ情報は、前記アプリケーションによる第１のセキュリティ脅威の第１インジケータである第１の値を含み、前記アプリケーションによる第２のセキュリティ脅威の第２インジケータである第２の値を含み、前記第１インジケータは、第１のソースから取得され、前記第１の値は、前記第２の値とは異なり、前記第２インジケータは、第２のソースから取得され、前記安全度合いを演算するステップは、
前記第１の値に第１の重み値を乗算することに基づいて第１の重み付き値を演算するステップと、
前記第２の値に第２の重み値を乗算することに基づいて第２の重み付き値を演算するステップとを含み、前記第１の重み値は、前記第２の重み値とは異なり、さらに、
前記第１の重み付き値と前記第２の重み付き値との総和に基づく重み付き総和を演算するステップと、
前記第１の重み値と前記第２の重み値との総和に基づく重み総和を演算するステップとを含み、
前記安全度合いは、前記重み付き総和を前記重み総和で除算することに基づいて演算される値である、請求項１６〜１９のうちのいずれか１項に記載のコンピュータにより実現される方法。
【請求項２１】
プロセッサによって実行されると、請求項１〜１６または請求項１６〜２０のうちのいずれか１項に記載の方法を実行する命令を格納する、非一時的なコンピュータ読み取り可能な媒体。
【請求項２２】
１つ以上のプロセッサと、
前記１つ以上のプロセッサにアクセス可能なメモリとを備え、前記メモリは、１つ以上の命令を格納し、前記１つ以上の命令は、前記１つ以上のプロセッサによって実行されると、前記１つ以上のプロセッサに、請求項１〜１６または請求項１６〜２０のうちのいずれか１項に記載の方法を実行させる、システム。
【請求項２３】
請求項１〜１６または請求項１６〜２０のうちのいずれか１項に記載の方法を実行するための手段を備える、システム。
【発明の詳細な説明】
【技術分野】
【０００１】
関連出願の相互参照
本願は、２０１７年２月２３日に出願され、「TECHNIQUES FOR DISCOVERING AND MANAGING SECURITY OF APPLICATIONS」と題された、下記の特許出願の各々に基づく優先権および利益を主張する米国通常特許出願第１５／４４１，１５４号［代理人整理番号：０８８３２５−１０３２８７１（１８５５００ＵＳ）］に基づく優先権および利益を主張する。
【０００２】
１）２０１６年２月２６日に出願され、「Systems and Methods for Discovering and Monitoring Unsanctioned Enterprise Assets」と題された米国仮出願第６２／３００，７１５号［代理人整理番号：０８８３２５−１０３２８７０（１８５５０１ＵＳ）］、
２）２０１７年２月１７日に出願され、「Systems and Methods for Discovering and Monitoring Unsanctioned Enterprise Assets」と題された米国仮出願第６２／４６０，７１６号［代理人整理番号：０８８３２５−１０３９１９７（１８５５０２ＵＳ）］。
【０００３】
上記特許出願の各々のすべての記載内容を、事実上、引用により本明細書に援用する。
【背景技術】
【０００４】
背景
組織は、多くのテクノロジーデバイス、ソフトウェア、ハードウェア、および／またはコンピューティング・サービスに頼って、コンピューティング環境（たとえば、エンタープライズコンピューティング環境）を実現しているだろう。これらのコンピューティング環境は、ますます、「クラウド」環境として実現される、または、「クラウド」環境を使用して実現される。「クラウド」環境は、ローカルおよび遠隔でホストされるコンピューティングリソースおよびシステムの集合を表し得る。用語「クラウドコンピューティング」は、ネットワークを介した分散コンピューティングのさまざまな側面を指す。クラウドコンピューティング環境は、ＩａａＳ（Infrastructure As A Service）、ＰａａＳ（Platform As A Service）、ＳａａＳ（Software As A Service）、およびＮａａＳ（Network As A Service）を含む、さまざまなサービスモデルを実現してもよい。また、「クラウド」は、１つのサービスプロバイダのデータストアおよびクライアントアプリケーションを指し得る。多くのアプリケーションは、デバイスが、デバイス単体で利用できる機能または能力以上の追加の機能または能力を得ることを可能にするために、クラウドコンピューティング環境を実現してもよい。このようなアプリケーションは、１つ以上のサービスプロバイダ（明細書において、「プロバイダ」とも称す）を使用して実装されてもよい。サービスプロバイダの各々は、１つ以上のコンピュータシステムを使用する１つ以上のサービスプロバイダシステム（明細書において、「プロバイダシステム」とも称す）を有する。このようなサービスプロバイダとして、Ｂｏｘ、Ｄｒｏｐｂｏｘ、Ｍｉｃｒｏｓｏｆｔ、Ｄｏｃｕｓｉｇｎ、Ｓａｌｅｓｆｏｒｃｅ、Ｏｒａｃｌｅ、Ａｍａｚｏｎなどの企業やその他が挙げられる。サービスプロバイダの各々は、アプリケーションおよび／またはデータへのアクセスを可能にする多くの異なるアプリケーションまたは機能を、クラウドベースのサービスとして提供してもよい。
【発明の概要】
【発明が解決しようとする課題】
【０００５】
コンピューティング環境への依存は、組織が承認したアプリケーションまたは承認していないアプリケーションの幅広い使用につながった。承認されたアプリケーションは、組織に登録されたアプリケーション、または組織に知られているアプリケーションであってもよい。場合によっては、アプリケーションは、組織によって配布されることによって承認されてもよい。承認されていないアプリケーションは、組織に知られていないアプリケーション、および／または組織に関連付けもしくは登録されていないアプリケーションであってもよい。無認可のアプリケーションは、他とは独立して動作するアプリケーション、および認可された（ＩＴ管理された）アプリケーションにプラグインまたはアドオンとして統合されるサードパーティ統合アプリケーションを含み得る。承認されていようと承認されてなかろうと、多くのアプリケーションによって、組織のコンピューティング環境に大きなセキュリティリスクがもたらされる。セキュリティリスクは、セキュアでない方法での組織のプライベートネットワークへの露出、またはセキュリティ制御を通して制限されるべき個人に関する機密データへのアクセスを含む。セキュリティリスクをもたらすアプリケーションは、組織の管理下にある場合もあれば、そうでない場合もある。このように、これらのアプリケーションは、「シャドー」下で、または隠れた方法で操作されている可能性があり、組織によって知られていないおよび／またはセキュリティ制御のための制限がなされていない。さらに、アプリケーションの不明な使用は、帯域幅およびデータ記憶など、コンピューティングリソースの非効率的で過度の使用の一因となり得る。発見されていない使用は、組織のコンピューティング環境における性能、および重大なリソースへのアクセスに影響を与える可能性がある。
【０００６】
規制されていない方法で操作されるアプリケーションは、承認されていない方法でサービスプロバイダからアクセスされる可能性がある。たとえば、組織の販売スタッフが、チームメンバと共同作業を行うためにスプレッドシートを共有するために、電子メールでスプレッドシートを送る代わりに、自身のモバイル機器にある無認可のファイル共有アプリケーションを使用するかもしれない。このようなアプリケーションの使用は、生産性の向上に貢献し得るが、組織にセキュリティリスクおよび法令順守上の問題をもたらしてしまう可能性もある。たとえば、アプリケーションが十分にセキュアでない場合、企業機密情報を含んだ機密資料は、情報漏えいしやすいだろう。このようなアプリケーションは、組織によって評価されないので、セキュリティ侵害に対抗する用意ができていない。また、いくつかの明らかに有用なアプリケーションは、故意または気づかないで、アドウェア、またはマルウェアさえも配ってしまっている可能性がある。多くの組織は、このようなアプリケーションまたはウェブサイトをブロックしようとするが、これでは、生産性に与える影響により、従業員を不満にさせてしまう。また、従業員は、たとえば、外部のＶＰＮサービス、モバイルデータサービスなどを使用して、このような障壁を回避しようとする。しかしながら、組織におけるコンピューティング環境の管理は、疑わしいまたは悪意のあるアプリケーションを積極的に監視および制御できるように、使用中のすべてのアプリケーションに対する可視性を必要とする。
【課題を解決するための手段】
【０００７】
概要
本開示は、全体的に、コンピューティング環境においてセキュリティを管理することに関し、より具体的には、組織のコンピューティング環境においてアプリケーションを発見および管理するための技術に関する。このような技術によって、組織が、組織のコンピューティング環境におけるセキュリティ脅威およびリスクを最小限に抑える目的でアプリケーションへのアクセスを監視および管理することが可能になるだろう。アプリケーションの使用を発見することによって、リソースの効率および消費を組織が効果的に監視および管理することが可能になり得、組織にとってのコンピューティング環境の性能が高められる。
【０００８】
セキュリティ監視／制御システム（「セキュリティシステム」および「セキュリティ管理システム」とも称する）は、ネットワーク内または組織内のアプリケーションの使用を発見してもよい。組織のネットワークにおいてアクセスされている固有のアプリケーションを特定するために、サードパーティデータソース、ネットワークトラフィック、サービスプロバイダシステムを含むさまざまなソースを利用してもよいが、これらに限定されない。セキュリティ監視／制御システムは、アプリケーション使用を発見するための、ネットワーク上のエージェントを含む、分散した形で実現されてもよい。セキュリティ監視／制御システムは、組織用に使用されるデバイス上で使用されるアプリケーションついてのデータにアクセスするために、複数のサービスプロバイダシステム（たとえば、クラウドサービスプロバイダシステム）などの分散コンピュータシステムと通信してもよい。固有のアプリケーションを特定するために、セキュリティ監視／制御システムは、ネットワークトラフィックについてのネットワークデータを取得することができる。このような技術は、組織で使用されるアプリケーションのアクティビティへの詳細な可視性をもたらし得、これは、組織のコンピューティング環境におけるアプリケーション使用およびユーザ行動に関する異常または新たに出現する脅威を検出するのに役立ち得る。
【０００９】
アプリケーションについての情報を特定するために、セキュリティ監視／制御システムは、１つ以上のデータソースの使用を含む、分析および相関分析を行うことができる。情報は、アプリケーションのプロバイダについての組織情報を含んでもよい。情報は、アプリケーションについてのセキュリティリスクインジケータについてのセキュリティ情報を含んでもよい。情報は、セキュリティ面など、アプリケーションの使用に関する特徴の１つ以上のインジケータ（たとえば、値）を含んでもよい。アプリケーションについての情報は、アプリケーションの安全度合い（measure of security）（「アプリケーション・リスクスコア」）、およびユーザの安全度合い（「ユーザ・リスクスコア」）を演算するために使用されてもよい。安全度合いは、１つ以上の情報（たとえば、インジケータ）を使用して演算されてもよく、各情報は、その情報に対する重み値属性と組合わされている。アプリケーションまたはユーザによってもたらされた、アプリケーションの使用に基づくセキュリティの脅威を判定するために、スコアをセキュリティポリシーに関して分析してもよい。
【００１０】
いくつかの実施形態において、ユーザ（たとえば、セキュリティ管理者）に、アプリケーションの使用についての情報を見るために、グラフィカルインタフェースが提供されてもよい。この情報は、アプリケーションのサービスプロバイダについての詳細、および／または異なる種類のセキュリティリスクを視覚化したものを提供してもよく、セキュリティリスクごとの重大度の度合いを示してもよい。グラフィカルインタフェースは、各セキュリティリスクに関するセキュリティポリシーに基づいて実行されるように救済操作を設定するための、インタラクティブグラフィカルインタフェースであってもよい。アプリケーションの不明な使用によるセキュリティリスクを特定および管理するのに苦労している組織に対して、このグラフィカルインタフェースは、組織が、すべてのアプリケーション使用（すべてではない場合、ほとんどのアプリケーション使用）を効率的に確実に発見し、コンピューティング環境におけるセキュリティリスクを最小限に抑え、かつ、コンピューティング関連のリソースのリソース消費を最大限に活用することを可能にする。少なくとも１つの実施形態において、セキュリティ監視／制御システムは、アプリケーション使用に関するリスクを評価し、そのリスクの重大度を自動的に判定するように構成されてもよい。リスクの重大度に基づいて、セキュリティ監視／制御システムは、１つ以上の命令を実行して、アプリケーションが許可するアクセスを拒否するか制限するかどうかを設定することができる。
【００１１】
いくつかの実施形態において、セキュリティ監視／制御システム（セキュリティシステムまたはセキュリティ管理システムとも称する）は、コンピュータシステムを備えてもよく、本明細書に開示の方法および動作を実施するように構成されてもよい。コンピュータシステムは、１つ以上のプロセッサと、１つ以上のプロセッサにアクセス可能なメモリとを備えてもよく、メモリは、１つ以上の命令を格納し、１つ以上の命令は、１つ以上のプロセッサによって実行されると、１つ以上のプロセッサに、本明細書に開示の方法および／または動作を実施させる。さらに他の実施形態は、本明細書に開示の方法および動作のための命令を使用および格納するシステムおよび非一時的な機械によって読取り可能な有形の記憶媒体に関する。いくつかの実施形態において、命令を格納した非一時的なコンピュータ読み取り可能な媒体は、プロセッサ上で実行されると本明細書に開示の方法を実行するように実装されてもよい。いくつかの実施形態において、１つ以上のプロセッサと、１つ以上のプロセッサにアクセス可能なメモリとを備え、メモリは、１つ以上の命令を格納し、１つ以上の命令は、１つ以上のプロセッサによって実行されると、１つ以上のプロセッサに本明細書に開示の方法を実行させるシステムが、本明細書に開示される。いくつかの実施形態において、本明細書に開示の方法のうちのいずれかを実行するための手段を備えるシステムが開示される。
【００１２】
少なくとも１つの実施形態において、セキュリティ管理システムのコンピュータシステムにおいてコンピュータにより実現される方法が開示される。ステップのすべては、セキュリティ管理システムによって実行されてもよい。この方法は、組織のネットワーク上のユーザによるネットワーク・アクティビティについてのデータを取得するステップを含んでもよい。方法は、ネットワーク・アクティビティについてのデータを使用して、ネットワーク上でユーザがアクセスしたアプリケーションを特定するステップを含んでもよい。方法は、ネットワーク・アクティビティについてのデータを使用して、ユーザがアクセスしたアプリケーションに対応するネットワーク・アクティビティについてのアクセス情報を特定するステップを含んでもよい。方法は、アクセス情報を使用して、アプリケーションについてのドメイン情報を検索するステップを含んでもよい。方法は、アプリケーションについてのセキュリティ情報を求めるステップを含んでもよい。方法は、セキュリティ情報を使用して、アクセスされたアプリケーションの安全度合いを演算するステップを含んでもよい。方法は、安全度合いに基づいてセキュリティポリシーを適用することによって、アプリケーションに対する救済操作を実行するステップを含んでもよい。
【００１３】
いくつかの実施形態において、セキュリティ情報は、アプリケーションによる第１のセキュリティ脅威の第１インジケータである第１の値を含み、アプリケーションによる第２のセキュリティ脅威の第２インジケータである第２の値を含む。第１インジケータは、第１のデータソースから取得されてもよい。第２インジケータは、第２のデータソースから取得されてもよい。
【００１４】
安全度合いを演算するステップは、第１の値に第１の重み値を乗算することに基づいて第１の重み付き値を演算するステップと、第２の値に第２の重み値を乗算することに基づいて第２の重み付き値を演算するステップと、第１の重み付き値と第２の重み付き値との総和に基づく重み付き総和を演算するステップと、第１の重み値と第２の重み値との総和に基づく重み総和を演算するステップとを含んでもよい。安全度合いは、重み付き総和を重み総和で除算することに基づいて演算される値であってもよい。いくつかの実施形態において、第１の重み値は、第２の重み値とは異なる。いくつかの実施形態において、第１の値は、第２の値とは異なる。
【００１５】
いくつかの実施形態において、ネットワーク・アクティビティについてのデータを取得するステップは、ネットワーク上の１つ以上のネットワーク機器からネットワークデータを取得するステップを含む。ネットワークは、組織のコンピューティング環境において保護されてもよい。コンピューティング環境は、パブリックネットワークから守られてもよい。
【００１６】
いくつかの実施形態において、方法は、アプリケーションの組織情報を特定するステップと、アプリケーションについての情報を表示するグラフィカルインタフェースを生成するステップとを含んでもよく、アプリケーションについての情報は、組織情報と、アプリケーションについて演算された安全度合いとに基づいて表示される。グラフィカルインタフェースは、アプリケーションに対して行われた救済操作を示してもよい。いくつかの実施形態において、組織情報は、アプリケーションを提供するエンティティについての情報であり、組織情報は、アプリケーションについての１つ以上の属性を示してもよい。
【００１７】
いくつかの実施形態において、得られたデータは、ネットワーク上の通信用のデータである。アプリケーションを特定するステップは、データを処理して、ユーザがアクセスしたアプリケーションの要求に対応する、データの部分を識別するステップを含んでもよい。データの部分は、アプリケーションの要求についてのアプリケーション情報を示してもよい。アプリケーション情報は、アプリケーションがユーザによってアクセスされたと特定するために使用されてもよい。いくつかの実施形態において、アプリケーションに対応するネットワーク・アクティビティについてのアクセス情報は、データの部分を使用して特定されてもよい。アクセス情報は、アプリケーションについてのネットワーク・アクティビティのタイムスタンプと、アプリケーションを提供するシステムのＩＰアドレスと、アプリケーションにアクセスするために使用されたデバイスのＭＡＣ（Media Access Control）アドレスと、ユーザについてのユーザ情報とを示してもよい。いくつかの実施形態において、アクセス情報は、アプリケーションを提供するシステムのＩＰアドレスを示す。ドメイン情報を検索するステップは、第１アプリケーションのＩＰアドレスに基づいて、アプリケーションをホストするドメインに対応するドメイン情報を求めるクエリを実行するステップを含む。いくつかの実施形態において、アクセス情報は、アプリケーションのソース情報を示し、ソース情報は、ホストが提供するアプリケーションの場所を示す。ドメイン情報を検索するステップは、アプリケーションのソース情報に基づいてアプリケーションの認証を求める要求をホストに送るステップを含んでもよい。
【００１８】
いくつかの実施形態において、安全度合いに基づいてセキュリティポリシーを適用するステップは、安全度合いがアプリケーションのリスク閾値を満たすかどうかを決定するステップを含む。救済操作は、アプリケーションがネットワーク上でユーザによってアクセスされないよう、ネットワークを設定することであってもよい。
【００１９】
いくつかの実施形態において、得られたデータは、さらに、組織のネットワーク上のテナントとしての複数のユーザによるネットワークについてのデータである。複数のユーザは、ユーザを含んでもよい。救済操作は、複数のユーザによるアプリケーションへのアクセスを防止することである。
【００２０】
いくつかの実施形態において、アプリケーションに対する救済操作は、グラフィカルインタフェースに、安全度合いに適用されたセキュリティポリシーに基づいてアプリケーションの構成操作を調整するようにユーザに求めさせることを含む。
【００２１】
いくつかの実施形態において、セキュリティ管理システムのコンピュータシステムにおいてコンピュータにより実現される方法が開示される。ステップのすべては、セキュリティ管理システムによって実行されてもよい。この方法は、ユーザが第１のサービスプロバイダシステムからアクセスした第１アプリケーションについての第１データを、第１のサービスプロバイダシステムから取得するステップを含んでもよい。方法は、ユーザが第２のサービスプロバイダシステムからアクセスした第２アプリケーションについての第２データを、第２のサービスプロバイダシステムから取得するステップを含んでもよい。方法は、第１データおよび第２データを使用して、ユーザがアクセスした第３アプリケーションのアクセス情報を特定するステップを含んでもよい。方法は、アクセス情報を使用して、第３アプリケーションを提供するプロバイダシステムについてのドメイン情報を検索するステップを含んでもよい。方法は、第３アプリケーションについてのセキュリティ情報を求めるステップを含んでもよい。方法は、セキュリティ情報を使用して、アクセスされた第３のアプリケーションの安全度合いを演算するステップを含んでもよい。方法は、安全度合いに基づいてセキュリティポリシーを適用することによって、第３アプリケーションに対する救済操作を実行するステップを含んでもよい。いくつかの実施形態において、第１アプリケーションは、第２アプリケーションとは異なる。第１のサービスプロバイダシステムは、第２のサービスプロバイダシステムとは異なる。第１のサービスプロバイダシステムは、第１アプリケーションへのアクセスを、第１のクラウドサービスとして提供してもよい。第２のサービスプロバイダシステムは、第２アプリケーションへのアクセスを、第２のクラウドサービスとして提供してもよい。
【００２２】
いくつかの実施形態において、方法は、第３アプリケーションの組織情報を特定するステップと、第３アプリケーションについての情報を表示するグラフィカルインタフェースを生成するステップとを含んでもよい。アプリケーションについての情報は、第３アプリケーションの組織情報と、演算された安全度合いとに基づいて表示されてもよい。グラフィカルインタフェースは、第３アプリケーションに対して実行された救済操作を示してもよい。
【００２３】
いくつかの実施形態において、第１データは、第１アプリケーションが、第３アプリケーションを通してユーザによってアクセスされたことを示す。第２データは、第２アプリケーションが、第３アプリケーションを通してユーザによってアクセスされたことを示してもよい。アクセス情報を特定ステップは、第１アプリケーションおよび第２アプリケーションへのアクセスを提供するために第３アプリケーションがアクセスされたと判定するステップを含んでもよい。
【００２４】
いくつかの実施形態において、セキュリティ情報は、アプリケーションによる第１のセキュリティ脅威の第１インジケータである第１の値を含み、アプリケーションによる第２のセキュリティ脅威の第２インジケータである第２の値を含む。第１インジケータは、第１のデータソースから取得されてもよい。第１の値は、第２の値とは異なる。第２インジケータは、第２のデータソースから取得される。安全度合いは、第１の値に第１の重み値を乗算することに基づいて第１の重み付き値を演算することと、第１の重み値とは異なる第２の値に第２の重み値を乗算することに基づいて第２の重み付き値を演算することと、第１の重み付き値と第２の重み付き値との総和に基づく重み付き総和を演算することと、第１の重み値と第２の重み値との総和に基づく重み総和を演算することとによって演算されてもよい。安全度合いは、重み付き総和を重み総和で除算することに基づいて演算される値であってもよい。
【００２５】
上記の特徴および実施形態は、その他の特徴および実施形態とともに、下記の明細書、特許請求の範囲、および添付の図面を参照すると、より明らかになるだろう。
【図面の簡単な説明】
【００２６】
【図１Ａ】実施形態に係るセキュリティ監視／制御システムを説明する図である。
【図１Ｂ】実施形態に係るセキュリティ監視／制御システムを説明する図である。
【図１Ｃ】実施形態に係るセキュリティ監視／制御システムを説明する図である。
【図２】実施形態に係るセキュリティ監視／制御システムを例示するブロック図である。
【図３】実施形態に係るセキュリティ監視／制御システムを例示するブロック図である。
【図４】実施形態に係る、ソフトウェア定義セキュリティ構成データをクラウドサービスから取り出すためのプロセスを説明するフローチャートである。
【図５】実施形態に係る、クラウドサービスからアクティビティデータを収集するためのプロセスを説明するフローチャートである。
【図６】実施形態に係る、アプリケーション使用を分析するための、セキュリティ監視／制御システムのコンポーネントを説明する図である。
【図７】いくつかの実施形態に係る、アプリケーションのセキュリティを発見および管理するためのプロセスのブロック図である。
【図８】いくつかの実施形態に係る、アプリケーションのセキュリティを発見および管理するためのプロセスのブロック図である。
【図９】いくつかの実施形態に係る、アプリケーションの安全度合いを演算するためのプロセスのシーケンスフロー図である。
【図１０】実施形態に係る、アプリケーションのセキュリティを検出および管理するためのプロセスを説明するフローチャートである。
【図１１】実施形態に係る、アプリケーションのセキュリティを検出および管理するためのプロセスを説明するフローチャートである。
【図１２】実施形態に係る、アプリケーションのセキュリティを検出および管理するためのプロセスを説明するフローチャートである。
【図１３】いくつかの実施形態に係る、アプリケーション使用に基づいてユーザの安全度合いを演算するためのプロセスのシーケンスフロー図である。
【図１４】いくつかの実施形態に係る、アプリケーション使用に基づいてユーザの安全度合いを評価するためのグラフである。
【図１５】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図１６】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図１７】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図１８】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図１９】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図２０】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図２１】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図２２】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図２３】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図２４】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図２５】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図２６】実施形態に係る、リソースへのアクセスを管理するためのセキュリティデバイスとして記憶装置を実現するためのインタフェースを説明する図である。
【図２７】実施形態を実現するための分散システムを簡略化した図である。
【図２８】本開示の実施形態に係る、クラウドサービスとしてサービスが提供され得るシステム環境の１つ以上のコンポーネントの簡略化したブロック図である。
【図２９】本開示の実施形態を実現するために使用され得る例示的なコンピュータシステムを示す図である。
【発明を実施するための形態】
【００２７】
詳細な説明
下記の記載において、本開示の実施形態の十分な理解を与えるために、説明の便宜上、具体的詳細を記載する。しかしながら、これらの具体的詳細なしにさまざまな実施形態を実施してもよいことが明らかになるだろう。たとえば、不必要な詳細で実施形態を曖昧にしてしまわないように、回路、システム、アルゴリズム、構造、技術、ネットワーク、プロセス、および他の構成要素が、ブロック図の形で構成要素として示される場合がある。図面および説明は、限定を意図したものではない。
【００２８】
アプリケーションの使用は、生産性の向上に貢献し得るが、組織にセキュリティリスクおよび法令順守上の問題をもたらしてしまう可能性もある。たとえば、アプリケーションが十分にセキュアでない場合、企業機密情報を含んだ機密資料は、情報漏えいしやすいだろう。このようなアプリケーションは、組織によって評価されない場合が多いので、セキュリティ侵害に対抗する用意ができていない。また、いくつかの明らかに有用なアプリケーションは、故意または気づかないで、アドウェア、またはマルウェアさえも配ってしまっている可能性がある。
【００２９】
多くの組織は、このようなアプリケーションまたはウェブサイトをブロックしようとするが、これでは、生産性に与える影響により、従業員を不満にさせてしまう。また、従業員は、たとえば、外部のＶＰＮサービス、モバイルデータサービスなどを使用することによって、このような障壁を回避しようとする場合が多い。最近の業界動向は、従業員の生産性が高いことを保証するために、このようなサービスをブロックしないことである。しかしながら、ＩＴ部門は、疑わしいまたは悪意のあるアプリケーションを積極的に監視およびブロックできるように、使用中のアプリケーションまたはウェブサイトに対する可視性を必要とする。
【００３０】
アプリケーションの検出、アプリケーションがもたらすセキュリティ脅威の分析、および訂正操作は、旧来のツールでは難しいだろう。本開示のいくつかの実施形態に係る、アプリケーションを発見および監視するためのプロセスは、センシティブデータの承認されていない開示を引き起こし得るおよび／または組織のコンピューティング環境にマイナスの影響を及ぼし得るアプリケーション使用を発見するために、さまざまなデータソースからの情報を分析することと、データを相関分析することとを伴う。
【００３１】
本開示における図面を参照して開示される実施形態など、いくつかの実施形態は、フローチャート、フロー図、データフロー図、構造図、シーケンス図、またはブロック図として示されるプロセスとして説明される場合がある。シーケンス図またはフローチャートは、連続して起こるプロセスとして動作を示し得るが、動作の多くのは、平行して、または同時に行われてもよい。これに加えて、動作の順序は、並び替えられてもよい。プロセスは、その動作が完了したときに終了するが、図に含まれない追加のステップを有し得る。プロセスは、方法、関数、プロシージャ、サブルーチン、サブプログラムなどに相当してもよい。プロセスが関数に相当する場合、その終了は、呼び出し関数またはメイン関数へのこの関数の戻りに相当してもよい。
【００３２】
本開示における図を参照して説明されるプロセスなど、本明細書に示すプロセスは、１つ以上の処理装置（たとえば、プロセッサコア）、ハードウェア、またはそれらの組合せによって実行されるソフトウェア（たとえば、コード、命令、プログラム）で実現されてもよい。ソフトウェアは、（たとえば、メモリ素子上、非一時的なコンピュータ読み取り可能な記憶媒体上の）メモリに格納されてもよい。いくつかの実施形態において、本明細書においてシーケンス図およびフローチャートに示されるプロセスは、本明細書に開示のいずれのシステムによっても実現され得る。本開示における特定の一続きの処理は、限定を意図したものではない。また、他の一続きのステップが別の実施形態に従って実行されてもよい。たとえば、本開示の別の実施形態は、上に概要を述べたステップを異なる順序で実行してもよい。また、図に示す個々のステップは、個々のステップに応じてさまざまな順序で行なわれ得る複数のサブステップを含んでもよい。さらに、特定のアプリケーションに応じてさらなるステップが追加または削除されてもよい。当業者は、多くの変形例、変更例、および代替例が分かるだろう。
【００３３】
いくつかの実施形態の態様において、本開示の図の各プロセスは、１つ以上の処理装置によって実行され得る。処理装置は、１つ以上のプロセッサを含んでもよく、１つ以上のプロセッサは、シングルコアもしくはマルチコア・プロセッサ、プロセッサの１つ以上のコア、またはそれらの組合せを含む。いくつかの実施形態において、処理装置は、グラフィック・プロセッサ、デジタル・シグナル・プロセッサ（ＤＳＰ）など、１つ以上の専用コプロセッサを含み得る。いくつかの実施形態において、処理装置の一部またはすべては、特定用途向け集積回路（ＡＳＩＣ）、またはフィールド・プログラマブル・ゲート・アレイ（ＦＰＧＡ）など、カスタム回路を使用して実現され得る。
【００３４】
Ｉ．アプリケーションの発見および分析のためのコンピューティング環境
ここで、図面を参照すると、セキュリティ監視／制御システム１０２（明細書において、「セキュリティ管理システム」および「セキュリティシステム」とも称す）を備えるシステム１００の技術が開示される。セキュリティ監視／制御システム１０２は、組織の通信ネットワーク１０４を有するコンピューティング環境内で実現されてもよい。ネットワーク１０４は、アプリケーションサービス１１０にアクセスするためにパブリックネットワーク（たとえば、インターネット）と通信できるプライベートネットワークであってもよい。通信ネットワークとして、たとえば、モバイルネットワーク、ワイヤレスネットワーク、セルラーネットワーク、ローカルエリアネットワーク（ＬＡＮ）、ワイドエリアネットワーク（ＷＡＮ）、他のワイヤレス通信ネットワーク、またはそれらの組合せなどが挙げられてもよい。セキュリティ監視／制御システム１０２は、セキュリティ監視／制御システム１０２を使用している組織のセキュリティを設定および管理するセキュリティサービスプロバイダ（ＣＡＳＢ（Cloud Access Security Brokers）とも呼ばれる）などのサービスプロバイダによって管理されてもよい。
【００３５】
テナントは、サービスプロバイダ（たとえば、クラウドサービスプロバイダ）が提供するサービスのユーザをメンバに含む組織またはグループであり得る。ユーザは、プロバイダに個々のアカウントを持っていてもよく、テナントは、いくつかの個々のユーザーアカウントを包含または集約（aggregate）するクラウドプロバイダにエンタープライズアカウントを持っていてもよい。本開示の多くの実施形態において、セキュリティ監視／制御システム１０２は、テナントが、テナントが使用するさまざまなサービスに関するセキュリティアカウントについてのコントロールおよびアクティビティを含むそれらのアカウントについての情報を見ることと、アナリティクス・レポートを確認することと、予め設定された秘密区分レベルのセキュリティによるセキュリティ制御を設定することとを可能にする。
【００３６】
いくつかの実施形態において、セキュリティ監視／制御システム１０２は、脅威検出を行うため、およびそれぞれ異なるカテゴリの脅威への適切な対応に関する推奨を提供するために、機械学習および他のアルゴリズムを用いて１つ以上のクラウドにおけるユーザ・アクティビティについての情報を分析する。アナリティクスは、ユーザ・アクティビティにおける正常な行動および／または異常な行動のモデルを決定することと、１つのクラウドまたは複数のクラウド間での怪しいアクティビティのパターンを検出することとを含み得る。パターンによっては、同じユーザーアカウントまたはＩＰアドレスに対応付けられた複数のクラウドにおける同じ操作または異なる操作を検出することを含んでもよい。また、アナリティクスは、アラートを提供すること、ならびに、怪しいアクティビティが検出されるクラウド（複数可）において救済（remedial）措置を推奨することおよび／またはこれらの怪しいアクティビティを示すクラウド以外のクラウドにおいて講じられる救済措置を推奨することを含んでもよい。本開示の多くの実施形態において、組織のネットワーク内のデバイス上のアプリケーションを検出および分析するためのプロセスは、さまざまなデータソースから情報を収集および組み合わせることを含む。
【００３７】
本開示の実施形態に係る、セキュリティ監視および制御のためのシステムは、１つのハードウェアプラットフォーム上、または互いに通信している複数のハードウェアプラットフォーム上に位置し得る複数の構成要素を備える。構成要素は、さらに後述するが、発見および管理のためのプロセスを実行するようにサーバまたは他のコンピューティング・デバイスを設定するソフトウェア・アプリケーションおよび／またはモジュールを含み得る。
【００３８】
本開示の実施形態に係る、セキュリティ監視／制御システム１０２と、セキュリティ監視／制御システム１０２にアクセスするために使用され得るクライアントデバイス１０６と、監視対象のアプリケーションサービス１１０とを備えるシステム１００が、図１Ａに示されている。本明細書に開示するように、「クライアント」（本明細書において、「クライアントシステム」または「クライアントデバイス」としても開示される）は、デバイス、またはデバイス上で実行されているアプリケーションであってもよい。システム１００は、各々がネットワーク１０４を通じて通信可能ないくつかの異なる種類のクライアントデバイス１０６を含む。クライアントデバイス１０６は、セキュリティ監視／制御システム１０２と通信し、サービスとやり取りするためのグラフィカルインタフェースを提示する。セキュリティ監視／制御システム１０２は、セキュリティ構成、アプリケーションデータ、および他の情報を取り出すために、アプリケーションサービス１１０と通信でき、さらに後述するが、セキュリティ制御を設定できる。
【００３９】
図１Ｂは、組織用に実装されたセキュリティ監視／制御システム１０２の実装形態を有するシステム１５０を説明する図である。具体的には、システム１５０は、プライベートネットワーク（たとえば、イントラネット１７０）および非プライベートネットワーク（たとえば、インターネット１６０）などの通信ネットワーク上のクライアントデバイス１０６上での組織のユーザによるアプリケーション使用を検出するために、セキュリティ監視／制御システム１０２がどのように実装され得るかを説明する。通信ネットワークとして、たとえば、モバイルネットワーク、ワイヤレスネットワーク、セルラーネットワーク、ローカルエリアネットワーク（ＬＡＮ）、ワイドエリアネットワーク（ＷＡＮ）、他のワイヤレス通信ネットワーク、またはそれらの組合せなどが挙げられてもよい。イントラネット１７０において操作されるクライアントデバイス１０６は、ファイヤーウォール１４２によって保護された、孤立したコンピューティング環境にあってもよい。ユーザ（たとえば、セキュリティ管理者）は、セキュリティ監視／制御システム１０２の動作を管理してもよい。セキュリティ監視／制御システム１０２は、組織のコンピューティング環境内、コンピューティング環境の外部、またはその両方において実装されてもよい。セキュリティ監視／制御システム１０２は、ネットワーク１６０を通して、クラウドベースのサービスとして提供されてもよい。
【００４０】
クライアントデバイス１０６の各々は、組織のデバイス上で使用するのを承認されたアプリケーションまたは承認されていないアプリケーションにアクセスするために使用される可能性がある。アプリケーションは、信頼されたアプリプロバイダ１２０および不明なアプリプロバイダ１２２など、異なるサービスプロバイダによってアクセスされる可能性がある。イントラネット１７０の内部および外部クライアントデバイス１０６は、別のサービスプロバイダによって管理されているアプリケーションおよび／またはデータへのアクセスを可能にするサードパーティサービスプロバイダ１２４によるサービスにアクセスするために使用される可能性がある。
【００４１】
セキュリティ監視／制御システム１０２は、ネットワーク機器上で動作している１つ以上のエージェントからのネットワークデータを通した、組織のクライアントデバイスによるネットワーク・アクティビティに基づいて、アプリケーション・アクティビティを監視できる。セキュリティ監視／制御システム１０２は、組織におけるアクティビティへの詳細な可視性をもたらし、異常または新たに出現する脅威、およびアプリケーション使用に基づくセキュリティリスクを検出するのに役立てるために、アプリケーションからのデータを分析および相関分析できる。
【００４２】
ここで、図１Ｃを参照すると、組織内外の異なる種類のアプリケーションにアクセスするために、個人のＢＹＯＤ（「Bring Your Own Devices」）および会社所有のデスクトップ／ラップトップなどのクライアントデバイス１０６が使用され得る様子の別の例として、システム１５０が示される。アプリケーションは、サービスプロバイダシステム１８０によって提供されてもよい。サービスプロバイダシステムは、本明細書において、「プロバイダシステム」と称される場合がある。本明細書に開示の各サービスプロバイダシステムは、サービスプロバイダによって操作および管理されてもよい。アプリケーションは、承認されていないアプリ１２２と、承認されていないサードパーティアプリ１２４とを含んでもよい。組織のユーザは、顧客の活動を追跡するためのＳａｌｅｓｆｏｒｃｅ、共同作業のためのＧｏｏｇｌｅ  Ａｐｐｓ／Ｏｆｆｉｃｅ  ３６５、ファイルを共有するためのＢｏｘなど、多くの認可されたアプリケーションを日々の仕事に使用している可能性がある。これらのアプリケーションは、これらのアプリケーション内にサードパーティアプリをインストールすることを可能にし、これによって、これらのサードパーティアプリは、ユーザに代わって、認可されたアプリケーションのデータに内的にアクセスできるようになる。セキュリティおよび法令順守の観点から、これらの承認されていないサードパーティアプリケーションは、セキュリティデータの不十分なセキュリティまたは承認されていない可能性のあるデータの漏えいにより、脆弱である可能性のある企業機密データにアクセスできるため、組織のリスクを上げ得る。そのため、このようなサードパーティアプリの発見は、ＩＴチームがより大きな可視性を有することに役立ち得る。
【００４３】
セキュリティ監視／制御システム１０２は、複数のソースからデータを収集し、それらのデータを相関分析し、脅威インテリジェンス情報を用いて分析することによって、シャドーアプリケーションを含むアプリケーション使用を発見できる。これにより、ネットワーク機器からシャドーＩＴ情報を単に発見することと比較して、より詳細な可視性、およびよりよい法令順守の適用範囲がもたらされる。組織のユーザが企業内ネットワークから無認可のアプリケーションにアクセスすると、宛先のネットワークアドレス、要求元のネットワークアドレス、タイムスタンプなど、このような接続性に関する情報が、ルータおよびファイヤーウォール（たとえば、アプリ・ファイヤーウォール１４４およびネットワークファイヤーウォール１４２）などのネットワーク機器によって記録される。また、アプリケーションファイヤーウォールのうちのいくつかは、アプリを使用している実際のユーザを見つけることを可能にする要求側の素性を記録する。スマートフォンおよびタブレットなどのモバイル機器に組織のユーザがアプリをインストールすると、インストールされたアプリの詳細は、ＭＤＭ（モバイルデバイス管理）アプリがデバイスにインストールされている限り、ＭＤＭサービス１８２によって発見することができる。同様に、無認可のアプリが会社所有のデバイス上にユーザによってインストールされると、このようなインストールの詳細は、集中管理されたセキュリティ管理ツール（たとえば、アプリケーション使用追跡サーバ１８４）を使用して、会社所有のライセンス管理によって集中的に発見することができる。これらのデータソースからのログは、デスクトップ／ラップトップデバイスにインストールされた承認されていないアプリまたはシャドーアプリに対する可視性を提供できる。
【００４４】
ＩＩ．セキュリティ監視／制御システムのためのアーキテクチャ
システム、方法、および機械によって読取り可能な媒体など、コンピューティング環境におけるアプリケーションのセキュリティの発見および管理のためのいくつかの実施形態を開示する。図２は、ユーザが、１つ以上のサービスプロバイダからの１つ以上のアプリケーション（明細書において、「アプリ」とも称す）にアクセスするために、クライアントデバイス１０６−１、１０６−２、…１０６−Ｎ（まとめて、クライアントデバイス１０６）などのクライアントデバイスを操作できるシステム２００を示す図である。たとえば、システム２００は、サービスプロバイダ２１０およびサービスプロバイダ２１２など、１つ以上のサービスプロバイダを含んでもよい。各サービスプロバイダは、ネットワーク１６０（たとえば、インターネット）を介して、１つ以上のサービスを提供してもよい。サービスは、クラウドベースまたはネットワークベースのサービスを含んでもよい。たとえば、サービスプロバイダ２１２は、「クラウド」サービスプロバイダであってもよい。サービスは、アプリケーションをサービスとして提供することを含んでもよい。各サービスプロバイダは、１つ以上のコンピュータシステムを備えるサービスプロバイダシステムを有してもよい。あるサービスプロバイダシステムは、別のサービスプロバイダシステムとは異なってもよい。
【００４５】
クライアントデバイス１０６は、ユーザのパーソナルデバイス（たとえば、ＢＹＯＤ）、または組織の管理下のデバイスであってもよい。図１Ｃに示すように、クライアントデバイス１０６は、組織のコンピューティング環境のネットワーク、コンピューティング環境の外部のネットワーク１６０、またはそれらの組合せのネットワーク上のサービスプロバイダのアプリケーションにアクセスしてもよい。アプリケーションは、組織のコンピューティング環境のデータおよび／またはリソースにアクセスするように操作されてもよい。クライアントデバイスによっては、サードパーティアプリケーション２１４を使用して、アプリケーションおよび／またはアプリケーションのデータにアクセスしてもよい。サードパーティアプリケーション２１４は、サービスプロバイダによって提供される。アプリケーションは、組織におけるユーザとして使用するために、その組織に登録されてもよい。いくつかのアプリケーションは、登録されなくてもよいため、承認されていない、または組織に知られていない可能性がある。各アプリケーションは、組織のコンピューティング環境のリソースを利用および／またはアクセスしてもよい。セキュリティ監視／制御システム１０２は、組織のコンピューティング環境に関するアプリケーションおよびそれらの使用を発見してもよい。セキュリティ監視／制御システム１０２が提供するサービスを利用するために、クライアントデバイス１０６は、管理者など、組織のユーザによって操作されてもよい。クライアントデバイス１０６のユーザは、１つ以上のテナントの一部、または組織のグループであってもよい。このように、セキュリティ監視／制御システム１０２は、アプリケーションを発見および管理するためのサービスを、ユーザごとに、および／またはテナントごとに提供してもよい。
【００４６】
リソースは、ファイル、ウェブページ、文書、ウェブコンテンツ、コンピューティングリソース、またはアプリケーションを含んでもよいが、これらに制限されない。たとえば、システム２００は、アプリケーションおよび／またはそれらのアプリケーションを通してアクセス可能なコンテンツなどのリソースを含んでもよい。リソースは、アプリケーションを使用して要求およびアクセスされてもよい。たとえば、アプリケーションは、ウェブページへのリソースサーバからのアクセスを、要求されたリソースを識別するＵＲＬに基づいて要求してもよい。リソースは、１つ以上のコンピュータシステム、たとえば、１つ以上のリソースへのアクセスを提供するリソースサーバによって提供されてもよい。
【００４７】
組織は、コンピューティング環境２４０およびコンピューティング環境２６０など、１つ以上のコンピューティング環境を有してもよい。コンピューティング環境の各々は、クラウドコンピューティング環境またはエンタープライズコンピューティング環境であってもよい。コンピューティング環境の各々は、組織のユーザのクライアントデバイスに、組織のコンピューティングリソースへのアクセスを提供してもよい。各コンピューティング環境は、１つ以上のコンピュータおよび／またはサーバ（たとえば、１つ以上のアクセス管理サーバ）を含んでもよく、この１つ以上のコンピュータおよび／またはサーバは、汎用コンピュータ、専門のサーバコンピュータ（一例として、ＰＣサーバ、ＵＮＩＸ（登録商標）サーバ、ミッドレンジ・サーバ、メインフレーム・コンピュータ、ラックマウント式のサーバなどを含む）、サーバファーム、サーバ・クラスタ、分散サーバ、またはその他の適切な配置、および／もしくはそれらの組合せであってもよい。コンピューティング環境は、オペレーティングシステムのうちのいずれか、または、ＨＴＴＰサーバ、ＦＴＰサーバ、ＣＧＩサーバ、Ｊａｖａ（登録商標）サーバ、データベースサーバなどを含む、いろいろな追加のサーバアプリケーションおよび／もしくはミッドティア・アプリケーションを実行してもよい。例示的なデータベースサーバは、Ｏｒａｃｌｅ、Ｍｉｃｒｏｓｏｆｔなどから市販されているデータベースサーバを含むが、これらに限定されない。コンピューティング環境は、ハードウェア、ファームウェア、ソフトウェア、またはそれらの組合せを使用して実現されてもよい。
【００４８】
コンピューティング環境の各々は、組織のためのセキュアな環境として実現されてもよい。たとえば、組織のコンピューティング環境２４０およびコンピューティング環境２６０は、コンピューティングファイヤーウォール２３０によって守られたセキュアな環境（たとえば、イントラネット）として実現されてもよい。コンピューティング環境を保護するために、１つ以上のファイヤーウォールが実装されてもよい。コンピューティング環境の各々は、１つ以上のネットワーク機器を用いて実現されてもよい。たとえば、コンピューティング環境２４０は、１つ以上のネットワーク機器２４２を用いて実現されてもよく、コンピューティング環境２６０は、１つ以上のネットワーク機器２６２を用いて実現されてもよい。ネットワーク機器の各々は、コンピューティング環境における通信、および、ファイヤーウォール２３０によって守られている外部ネットワーク（たとえば、ネットワーク１６０）との通信を容易にしてもよい。ネットワーク機器は、ルータ、ゲートウェイ、アクセスポイント、ブリッジなどを含んでもよいが、これらに制限されない。ネットワークデータは、コンピューティング環境におけるネットワーク機器の各々で集められてもよい。データは、ログファイルに集められてもよい。
【００４９】
セキュリティ監視／制御システム１０２は、ウェブベースのクライアントインタフェース、専用のアプリケーションプログラム、ＡＰＩ（Application Program Interface）、グラフィカルインタフェース、通信インタフェース、および／またはクライアントデバイス１０６とセキュリティ監視／制御システム１０２との通信を容易にするための他のツールを提供してもよい。たとえば、セキュリティ監視／制御システム１０２は、セキュリティ監視／制御システム１０２のサービスを公開するためのインタフェース２２０を含んでもよい。インタフェース２２０は、クライアントデバイス１０６がセキュリティ監視／制御システム１０２にアクセスすることを可能にするためのインタフェースを生成および／または提供してもよい。セキュリティ監視／制御システム１０２は、図１Ａ〜図１Ｃ、および図７〜図１４を参照して開示されるプロセスを含む、本明細書に開示の動作を実行するように実装されてもよい。
【００５０】
セキュリティ監視／制御システム１０２は、コンピュータシステムによって実現されてもよい。このコンピュータシステムは、１つ以上のコンピュータおよび／またはサーバ（たとえば、１つ以上のアクセス管理サーバ）を含んでもよく、この１つ以上のコンピュータおよび／またはサーバは、汎用コンピュータ、専門のサーバコンピュータ（一例として、ＰＣサーバ、ＵＮＩＸサーバ、ミッドレンジ・サーバ、メインフレーム・コンピュータ、ラックマウント式のサーバなどを含む）、サーバファーム、サーバ・クラスタ、分散サーバ、またはその他の適切な配置、および／もしくはそれらの組合せであってもよい。セキュリティ監視／制御システム１０２は、オペレーティングシステムのうちのいずれか、または、ＨＴＴＰサーバ、ＦＴＰサーバ、ＣＧＩサーバ、Ｊａｖａサーバ、データベースサーバなどを含む、いろいろな追加のサーバアプリケーションおよび／もしくはミッドティア・アプリケーションを実行してもよい。例示的なデータベースサーバは、Ｏｒａｃｌｅ、Ｍｉｃｒｏｓｏｆｔなどから市販されているデータベースサーバを含むが、これらに限定されない。セキュリティ監視／制御システム１０２は、ハードウェア、ファームウェア、ソフトウェア、またはそれらの組合せを使用して実現されてもよい。
【００５１】
セキュリティ監視／制御システム１０２は、少なくとも１つのメモリと、１つ以上の処理装置（またはプロセッサ（複数可））と、ストレージとを備えてもよい。処理装置（複数可）は、ハードウェア、コンピュータによって実行可能な命令、ファームウェア、またはそれらの組合せで、適切に実現されてもよい。いくつかの実施形態において、セキュリティ監視／制御システム１０２は、いくつかのサブシステムおよび／またはモジュールを備えてもよい。セキュリティ監視／制御システム１０２に含まれるこれらのサブシステムおよび／またはモジュールの各々は、ハードウェア、ハードウェア上で実行されているソフトウェア（たとえば、プログラムコード、プロセッサによって実行可能な命令）、またはそれらの組合せで実現されてもよい。いくつかの実施形態において、ソフトウェアは、メモリ（たとえば、非一時的なコンピュータ読み取り可能な媒体）に、メモリ素子上に、または他の物理メモリ上に格納されてもよく、１つ以上の処理装置（たとえば、１つ以上のプロセッサ、１つ以上のプロセッサコア、１つ以上のＧＰＵなど）によって実行されてもよい。本明細書に記載のさまざまな動作、機能、方法、および／またはプロセスを実行するために、コンピュータによって実行可能な命令または処理装置（複数可）のファームウェア実現は、任意の適したプログラミング言語で書かれた、コンピュータによって実行可能な命令または機械によって実行可能な命令を含んでもよい。メモリは、処理装置（複数可）上でロード可能および実行可能なプログラム命令、ならびにこれらのプログラムの実行中に生成されるデータを格納してもよい。メモリは、揮発性（ＲＡＭ（Random Access Memory）など）および／または不揮発性（ＲＯＭ（Read-Only Memory）、フラッシュメモリなど）であってもよい。メモリは、コンピュータ読み取り可能な記憶媒体など、任意の種類の永続記憶装置を使用して実現されてもよい。いくつかの実施形態において、コンピュータ読み取り可能な記憶媒体は、悪意のあるコードを含んだ電子通信文からコンピュータを保護するように構成されてもよい。コンピュータ読み取り可能な記憶媒体は、命令を格納してもよく、この命令は、プロセッサによって実行されると、本明細書に記載の動作を行う。
【００５２】
また、セキュリティ監視／制御システム１０２は、サービスまたはソフトウェア・アプリケーションを提供してもよく、非仮想環境および仮想環境を含み得る。いくつかの実施形態において、これらのサービスは、ウェブベースのサービスまたはクラウドサービスとして提供されてもよく、または、ＳａａＳ（Software as a Service）モデル下でクライアントのユーザに提供されてもよい。セキュリティ監視／制御システム１０２が提供するサービスは、アプリケーションサービスを含んでもよい。アプリケーションサービスは、ＳａａＳサービスを介して、セキュリティ監視／制御システム１０２によって提供されてもよい。ＳａａＳプラットフォームは、ＳａａＳカテゴリに該当するサービスを提供するように構成されてもよい。ＳａａＳプラットフォームは、ＳａａＳサービスを提供するための基礎となるソフトウェアおよびインフラストラクチャを管理および制御してもよい。ＳａａＳプラットフォームによって提供されるサービスを利用することによって、顧客は、クラウドインフラストラクチャシステムとして実現され得るセキュリティ監視／制御システム１０２で実行されているアプリケーションを利用できる。顧客が別々のライセンスおよびサポートを購入する必要なしに、ユーザは、アプリケーションサービスを入手できる。さまざまな異なるＳａａＳサービスが提供されてもよい。クライアントを操作しているユーザは、次に、セキュリティ監視／制御システム１０２とやり取りし、セキュリティ監視／制御システム１０２のサブシステムおよび／またはモジュールが提供するサービスを利用するために、１つ以上のアプリケーションを利用してもよい。
【００５３】
また、セキュリティ監視／制御システム１０２は、追加のストレージを含む、またはそれに接続されてもよい。このストレージは、記憶装置、または他の非一時的なコンピュータ読み取り可能な記憶媒体など、任意の種類の永続記憶装置を使用して実現されてもよい。いくつかの実施形態において、ローカルストレージは、１つ以上のデータベース（たとえば、ドキュメントデータベース、リレーショナルデータベース、または他の種類のデータベース）、１つ以上のファイルストア、１つ以上のファイルシステム、またはそれらの組合せを含み得るまたは実装し得る。たとえば、セキュリティ監視／制御システム１０２は、ストレージ２２２など、データを格納するための１つ以上のデータストアに接続される、またはそれらを含む。メモリおよび追加のストレージは、すべて、コンピュータ読み取り可能な記憶媒体の例である。たとえば、コンピュータ読み取り可能な記憶媒体は、コンピュータ読み取り可能な命令などの情報、データ構造、プログラムモジュール、または他のデータを格納するための、任意の方法または技術で実現される揮発性または不揮発性のリムーバブル媒体または固定型媒体を含んでもよい。
【００５４】
図２に示す例において、ストレージ２２２は、テナント構成情報（「テナントコンフィグ情報」）２２４を含んでもよく、テナント構成情報２２４は、テナントおよびそれらのアカウントの構成情報、ならびに各テナントアカウントに対応付けられたユーザーアカウントを含んでもよい。テナント組織に属するユーザは、さまざまなクラウドアプリケーションにユーザーアカウントを持っていてもよい。また、テナント・コンフィグ情報は、組織に属するユーザのユーザーアカウントに対して管理上の権利を行使する、クラウドアプリケーションのテナントアカウントを有してもよい。ユーザのユーザーアカウントは、通常、ユーザが属するテナントのテナントアカウントに対応付けられる。ユーザーアカウントのテナントアカウントへの対応付けは、テナントに対応付けられたユーザのユーザ・アクティビティについての情報を取り出すことを含む、本発明の実施形態に係るさまざまな方法で使用されてもよい。さらに後述するが、サービスプロバイダシステムにログインして、テナントアカウントに対応付けられるサービスに関するユーザーアカウントおよびアクティビティに関するデータを取り出すために、テナントアカウントの認証情報が使用されてもよい。このような構成情報は、アクセス、ログ設定、およびアクセス設定（たとえば、ホワイトリストおよびブラックリスト）についてのセキュリティ設定を含んでもよい。ストレージ２２２は、組織に登録された各ユーザおよび／または組織のテナントについてのユーザ情報を含んでもよい。ストレージ２２２は、アプリ使用についてのイベントに基づくアプリ情報２３２、およびコンピューティング環境におけるネットワーク・アクティビティに関して集められたログ情報を含んでもよい。アプリ情報２３２は、データソースから取得されたアプリケーションについての組織情報を含んでもよい。ストレージ２２２にある情報は、ユーザ・アクティビティおよび／またはユーザ入力に基づいて、セキュリティ監視／制御システム１０２によって維持および取りまとめられてもよい。たとえば、ストレージ２２２は、本明細書に開示されているようなレジストリを含んでもよい。ストレージ２２２は、セキュリティ監視／制御システム１０２によって実行されるセキュリティ分析についてのセキュリティ情報２２６を含んでもよい。セキュリティ情報２２６は、１つ以上のデータソースから取得されたセキュリティ情報を含んでもよい。ストレージ２２２は、アプリケーションのサービスプロバイダについてのドメイン情報に関するドメイン情報２２８を含んでもよい。
【００５５】
セキュリティ監視／制御システム１０２は、１つ以上のデータソース２８０に接続されるまたは１つ以上のデータソース２８０と通信していてもよく、１つ以上のデータソース２８０は、記憶装置など、任意の種類の永続記憶装置、または他の非一時的なコンピュータ読み取り可能な記憶媒体を使用して実現されてもよい。いくつかの実施形態において、ローカルストレージは、１つ以上のデータベース（たとえば、ドキュメントデータベース、リレーショナルデータベース、または他の種類のデータベース）、１つ以上のファイルストア、１つ以上のファイルシステム、またはそれらの組合せを含み得るまたは実現し得る。たとえば、データソース２８０は、セキュリティ情報データソース２８２と、組織情報データソース２８４と、ドメイン情報データソース２８６とを含んでもよい。データソースの各々は、サービスプロバイダシステムが提供するサービスによって実現される、および／またはこのサービスとしてアクセス可能であってもよい。各データソースは、アプリケーションのデータを要求するためのインタフェース、および／またはアプリケーションのプロバイダを含んでもよい。たとえば、セキュリティ情報データソース２８２は、サービスとしてＳｅｃｕｒｉｔｙ  Ｓｃｏｒｅ  Ｃａｒｄ（登録商標）を提供する企業によって提供されてもよい。別の例において、組織情報データソース２８４は、ＣｌｅａｒＢｉｔ（登録商標）サービスによって提供されてもよい。ドメイン情報ソース２８６は、ＤＮＳ（Domain Name System）ルックアップサービスを提供するプロバイダシステムによって提供されてもよい。
【００５６】
いくつかの実施形態において、セキュリティ監視／制御システム１０２は、コンピューティング環境におけるアクティビティについてのネットワークデータを収集するための動作を行うログ収集システム２３４を含んでもよい。ネットワークデータは、監視されている１つ以上のコンピューティング環境から取得されたログファイルから収集されてもよい。ネットワークデータを収集するために、ログ収集システム２３４は、各コンピューティング環境に実装される１つ以上のモジュールおよび／またはサブシステムと通信するように構成されてもよい。たとえば、コンピューティング環境２４０およびコンピューティング環境２６０の各々は、ログマネージャ２４６と、ログマネージャ２６６とをそれぞれ含んでもよい。各ログマネージャは、ネットワーク・アクティビティについてのデータを収集するように実装された１つ以上のエージェント（たとえば、コンピューティング環境２４０におけるエージェント２４４、およびコンピューティング環境２６０におけるエージェント２６４）から、データを収集および／または集約できる。データは、ログファイルの形で収集されてもよい。各ログマネージャおよび／またはエージェントは、ネットワーク機器上で実装されてもよく、または、ネットワーク機器と通信していてもよい。コンピューティング環境内のネットワーク・アクティビティについてのデータを集めるために、ログ収集システム２３４は、ログマネージャ２４６、２６６および／またはエージェント２４４、２６４と通信してもよい。
【００５７】
ログマネージャおよびエージェントの各々は、ハードウェア、ハードウェア上で実行されているソフトウェア（たとえば、プログラムコード、プロセッサによって実行可能な命令）、またはそれらの組合せで実現されてもよい。いくつかの実施形態において、ソフトウェアは、メモリ（たとえば、非一時的なコンピュータ読み取り可能な媒体）に、メモリ素子上に、または他の物理メモリ上に格納されてもよく、１つ以上の処理装置（たとえば、１つ以上のプロセッサ、１つ以上のプロセッサコア、１つ以上のＧＰＵなど）によって実行されてもよい。本明細書に記載のさまざまな動作、機能、方法、および／またはプロセスを実行するために、コンピュータによって実行可能な命令または処理装置（複数可）のファームウェア実現は、任意の適したプログラミング言語で書かれた、コンピュータによって実行可能な命令または機械によって実行可能な命令を含んでもよい。メモリは、処理装置（複数可）上でロード可能および実行可能なプログラム命令、ならびにこれらのプログラムの実行中に生成されるデータを格納してもよい。メモリは、揮発性（ＲＡＭ（Random Access Memory）など）および／または不揮発性（ＲＯＭ（Read-Only Memory）、フラッシュメモリなど）であってもよい。メモリは、コンピュータ読み取り可能な記憶媒体など、任意の種類の永続記憶装置を使用して実現されてもよい。いくつかの実施形態において、コンピュータ読み取り可能な記憶媒体は、悪意のあるコードを含んだ電子通信文からコンピュータを保護するように構成されてもよい。コンピュータ読み取り可能な記憶媒体は、命令を格納してもよく、この命令は、プロセッサによって実行されると、本明細書に記載の動作を行う。
【００５８】
ログ収集システム２３４は、各サービスプロバイダが提供するインタフェースを通して各サービスプロバイダと通信するように構成されてもよい。ログ収集システム２３４は、１人以上のユーザによるサービスの使用についてのログファイルおよび／またはイベントデータを、サービスプロバイダから取得することができる。アプリケーション使用についてのイベント情報を取得するために、ログ収集システム２３４は、クライアントデバイス上のモジュール（たとえば、エージェント）および／またはモバイルデバイス管理サービスと通信するように構成されてもよい。
【００５９】
ネットワーク・アクティビティおよびアプリケーション使用についてのデータは、セキュリティ監視／制御システム１０２に含まれるデータ分析システム２３６によって処理されてもよい。データ分析システム２３６は、ログファイルを含むネットワークデータを分析して、アクセスされる固有のアプリケーションを特定するために、本明細書に開示の技術を実現してもよい。データ分析システム２３６は、アプリケーションを提供するサービスプロバイダのドメインについてのドメイン情報を識別するための動作を行ってもよい。ドメイン情報は、ドメイン情報２８６など、１つ以上のデータソースから取得されてもよい。ドメイン情報は、データソースのクエリを実行することおよび／またはアプリケーションのサービスプロバイダに認証を要求することによって取得されてもよい。
【００６０】
セキュリティ監視／制御システム１０２は、アプリケーションの使用についての情報および／またはアプリケーションの使用に関する情報を取得するように構成された情報ハンドラシステム２３８を含んでもよい。情報を取得するために、情報ハンドラ２３８は、１つ以上のデータソース２８０と通信してもよい。情報ハンドラ２３８は、ストレージ２２２に格納された情報を管理および取りまとめてもよい。ストレージ２２２に格納された情報のすべてまたは一部は、ユーザ入力および／またはユーザによる取りまとめに基づいてもよい。
【００６１】
セキュリティ監視／制御システム１０２に含まれるセキュリティ・アナライザ２７０は、アプリケーション、ユーザ、またはそれらの組合せに関する安全度合いを決定するために、本明細書に開示の技術を実施できる。
【００６２】
セキュリティ監視／制御システム１０２に含まれるコントロール・マネージャ２７２は、コンピューティング環境におけるアプリケーションへのアクセスの管理および制御を担当してもよい。セキュリティ監視／制御システムは、組織のコンピューティング環境に関する、デバイスによるアプリケーションへの許可されたアクセスを制御するために、１つ以上のポリシー（たとえば、セキュリティポリシー）を使用してもよい。ポリシーは、ユーザによって、１人以上のユーザまたは、まとめて、テナントについて設定されてもよい。ポリシーは、ユーザによるアプリケーション使用のセキュリティ分析に基づいて行われる救済操作を示してもよい。救済は、通知を送ること、情報（たとえば、レポート）を表示すること、および／またはアプリケーションへのアクセスを限定またはアクセスさせないことを含んでもよい。アプリケーションにアクセスさせないまたはアクセスを限定するためのネットワーク機器および／またはファイヤーウォールを構成するために、コントロール・マネージャ２７２は、コンピューティング環境と通信してもよい。このようなコントロールは、セキュリティリスクが低減しない場合、セキュリティリスクを防止してもよく、および／またはコンピューティングリソース（たとえば、帯域幅およびメモリ使用）の非効率的または望ましくない消費を最小限に抑えてもよい。コントロール・マネージャ２７２は、アプリケーションへのアクセスを制御するための１つ以上の命令を、コンピューティング環境および／またはネットワーク機器に送ってもよい。いくつかの実施形態において、セキュリティ監視／制御システム１０２は、各クライアントデバイス１０６上に、セキュリティ監視／制御システム１０２と通信するように構成されたモジュール（たとえば、エージェント）を実装してもよい。コントロール・マネージャ２７２は、アプリケーションへのアクセスを防止または抑えるためにデバイスの機能を変えるための１つ以上の命令を、クライアントデバイス１０６上のエージェントに送ってもよい。
【００６３】
本開示の多くの実施形態において、セキュリティのためのシステムは、ハードウェアプラットフォーム上で実行される管理アプリケーションと、ユーザインタフェースコンポーネントと、ハードウェアプラットフォーム上に格納されるデータウェアハウスとを備える。本開示の実施形態に係るセキュリティのためのシステム３００を、図３に示す。システム３００は、セキュリティ監視／制御システム１０２など、本明細書に開示のセキュリティ監視／制御システムで実現されてもよい。システム３００に含まれるクラウド管理アプリケーションは、クラウド・クローラー（crawler）３０２と、クラウド・シーダー（seeder）３０４と、データ・ローダー（loader）３０６とを含み得る。以下にさらに詳細に説明するが、クラウド・クローラー・アプリケーション３０２は、クラウドプロバイダからセキュリティコントロールについての情報を取り出すことができ、クラウド・シーダー・アプリケーション３０４は、所望のセキュリティ体制を反映するために、クラウドプロバイダのテナントアカウントのセキュリティコントロールを変更でき、データローダー・アプリケーション３０６は、クラウドプロバイダのテナントのアカウントのアクティビティ情報を取り出して、アナリティクスを生成することができる。
【００６４】
いくつかの実施形態において、クラウド・クローラー・アプリケーション３０２によって取り出されたデータは、アプリケーション・カタログ・データベース３０８に入力され、データローダー・アプリケーション３０６によって取り出されたデータは、ランディング・リポジトリ３１０および／またはアナリティクス／脅威インテリジェンス・リポジトリ・データベース３１１に入力される。ランディング・リポジトリ３１０に入力されたデータは、異なるフォーマットであり、および／または異なる範囲の値を有してもよい。このデータは、アナリティクス・リポジトリ３１１に移動される前に、再フォーマットおよび／または構造化されてもよい。アナリティクス・リポジトリ３１１にあるアクティビティ情報に関するデータを利用して、ユーザインタフェースを介してシステム管理者に見えるように提示され得るレポートを生成でき、かつ、脅威レベルを決定、具体的な脅威を検出、および潜在的な脅威を予測するためのアナリティクスを生成できる。
【００６５】
アクセスパターンおよび他のイベント統計データに関する、アナリティクス・リポジトリ３１１のアクティビティ情報の集約は、ユーザ行動の基準（baselines）をシステムが確立することを可能にする。次に、脅威を検出するために、機械学習技術が適用され得、どのように脅威に対応するかに関する推奨を提供できる。脅威モデルは、既知の脅威もしくは未知の脅威、または新たに出現する脅威を検出するために開発され得る。また、さらに後述するが、脅威は、サードパーティプロバイダが提供する情報など、外部の脅威インテリジェンス情報とアクティビティデータとを比較することによって特定され得る。
【００６６】
異なるクラウドアプリケーションにおける特定のユーザのアカウント（たとえば、異なるユーザ素性）は、ユーザ素性リポジトリ３０９において互いに関連付けられ得る。ユーザ素性リポジトリ３０９および／またはクラウドセキュリティシステムにおける他のメモリが、テナントアカウントおよび各テナントアカウントに対応付けられたユーザーアカウントに関する情報を格納できる。テナント組織に属するユーザは、さまざまなクラウドアプリケーションにユーザーアカウントを持っていてもよい。また、テナント組織は、組織に属するユーザのユーザーアカウントに対して管理上の権利を行使する、クラウドアプリケーションのテナントアカウントを有してもよい。ユーザのユーザーアカウントは、通常、ユーザが属するテナントのテナントアカウントに対応付けられる。ユーザーアカウントのテナントアカウントへの対応付けは、テナントに対応付けられたユーザのユーザ・アクティビティについての情報を取り出すことを含む、本開示の実施形態に係るさまざまな方法で使用されてもよい。さらに後述するが、クラウドアプリケーションサービスにログインして、テナントアカウントに対応付けられるユーザーアカウントに関するアクティビティに関するアクティビティデータを取り出すために、テナントアカウントの認証情報が使用されてもよい。
【００６７】
また、以下により詳細に説明するが、ユーザ素性リポジトリ３０９を利用して、複数のクラウドアプリケーション間のユーザ追跡およびプロファイルを容易にすることができる。これに加えて、複数のクラウドサービス間でユーザ行動についての情報を収集することによって、１つ以上のクラウドサービスに対する行動に基づいて脅威が検出されたとき、システムが、他のクラウドサービスに対する脅威に関してシステム管理者にアラートを先制して出すこと、および／または、認証に追加ステップを加える、パスワードを変更する、特定のＩＰアドレスもしくはアドレスをブロックする、電子メールメッセージもしくは送信者をブロックする、またはアカウントをロックするなどの救済措置を講ずることによって、ユーザがデータを維持する他のサービスを積極的に確保することを可能にする。
【００６８】
本開示のいくつかの実施形態において、システム３００は、以下にさらに詳細に説明するが、収集したデータに対してアナリティクスを実行するためのアプリケーションまたはソフトウェアモジュールを含む。アプリケーションまたはソフトウェアモジュールは、揮発性または不揮発性メモリに格納されてもよく、アプリケーションまたはソフトウェアモジュールは、実行されると、特定の機能またはプロセスを実行するようにプロセッサ３０１を構成してもよい。これらのアプリケーションは、脅威検出／予測的分析アプリケーション３１２および／または記述的分析アプリケーション３１３を含み得る。脅威検出／予測的分析アプリケーション３１２は、アクティビティのパターンおよび行動モデルからセキュリティ脅威を特定して予測するための機械学習および他のアルゴリズムを使用して、アナリティクスを生成できる。記述的分析アプリケーション３１３は、ユーザについての統計データ、ユーザ・アクティビティ、およびリソースなどのアナリティクスを生成できるが、これらに限定されない。アナリティクスは、アナリティクス／脅威インテリジェンスリポジトリ３１１に格納されたデータを使用して実行されてもよい。
【００６９】
さらに後述するが、本開示の実施形態は、脅威に対する手動および／または自動プロセスを提供する救済機能を含んでもよい。いくつかの実施形態において、アナリティクスは、テナントによって提供された脅威インテリジェンスを記述する、テナントシステムから受信した情報を利用できる。顧客基準３１７と称され得るこれらのソースは、監視またはブロックする具体的なＩＰアドレス、監視またはブロックする電子メールアドレス、脆弱なブラウザもしくはそのバージョン、および脆弱なモバイル機器またはモバイルハードウェアもしくはソフトウェアのバージョンなどの情報を含み得るが、これらに限定されない。さらなる実施形態において、アナリティクスは、これらに限られないが、感染したノードポイントのＩＤ、特定の送信元ＩＰアドレスからの悪意のあるアクティビティ、マルウェアに感染した電子メールメッセージ、脆弱なウェブブラウザのバージョン、およびクラウド上の既知の攻撃など、セキュリティ脅威の外部情報を提供することによって、外部のサードパーティフィード３１８、３２０、および３２１から受信した情報を利用して、脅威インテリジェンスを増強することができる。
【００７０】
インシデント救済アプリケーション３１３は、検出した脅威に対する救済操作を調整および／または実行するために利用され得る。インシデント救済アプリケーション３１３は、推奨される救済操作がアラートで提示および選択されたときに呼び出される。インシデント救済アプリケーション３１３は、選択された救済操作を実行してもよく、または、クラウド・シーダー・アプリケーション３０４など、別のアプリケーションに、選択された救済操作を実行するように指示してもよい。選択された救済操作が手動で実行されるまたはクラウドセキュリティシステムの外部にあるとき、インシデント救済アプリケーション３１３は、救済操作のステータス、および救済操作が完了したかどうかについて追跡してもよい。インシデント救済アプリケーションを使用して、手動または自動の救済操作の結果をメモリに保存することができる。いくつかの実施形態において、選択された救済操作は、サードパーティのまたはテナントのインシデント救済システムによってなど、クラウドセキュリティシステムの外部のシステムによって実行される。このような場合、インシデント救済アプリケーション３１３は、自動統合プロセスを使用して操作を実行するように、サードパーティのまたはテナントのインシデント救済システムを指示または呼び出してもよい。
【００７１】
クラウド・シーダー・アプリケーション３０４は、さまざまなクラウドアプリケーションにおけるテナントのアカウント内のセキュリティコントロールを設定することによってセキュリティポリシーを実施するために利用され得る。以下にさらに詳細に説明するが、クラウド・シーダーは、脅威の救済の一部またはシステムユーザによるオンコールなど、さまざまな条件でセキュリティコントロールを設定してもよいが、これらに限定されない。セキュリティコントロール、およびセキュリティコントロールを調整するための技術の例は、２０１４年１０月２４日に出願され、「SYSTEMS AND METHODS FOR CLOUD SECURITY MONITORING AND THREAT INTELLIGENCE」と題された米国特許出願第１４／５２３，８０４号に開示の技術を使用して実現されてもよい。
【００７２】
本開示のさらなる実施形態において、ユーザインタフェースコンポーネントは、１つ以上のクラウドについてのセキュリティコントロールをユーザが設定するためのコントロール管理を提供する管理コンソール３１４と、システムが生成したアナリティクスを見るためのアナリティクス可視化コンソール３１６とを含む。以下にさらに詳細に説明するが、データウェアハウスのデータを使用して、ユーザインタフェースに示す情報およびレポートを生成することができる。クラウドアプリケーションからセキュリティ構成データを取り出すためにクラウド管理アプリケーションを使用することについて、以下に説明する。
【００７３】
ＩＩＩ．ソフトウェア定義セキュリティ構成データをクラウドサービスから取り出すためのプロセス
本開示の多くの実施形態において、クラウド・クローラー・アプリケーションは、ソフトウェア定義セキュリティ構成データをクラウドサービスから取り出す。ソフトウェア定義セキュリティ構成データは、特定のクラウドサービスにおけるセキュリティコントロールの構成を記述する。セキュリティコントロールとは、クラウドが収容するアプリケーションおよびデータへのアクセスを制限する機構である。ソフトウェア定義セキュリティ構成データは、ユーザのために定義されたロール、グループおよびユーザのグループ分け、暗号化キー、トークン、アクセス制御、許可、構成、認証ポリシーの種類、モバイルアクセスポリシー、および多くの他の種類のセキュリティコントロールを記述するデータを含み得る。ソフトウェア定義セキュリティ構成データをクラウドサービスから取り出すためのプロセスを、図４に示す。
【００７４】
プロセスは、クラウドに接続するステップ４０２を含む。クラウドは、システムおよび内部データへのアクセスについての承認またはその他の同意の明示を必要としてもよい。承認は、（ＯＡｕｔｈという、承認のためのオープン標準などを使用する）トークンによって、または認証情報（ユーザ名およびパスワードなど）によって提供されてもよい。当業者は、クラウドプロバイダのシステムおよびデータへのアクセスを承認する際に利用され得るさまざまな他の技術があることが分かるだろう。また、接続は、サービスのＵＲＬ（Universal Resource Locator）を提供することを含んでもよい。
【００７５】
プロセスは、クラウドアプリケーションのセキュリティコントロールについてのソフトウェア定義セキュリティ構成データを収集するステップ４０４をさらに含む。ソフトウェア定義セキュリティ構成データは、クラウドアプリケーションによって使用できるようにされたＡＰＩ（Application Programming Interface）を利用することによって収集され得る。実施形態に応じて使用され得るＡＰＩおよびＡＰＩのクラスは、ＲＥＳＴ（Representational State Transfer）、Ｊ２ＥＥ（Java 2 Platform, Enterprise Edition）、ＳＯＡＰ（Simple Object Access Protocol）、およびネイティブプログラムに従った方法（Ｊａｖａ用のネイティブアプリケーションＡＰＩなど）を含んでもよい。また、さらに後述するが、情報は、スクリプト言語（ＰｙｔｈｏｎおよびＰＨＰなど）、デプロイメントディスクリプタ、ログファイル、ＪＤＢＣ（Java Database Connectivity）またはＲＥＳＴによるデータベース接続性、および常駐アプリケーション（クラウド・ビーコン）を含む他の技術を使用して要求され得る。送信または受信される情報は、ＪＳＯＮ（JavaScript（登録商標） Object Notation）、ＸＭＬ（Extensible Markup Language）、およびＣＳＶ（Comma Separated Values）を含むいろいろなフォーマットで表され得るが、これらに限定されない。当業者は、本開示の実施形態に従って、特定のアプリケーションに適した各種のフォーマットが利用され得ることを認識するだろう。
【００７６】
受信した、クラウドアプリケーションのセキュリティコントロールについてのソフトウェア定義セキュリティ構成データを使用して、ステップ４０６において、セキュリティコントロールメタデータ、つまり、情報を共通データベースに入力するための正規化されたディスクリプタを生成できる。セキュリティコントロールメタデータを、ステップ４０８において分類し（カテゴリにマッピングし）、索引付けする。分類は、セキュリティ対応組織によって指定される標準規格に準じてもよく、ならびに／またはサードパーティによって認定および／もしくは監査されてもよい。これに加えて、セキュリティコントロールメタデータおよび／またはメタデータの分類は、特定の規則または標準規格の要件を満たすように作られてもよい。たとえば、医療保険の相互運用性および説明責任に関する法令（ＨＩＰＡＡ：Health Insurance Portability and Accountability Act）、サーベンス・オクスリー法、ＦｅｄＲＡＭＰ、およびＰＣＩ  ＤＳＳ（Payment Card Industry Data Security Standard）などの規則および標準規格は、監査証跡を報告するよう要求する場合がある。セキュリティコントロールメタデータは、規則および標準規格が要求する種類の情報を表示して必要なレポートの生成を容易にする方法でフォーマットされ得る。
【００７７】
ステップ４１０において、セキュリティコントロールメタデータを、アプリケーション・カタログ・データベースに入力する。本開示の多くの実施形態において、アプリケーション・カタログ・データベースは、Ｃａｓｓａｎｄｒａデータベースである。他の実施形態において、アプリケーション・カタログ・データベースは、アプリケーションに適切な他の種類のデータベースで実現される。さらに後述するが、本開示の実施形態に従って、後からの取り出し、レポートの生成、およびアナリティクスの生成のためにアプリケーションカタログを格納するために、各種のデータベースを使用できることを、当業者は認識するだろう。
【００７８】
本開示の実施形態に係る、セキュリティコントロールメタデータを発見および格納するための具体的なプロセスを上述した。本開示の実施形態によると、ソフトウェア定義セキュリティ構成データを取り出してセキュリティコントロールメタデータを生成するための各種のプロセスを利用できる。コントロールの数および種類、ならびにソフトウェア定義セキュリティ構成データを取り出すための機構は、異なるクラウドアプリケーションによってサポートされる本開示のそれぞれ異なる実施形態において異なってもよいことを、当業者は認識するだろう。たとえば、Ｏｆｆｉｃｅ  ３６５、ＧｉｔＨｕｂ、Ｗｏｒｋｄａｙなど、他のクラウドアプリケーション、およびさまざまなＧｏｏｇｌｅアプリは、アプリケーションに特有の取り出し機構を使用してサポートされてもよい。さらに、ソフトウェア定義セキュリティ構成データを取り出すためのプロセスは、対象のクラウドプロバイダのサポートに基づいて、自動または手動であり得る。
【００７９】
ＩＶ．コントロール管理プラットフォーム
本開示の多くの実施形態において、コントロール管理プラットフォームは、複数のクラウドのためのコントロールの正規化されたビューをユーザに提供する。プラットフォームは、異なるクラウドのためのコントロールの簡略化されたビューを同じ画面上に表示するユーザインタフェースを含み得る。コントロール管理プラットフォームに提供された情報は、メタデータベースのスキーママッピングを使用して、アプリケーション・カタログ・データベースから取り出すことができる。プラットフォームを使用して、クラウド間で一貫したアクセスポリシーを割り当てることができる。コントロールは、標準、厳密、カスタムなど、指定の分類子に応じて表示および／または設定され得るが、これらに限定されない。より高いレベルの分類は、より厳密なコントロールに対応する。いくつかの実施形態において、セキュリティコントロールの分類および／または指定は、ＮＩＳＴ（National Institute of Standards and Technology）、ＩＳＯ（International Organization for Standardization）、および／もしくはＰＣＩ  ＤＳＳ（Payment Card Industry Data Security Standard）などの組織によって指定される条件、ならびに／または１つのこのような組織が提供する特定の証明書に準ずる。また、本開示のいくつかの実施形態において、コントロール管理プラットフォームは、Ｓａａｓ、Ｐａａｓ、およびネイティブアプリケーションと統合するためのプラグインインタフェースを提供できる。
【００８０】
コントロール管理プラットフォームのユーザインタフェースは、キーセキュリティ・インジケータを、色分けされた（赤、緑、黄など）リスク要因とともに、ライブラリフォーマットで表示してもよい。これらに限定されないが、ユーザログインの試み、最も多くのユーザが加えられたグループ、最も多く削除されたファイル、ファイルを最も多く削除したユーザ、およびファイルを最も多くダウンロードしているユーザなど、他の統計データまたは評価指標が表示されてもよい。いくつかの種類の情報は、機会／予算データ、契約書、または連絡先を誰がダウンロードしているのかを示すSalesforce.comなど、特定のクラウドアプリケーションプロバイダに特有のものであってもよい。本開示のいくつかの実施形態において、ユーザインタフェースは、テナントの登録クラウドアプリケーションのためのセキュリティコントロールの統一ビューを提供する。ユーザインタフェースは、異なるクラウドアプリケーションのために設定された任意のまたはすべてのセキュリティコントロールに設定された値、および予め定められたポリシーまたは構成に対応付けられた値からの、現在の値のずれを表示してもよい。クラウドアプリケーションプロバイダからのアクティビティデータの収集については、次に説明する。
【００８１】
Ｖ．クラウドサービスからアクティビティデータを収集するためのプロセス
本開示の多くの実施形態において、クラウドデータローダーアプリケーションは、テナントのユーザ・アクティビティ、セキュリティ構成についてのアクティビティデータ、および他の関連情報をクラウドサービスから収集するようにコンピューティング・デバイスを設定する。本開示の実施形態に係る、クラウドサービスからアクティビティデータを収集するためのプロセスを、図５に示す。
【００８２】
このプロセスは、１つ以上のクラウドに接続するステップ５０２と、クラウドからアクティビティデータを収集するステップ５０４とを含む。多くの実施形態において、この接続は、暗号化された通信チャネルで行われる。さらなる実施形態において、この接続は、トークンによって、または、詳細を上述したクラウド・クローラー・アプリケーションとの間に確立された接続と同様にログイン認証情報を使用して認証されなければならない。本開示のいくつかの実施形態において、収集は、周期的に（たとえば、４時間毎、または６時間毎）起こるようにスケジュールされる。多くの実施形態において、収集のスケジュールは、テナントによって設定可能である。さらなる実施形態において、たとえば、Ｓｔｏｒｍなどのリアルタイム演算システムをイベントが利用して起こるため、データは、リアルタイムで収集および取り出される。システムは、特定のイベントまたはアクティビティを、スケジュールされた取り出しではないほぼリアルタイムの取り出しには高リスクなイベントとして指定するように構成されてもよい。
【００８３】
アクティビティデータは、さまざまな種類の情報を含み得、遠隔でホストされるクラウドアプリケーションシステムの外部のシステムが正しい認証情報を保持していると、クラウドアプリケーションシステムは、これらの情報に外部のシステムがアクセスできるようにする。この認証情報は、クラウドアプリケーションシステムまたは別の承認体によって発行されてもよい。ユーザーアカウントに対応付けられたアクティビティデータは、ユーザーアカウントの使用および／またはユーザーアカウントを用いてクラウドアプリケーションで講じられた操作に関する情報を含み得る。アクティビティデータは、ユーザログ（複数可）または監査証跡（複数可）などの情報のソースを含み得る。より具体的な種類のアクティビティデータとして、これらに限定されないが、ログイン／ログアウト統計データ（試みおよび成功を含む）、アプリケーションにアクセスするために使用されたＩＰアドレス、アプリケーションにアクセスするために使用されたデバイス、およびアクセスされたクラウドリソース（ファイル管理クラウドアプリケーション［Ｂｏｘなど］におけるファイルおよびフォルダ、人事クラウドアプリケーション［Ｗｏｒｋｄａｙなど］における従業員および契約者、ならびに、顧客関係管理クラウドアプリケーション［Ｓａｌｅｓｆｏｒｃｅなど］における連絡先およびアカウントを含むが、これらに限定されない）を含み得る。アクティビティデータは、イベントまたは統計データに対応付けられたユーザのユーザーアカウントまたは他のユーザ識別子を含み得る。アクティビティデータは、サーバのアクティビティ、サーバのリブート、サーバによって使用されるセキュリティキー、およびシステム認証情報など、クラウドアプリケーションシステムのシステムステータスまたはアクティビティについての情報を含み得るが、これらに限定されない。この情報は、承認された認証情報を使用するシステムが見ることができるまたはアクセス可能である。
【００８４】
また、アクティビティデータは、テナント（および関連するユーザ）アカウントのセキュリティ構成についての情報を含んでもよい。セキュリティ構成は、テナント（および／または関連するユーザ）のセキュリティコントロール（詳細は上述した）に設定される値を含み得る。
【００８５】
いくつかの実施形態において、特定のイベントは、高リスクであると考えられ、このようなイベントに関するアクティビティデータは、スケジュールされた間隔ではないほぼリアルタイムで取り出される。
【００８６】
ステップ５０６において、取り出したアクティビティデータは、アナリティクス／脅威インテリジェンス・リポジトリ・データベース３１１に格納される。アナリティクス／脅威インテリジェンス・リポジトリ・データベース３１１は、クエリ機能を有する任意のデータベースまたはデータ・リポジトリであってもよい。本開示のいくつかの実施形態において、アプリケーションに適切な任意のデータウェアハウスインフラストラクチャが利用されてもよいが、Ｃａｓｓａｎｄｒａなど、ＮｏＳＱＬベースのインフラストラクチャ、または他の分散データ処理システムにアナリティクス／脅威インテリジェンス・リポジトリ・データベース３１１が構築される。いくつかの実施形態において、データは、アナリティクス・リポジトリ３１１に移動される前に、まず、ランディング・リポジトリ３１０に入力され、再フォーマットおよび／または構造化される。
【００８７】
本開示のいくつかの実施形態において、このデータは、異なるクラウドアプリケーションによって利用される異なるフォーマットで受信されてもよい。たとえば、データは、ＪＳＯＮ（JavaScript Object Notation）または他のデータ交換フォーマットにフォーマットされてもよく、または、ログファイルまたはデータベースエントリとして使用可能であってもよい。さらなる実施形態において、このプロセスは、データを正規化して、データをアナリティクス／脅威インテリジェンス・リポジトリ・データベース３１１に格納およびそこから取り出すために、共通フォーマットに再フォーマットするステップ５０８を含む。データを再フォーマットするステップは、データを分類して共通フォーマットに構造化することを含んでもよい。本開示のいくつかの実施形態において、データベースは、変更されたデータをチェックするための自動プロセスを実行することによって、構造変化および新しい値に適応できる。いくつかの実施形態において、（詳細は上述したような）クラウド・クローラー・アプリケーションは、取り出したデータの構造または値の違いを認識し、この変更は、アプリケーション・カタログ・データベース３０８および／またはアナリティクス／脅威インテリジェンス・リポジトリ・データベース３１１において実施される。データセット上で実行するようにスケジュールされたジョブによって、システムレポートを、ステップ５１０において予め生成してもよい。アクティビティデータを収集するためにクラウドローダーアプリケーションを利用するための具体的なプロセスを上述した。本開示の実施形態に係るアクティビティデータを収集するための各種のプロセスが使用できる。予め生成される、または本開示の実施形態に係るシステムユーザまたは管理者による要求に基づいて生成されるレポートについて、以下に説明する。
【００８８】
ＶＩ．レポート
アプリケーション・カタログ・データベースおよび／またはアナリティクス／脅威インテリジェンス・リポジトリ・データベース３１１に格納されるデータを使用して、いろいろなレポートを生成することができる。レポートのカテゴリは、認証および承認、ネットワークおよびデバイス、システムおよび変更データ、リソースのアクセスおよび可用性、マルウェアアクティビティ、ならびに、障害および重大なエラーを含み得る。レポートは、アプリケーションごと、ユーザごと、保護されたリソースごと、およびアクセスするのに使用されたデバイスごとなど、さまざまな属性に基づき得るが、これらに限定されない。レポートは、クラウドアプリケーションにおいて更新された特徴または新しく変更されたポリシーなど、最近の変更を強調表示してもよい。レポートは、（たとえば、性能上の理由から）スケジュールされたジョブによって予め生成されてもよく、または、ユーザまたは管理者によって要求されてもよい。
【００８９】
本開示のさまざまな実施形態において、レポートは、データに基づいて生成されるアナリティクスを含む。アナリティクスは、Ｈａｄｏｏｐ、Ｈｉｖｅ、Ｓｐａｒｋ、およびＭａｈｏｕｔｎａなど、Ａｐａｃｈｅソフトウェア財団の技術、または使用するデータ記憶フレームワークにおいて利用可能な他の特徴を利用してもよい。いくつかの実施形態は、Ｒプログラミング言語を利用してアナリティクスを生成する。さらなる実施形態において、アナリティクスの生成は、機械学習アルゴリズム、プロプライエタリ・アルゴリズム、および／またはＦｉｒｅＥｙｅおよびＮｏｒｓｅなどの外部の市販のソース、または、ＺｅｕｓおよびＴｏｒなどの公の脅威インテリジェンスコミュニティからの外部の脅威インテリジェンスの使用を含む。本開示の実施形態に係る、アナリティクスを生成するための技術について、以下に説明する。
【００９０】
ＶＩＩ．アナリティクスおよびセキュリティ・インテリジェンス
本開示の実施形態に係るセキュリティ監視／制御システムは、収集されたデータを使用して、アナリティクスを生成できる。アナリティクスは、アナリティクスプロセスおよび／またはアナリティクスエンジンと称されるアナリティクスモジュールによって生成されてもよい。本開示の実施形態に係る、脅威インテリジェンスプラットフォーム６００の構成要素を使用してアナリティクスを生成することの概要を、図６に示す。プラットフォーム６００は、システム２００に実装されてもよい。プラットフォーム６００のすべてまたは一部は、セキュリティ監視／制御システム１０２に実装されてもよい。
【００９１】
生成され得るアナリティクスの１つの部類に、記述的分析または統計分析がある。統計データは、ＭａｐＲｅｄｕｃｅジョブおよびＳｐａｒｋ  ａｎｄ  Ａｐａｃｈｅ  Ｈｉｖｅクエリなど、システムクエリの既定セットを使用して生成できるが、これらに限定されない。記述的分析は、１つのアプリケーション、または、相関分析技術を使用して複数のアプリケーション間について生成できる。生成できるレポートには、ログイン統計データ（たとえば、ログインに最も多く失敗したユーザ、ＩＰアドレスの評判の考慮を含むＩＰアドレスベースのログイン履歴、地理的位置、および他の要因）、ユーザ統計データ（たとえば、最も多くのリソース［ファイル、ＥＣ２マシンなど］を有するユーザ、クラウド間のエンタイトルメント、変更されたパスワードの数）、アクティビティ統計データ（たとえば、クラウド間のユーザのアクティビティ）、キーローテーションについての統計データ（たとえば、過去３０日以内にＳＳＨキーがローテーションされたかどうか）、およびリソース統計データ（たとえば、ユーザがダウンロードしたフォルダ数、ファイル数、ローミングまたはモバイルユーザがダウンロードしたファイル数）などが挙げられるが、これらに限定されない。特定の時間内のログインアクティビティ、パスワード関連のサポート問題の過去の履歴に基づくこのような問題、または特定の時間内で最も多くのアクティビティを見たモバイル機器の識別タイプなどのトレンドが特定されてもよい。レポートに含まれるデータは、イベントビューアとして、イベントの「壁」を、ユーザがイベントに対して講ずることのできる操作またはイベントを救済するための操作とともに表示するユーザインタフェース上に表示され得る。具体的なイベントおよび閾値を含み得る既定のルールに基づいて、アラートが構成できる。
【００９２】
生成され得る別の部類のアナリティクスとして、予測分析およびヒューリスティック分析がある。これらは、機械学習アルゴリズムを組み込んで、基準となる期待値からの偏差、めったに起こらないイベント、およびユーザの怪しい行動を得るための行動アナリティクスなどの脅威モデルを生成してもよいが、これらに限定されない。普通でない行動がセキュリティリスクであるかどうかをインテリジェントに予測するようにアルゴリズムおよびプロファイルを訓練できる。これらに限定されないが、ＩＰ（Internet Protocol）アドレスの評判、マルウェア、感染したノードポイントのＩＤ、脆弱なウェブブラウザのバージョン、ユーザによるプロキシサーバまたはＶＰＮサーバの使用、およびクラウドに対する既知の攻撃など、潜在的なセキュリティ脅威の外部情報および潜在的なセキュリティ脅威に関する外部情報を提供することによって、これらに限られないが、ＭａｘＭｉｎｄ、ＦｉｒｅＥｙｅ、Ｑｕａｌｙ、Ｍａｎｄｉａｎｔ、ＡｌｉｅｎＶａｕｌｔ、およびＮｏｒｓｅ  ＳＴＩＸなどのプロバイダからのサードパーティフィードを統合して、脅威インテリジェンスを増強することができる。いくつかの実施形態において、脅威情報は、ＳＴＩＸ（Structured Threat Information eXpression）データフォーマットで表される。たとえば、１つ以上のサービスが、評判（たとえば、ソフトウェア脆弱性がある、悪意のあるソフトウェアのホストである、または攻撃のソースであると知られている）および／またはＩＰアドレスに対応付けられた地理的位置など、特定のＩＰアドレスに関する情報を提供してもよい。この情報は、何時にそのＩＰアドレスからログインが試みられたかなど、ＩＰアドレスを伴う取り出されたアクティビティデータ、および、ログインの試みの間隔など、アクティビティデータから得られた情報と組み合わすことができる。これらの要因を使用して、「ログイン速度（login velocity）」評価指標を決定することができる。ファイルアクセス、売買取引、または仮想マシンのインスタンスなど、他のアクティビティの評価指標を決定することができる。
【００９３】
本開示の多くの実施形態において、データを分析するために、さまざまな種類のアルゴリズムが特に有用であり得る。決定木、時系列、ナイーブベイズ分析、およびユーザ行動プロファイルを作るために使用される技術は、怪しいアクティビティのパターンおよび／または外部のデータフィードに基づいて予測を生成するために利用され得る機械学習技術の例である。クラスタリングなどの技術を使用して、部外者および異常なアクティビティを検出することができる。たとえば、（サードパーティフィードまたはそれ以外によって）悪意があるとしてフラグが立てられているＩＰアドレスから、１つ以上のファイルにアクセスしているまたはそのアドレスからの一連のログインの試みが失敗しているアカウントに基づいて、脅威を特定することができる。また、同様に、１つのクラウドまたは複数のクラウド間における一連の時間にわたる異なるパターンのアクティビティに基づいて脅威を特定することができる。詳細を上述したように、異なるクラウドからのアクティビティデータは、異なるフォーマットであり得、または、異なる値または値の範囲を有し得る。上述のプロセスにおいてデータを正規化することは、データを、比較可能に、同じ意味を有するように、および／または異なるクラウド間で同じ重要性および関連性を持つように再フォーマットすることを含んでもよい。したがって、アルゴリズムは、異なるクラウドからのデータを、意味のある方法で集約および比較できる。たとえば、１つのクラウドにおいて特定のユーザーアカウントを用いた一連の失敗したログインは、脅威ではないと考えられてもよい。しかしながら、複数のクラウド間でユーザに対応付けられたユーザーアカウントを用いた一連の失敗したログインは、ユーザのパスワードをクラッキングするための一致協力の努力を示す可能性があるため、アラームを始動させる。クラスタリングアルゴリズムおよび回帰アルゴリズムを使用して、データを分類して、共通のパターンを見つけることができる。たとえば、クラスタリングアルゴリズムは、モバイル機器からログインしているユーザのすべてのエントリを集約することによって、データをクラスタにすることができる。また、予測アナリティクスは、ユーザが特定のクラウドアプリケーションに数か月アクセスしていなかった後、翌月に高いアクティビティを示す、または、ユーザが過去数週間にわたって、毎週１つのファイルをダウンロードしているなど、潜在的なＡＰＴ攻撃（Advanced Persistent Threat）のシナリオを示すアクティビティに基づいて脅威を特定することを含み得る。本開示のいくつかの実施形態において、時間ととともに収集されたデータを使用して、正常な行動（たとえば、イベントおよびアクティビティのパターン）のモデルを作成し、通常から逸脱した行動を異常行動としてフラグを立てる。フラグが立てられている１つ以上のイベントまたはアクティビティが、（たとえば、ユーザフィードバックによって）真またはフォールス・ポジティブであるとみなされた後、情報を１つ以上の機械学習アルゴリズムに戻してシステムのパラメータを自動的に変更することができる。したがって、機械学習アルゴリズムを少なくとも上述の方法で利用して、推奨を作成し、フォ���ルスアラーム（フォールス・ポジティブ）を減らすことができる。時間とともにさまざまなパラメータから収集されたアクティビティデータを機械学習アルゴリズムとともに使用して、ユーザ行動プロファイルと称されるパターンを生成することができる。アクティビティデータは、ＩＰアドレスおよび地理的位置などの背景情報を含み得る。
【００９４】
関連付け規則学習のためのアルゴリズムを使用して、推奨を生成することができる。本開示のいくつかの実施形態において、アプリケーションの相互相関を見つけることによって、プロファイル連結アルゴリズムを使用して複数のクラウドアプリケーション間のアクティビティを連結する。クラウド間で共通して使用されるプライマリユーザ識別子（ＩＤ）、またはＳＳＯ（Single Sign-on）認証メカニズム（たとえば、Active Directory、Okta）など、１つ以上の属性またはＩＤ要因を使用して、複数のクラウド間で１人のユーザが特定され得る。アプリケーション間のアクティビティの相関分析は、第１のクラウドアプリケーションにおいて第１のエンタイトルメントを持ち、かつ、第２のクラウドアプリケーションにおいて第２のエンタイトルメントを有するユーザ、異なるＩＰアドレスから２つのクラウドアプリケーションに同時にログインしたユーザ、何度かログインの試みに失敗した後にパスワードを変更したユーザ、および２つのクラウドアプリケーションにおいてログインに多数失敗した共通ユーザを見つけること含み得る。
【００９５】
本開示の多くの実施形態において、複数のクラウドアプリケーション間のユーザ追跡およびプロファイルを容易にするために、ユーザ素性リポジトリ１０９が利用され得る。それぞれ異なるクラウドアプリケーションにおける特定のユーザのアカウントは、上述のプライマリ（汎用の）ユーザ識別子もしくはＳＳＯメカニズム、または他の方法によって、アカウント（たとえば、ｊｄｏｅ、ｊｏｈｎ．ｄｏｅなど）に対応付けられたユーザ識別子を互いに関連付けることによって連結されてもよい。ユーザ素性リポジトリ１０９は、テナントに対応付けられた各ユーザの複数のアカウントを互いに関係付ける情報を含み得る。テナントの制御または所有下にある複数のクラウドアプリケーションアカウントを利用するユーザを、「エンタープライズユーザ」と称する場合がある。
【００９６】
本開示のいくつかの実施形態において、推奨エンジンは、ユーザ・アクティビティの異常な行動を追跡して、攻撃および未知の脅威を検出する。推奨エンジンは、複数のクラウド間のユーザ・アクティビティの怪しいイベントを追跡できる。イベントは、既定の危険な状態の動作（たとえば、クレジットカード番号を含んだファイルをダウンロードすること、暗号化キーをコピーすること、通常ユーザの特権を上げること）を含み得る。イベントの詳細および救済のための推奨とともに、アラームが鳴らされ得る。
【００９７】
特定のユーザ／従業員に関係するイベントのための動的ポリシーベースのアラートが生成され得る。プロセスは、特定のユーザに対応付けられたアクティビティデータを監視し、このユーザが取る特定の操作用にカスタマイズされたアラートを生成できる。
【００９８】
本開示の多くの実施形態において、アナリティクス／脅威インテリジェンス・リポジトリ・データベース３１１に含まれるユーザ・アクティビティデータを使用して通常のユーザ・アクティビティをシミュレーションするためのアルゴリズムが設計される。このシミュレーションを使用して、システムにおけるユーザの正常な行動を学習するよう、他の機械学習アルゴリズムを訓練することができる。一般に、特定のセキュリティ問題は、いつも繰り返されるわけではないかもしれない。したがって、純粋な教師ありアルゴリズムによって検出されない可能性がある。しかしながら、部外者検出などの技術は、異常なアクティビティを検出するのに有用な基準を確立する。状況に応じた脅威インテリジェンスを加えたこのような異常なアクティビティは、低い予測エラーでより正確な脅威予測を提供することができる。
【００９９】
本開示のさらに他の実施形態において、アナリティクスを使用して、セキュリティコントロールのずれを検出することができる。セキュリティコントロールのずれとは、セキュリティリスクを増加させ得る一見気まぐれなやり方で１つ以上のセキュリティコントロールが変化することを指し得る。リスクイベントは、１つ以上のクラウドアプリケーションにおける１つ以上のセキュリティコントロールの変化、または当該リスクイベントに対応付けられた実行可能なインテリジェンスに応答して生成され得る（明細書において、「セキュリティリスク」、「リスク」、「脅威」、および「セキュリティ脅威」とも称す）。脅威は、異常な、またはアプリケーションの使用に関して不適合なアクティビティ、イベント、またはセキュリティコントロールを含み得る。他の種類のイベントと同様に、テナント、テナントシステム、またはエンティティを監視しているその他にアラートが送られてもよい。たとえば、クラウドアプリケーションにおけるテナントのパスワードポリシーは、より少ない要件（たとえば、文字の種類および／または数）を課すように変更された可能性がある。これによって、リスクイベントが生成され、パスワードポリシーを元のパスワードポリシーに変更して戻すよう推奨するためのアラートが出される可能性がある。
【０１００】
上述のイベントのうちのいずれかに関するアラートは、詳細を上述したコントロール管理プラットフォームなどのユーザインタフェース上に表示され得る。アラートは、イベント識別子、日付、時間、リスクレベル、イベントカテゴリ、イベントに対応付けられたユーザーアカウントおよび／もしくはセキュリティコントロール、イベントに対応付けられたクラウドアプリケーション、イベントの説明、救済タイプ（たとえば、手動または自動）、ならびに／またはイベントのステータス（たとえば、未解決、解決済み）など、検出されたイベントについての情報を含み得るが、これらに限定されない。各リスクイベントについてのアラートに含まれる情報は、識別子（ＩＤ）、影響を受けたクラウドアプリケーションおよびインスタンス、カテゴリ、優先事項、日時、説明、推奨される救済タイプ、ならびにステータスを含み得る。また、各リスクイベントは、編集、削除、ステータスを完了にする、および／または救済操作を実行するなど、ユーザが選択可能な操作を有してもよい。救済操作の選択によって、選択された救済を実行するために、インシデント救済アプリケーション３１３および／またはクラウド・シーダー・アプリケーション３０４などのアプリケーションが呼び出されてもよい。セキュリティ監視／制御システム１０２の外部のエンティティに、アラートおよび／または特定された脅威に関する他の情報が送られ得る。
【０１０１】
本発明の多くの実施形態において、アラートは、目に見えてもよく、詳細を上述したコントロール管理プラットフォームなどのユーザーコンソールにおいて現れてもよい。いくつかの実施形態において、アラートは、電子メール、ＳＭＳ（Short Message Service）、またはテキストメッセージングによってなど、ネットワークで、またはウェブベースのユーザーコンソールで伝達される。アラートは、セキュアなメッセージ（たとえば、セキュアな通信チャネルで、または、メッセージを見るためにキーまたはログイン認証情報を必要とする）として伝達されてもよい。アラートは、より強力なセキュリティコントロールを実施する、および実行する救済操作（複数可）の選択を要求するなど、推奨されるまたは利用可能な救済操作（複数可）に関する情報を含んでもよい。
【０１０２】
本開示の実施形態に係る、アクティビティデータを取り出して分析するための具体的なプロセスを上述した。本開示の実施形態に応じて、アクティビティを取り出して分析するための各種プロセスを利用してもよい。特定された脅威の救済のためのプロセスについて、以下に説明する。
【０１０３】
ＶＩＩＩ．アプリケーションの発見および分析のためのシステム
図７および図８は、いくつかの実施形態に係る、アプリケーションのセキュリティを発見および管理するためのプロセスのブロック図を示す。図７は、セキュリティ監視／制御システム１０２がどのようにサードパーティアプリケーションを発見して、それらのアプリケーションについての、アプリケーションおよびアプリケーションのユーザの安全度合いを含む情報とともにグラフィカルインタフェースを表示することができるのかについて示す図である。
【０１０４】
図７のプロセス７００を示す。プロセス７００は、アプリの発見、およびアプリ使用に対応付けられたアプリ・リスクおよびユーザ・リスクの分析のためのプロセスである。プロセス７００は、たとえば、セキュリティ監視／制御システム１０２に登録されることによって承認されたアプリに対して実施されてもよい。プロセス７００は、ステップ７２０において、ユーザが、クライアントデバイス（たとえば、クライアントコンソール７０２）を操作して、アプリケーションについての情報を提供（たとえば、アプリケーションを登録）することで開始してもよい。クライアントデバイス７０２は、インタフェースまたはサービス（たとえば、ＲＥＳＴ（Representational State Transfer）サービス）を使用して、セキュリティ監視／制御システム１０２と通信してもよい。
【０１０５】
セキュリティ監視／制御システム１０２は、アプリケーション使用、ならびにアプリケーションの安全度合いおよびアプリケーションのユーザの安全度合いを発見するための処理を実行してもよい。ステップ７２２において、登録済みのアプリを提供するサービスプロバイダシステムからアプリイベントをダウンロードしてもよい。アプリイベントは、アクセスされたアプリについてのデータレコードの形で提供されてもよい。ステップ７２４において、アプリイベントを使用して、アクセスされたアプリ、ならびに／または登録された別のアプリケーションもしくはアプリケーションのデータにアクセスするために使用された他のサードパーティアプリを発見してもよい。ステップ７２６において、サードパーティアプリについてのイベントを、リポジトリに格納してもよい。イベント情報は、イベントについてのタイムスタンプ、ユーザ情報（たとえば、ユーザ名または電子メールＩＤ）、サードパーティアプリ名（リンク→アプリ詳細）、認可されたアプリのインスタンス名、ＩＰアドレス、および地理的情報を含んでもよい。
【０１０６】
ステップ７２８において、アクセスされたサードパーティアプリについての情報を特定するための処理を実行してもよい。アプリイベントを使用して、各アプリケーションを識別する固有の情報を特定してもよい。当該アプリケーションについての情報を使用して、セキュリティ監視／制御システム１０２は、アプリケーションのアプリケーション・リスクスコアを本明細書に開示の技術を使用して演算してもよい。いくつかの実施形態において、アプリ・リスクスコア・レジストリ７０４を維持してもよく、アプリ・リスクスコア・レジストリ７０４からアプリケーション・リスクスコアが取得されてもよい。レジストリは、維持され、アプリケーション使用についての新しい情報および／または更新された情報に基づいて自動的に更新されてもよい。アプリケーション・リスクスコアは、サードパーティアプリ・レジストリ７０６など、サードパーティソースを使用して取得したリスクスコア・フィード７４０からのアプリケーションの詳細およびリスクスコア・インジケータに基づいて演算されてもよい。アプリケーションの詳細は、サードパーティアプリケーションを提供するベンダー、またはサービスプロバイダについてのベンダー情報を含んでもよい。ベンダー情報は、ベンダー名、ベンダーロゴ、ベンダードメイン、ベンダーの説明、ベンダーカテゴリ（事業）、および／またはセキュリティ・インジケータ（たとえば、スコア、またはセキュリティスコア評価サポートデータにアクセスするためのリンク）を含んでもよい。ステップ７３０において、アプリケーションについての情報をクライアントコンソール７０２に送って、図１５に示すようなグラフィカルインタフェースに表示してもよい。
【０１０７】
ステップ７３６において、セキュリティ監視／制御システム１０２は、アプリイベントにおいて特定されたアプリのユーザについてのユーザ情報を取得できる。ステップ７３４において、ユーザ・リスクスコアを、ユーザ情報およびアプリイベントの詳細に基づいて演算してもよい。いくつかの実施形態において、ユーザ・リスクスコアは、ユーザのアプリケーション使用についてのデータソース維持情報から取得された情報に基づいて演算してもよい。ユーザ・リスクスコアおよびアプリイベントの詳細を含むユーザについての情報は、クライアントコンソール７０２に送られてもよい。ステップ７３２において、クライアントコンソール７０２は、ユーザ・リスクスコアおよびアプリイベントの詳細を含むユーザについての情報を、グラフィカルインタフェースに表示してもよい。プロセスは、ステップ７３０および／またはステップ７３２で終了してもよい。
【０１０８】
図８のプロセス８００を示す。プロセス８００は、アプリの発見、およびアプリ使用に対応付けられたアプリ・リスクおよびユーザ・リスクの分析のためのプロセスである。プロセス８００は、ログデータの分析に基づいてアプリを発見するように実装されてもよい。ログデータは、異なるアプリケーションおよびネットワーク・アクティビティについてのログ情報を収集できる、セキュリティ監視／制御システム１０２の１つ以上のエージェントから取得されてもよい。
【０１０９】
図８のプロセス８００は、ステップ８２０において、ユーザが、クライアントデバイス（たとえば、クライアントコンソール８０２）を操作し、情報を指定してログファイルを特定することによって開始する。たとえば、ユーザは、ログファイルおよび／または情報アクセスログファイルのソースを提供してもよい。ログファイルは、ステップ８２０において取り入れられてもよい。クライアントデバイス８０２は、インタフェースまたはサービス（たとえば、ＲＥＳＴ（Representational State Transfer）サービス）を使用して、セキュリティ監視／制御システム１０２と通信してもよい。
【０１１０】
セキュリティ監視／制御システム１０２は、アプリケーション使用、ならびにアプリケーションの安全度合いおよびアプリケーションのユーザの安全度合いを発見するための処理を実行してもよい。ステップ８２２において、ステージングプロセスによってログを取得してもよい。ステップ８２４において、ログを処理し、固有のネットワーク・アクティビティを特定するための構文解析にかけてもよい。ステップ８２６において、ネットワーク・アクティビティを分析し、サードパーティアプリを発見してもよい。ログを処理するさまざまな段階のすべてにわたって、ステップ８３０におけるログ処理のステータスを表示するためのクライアントコンソール８０２に、セキュリティ監視／制御システム１０２によって情報が通信されてもよい。
【０１１１】
ステップ８２６において、ログを使用して、各アプリケーションを識別する固有の情報を特定してもよい。アプリケーション使用についてのイベントの詳細は、このログに基づいて特定されてもよい。イベントの詳細は、タイムスタンプ、サードパーティアプリ名（リンク→アプリ詳細）、ＩＰアドレス、地理的位置、ユーザ情報（たとえば、ユーザ名または電子メールＩＤ）、および／またはアプリケーションを要求する送信元デバイスのアドレス（たとえば、ＭＡＣアドレス）を含んでもよい。ステップ８４０において、アプリケーションについての情報を使用して、セキュリティ監視／制御システム１０２は、発見される各アプリについての情報を決定してもよい。この情報は、アプリについての詳細、および本明細書に開示の技術を使用するアプリケーション・リスクスコアを含んでもよい。
【０１１２】
いくつかの実施形態において、アプリ・リスクスコア・レジストリ８０４を維持してもよく、アプリ・リスクスコア・レジストリ８０４からアプリケーション・リスクスコアが取得されてもよい。レジストリは、維持され、アプリケーション使用についての新しい情報および／または更新された情報に基づいて自動的に更新されてもよい。アプリケーション・リスクスコアは、サードパーティアプリ・レジストリ８０６など、サードパーティソースを使用して取得したリスクスコア・フィード８４６からのアプリケーションの詳細およびリスクスコア・インジケータに基づいて演算されてもよい。アプリケーションの詳細は、サードパーティアプリケーションを提供するベンダー、またはサービスプロバイダについてのベンダー情報を含んでもよい。ベンダー情報は、ベンダー名、ベンダーロゴ、ベンダードメイン、ベンダーの説明、ベンダーカテゴリ（事業）、および／またはセキュリティ・インジケータ（たとえば、スコア、またはセキュリティスコア評価サポートデータにアクセスするためのリンク）を含んでもよい。ステップ８３２において、アプリケーションについての情報をクライアントコンソール８０２に送って、図１５に示すようなグラフィカルインタフェースに表示（たとえば、アプリケーションの使用についてのログ発見レポート）してもよい。
【０１１３】
ステップ８４４において、セキュリティ監視／制御システム１０２は、アプリイベントにおいて特定されたアプリのユーザについてのユーザ情報を取得できる。ステップ８４２において、ユーザ・リスクスコアを、ユーザ情報およびアプリイベントの詳細に基づいて演算してもよい。いくつかの実施形態において、ユーザ・リスクスコアは、ユーザのアプリケーション使用についてのデータソース維持情報から取得された情報に基づいて演算してもよい。ユーザ・リスクスコアおよびアプリイベントの詳細を含むユーザについての情報は、クライアントコンソール８０２に送られてもよい。ステップ８３４において、クライアントコンソール８０２は、ユーザ・リスクスコアおよびアプリイベントの詳細を含むユーザについての情報を、グラフィカルインタフェースに表示してもよい。プロセスは、ステップ８３２および／またはステップ８３４で終了してもよい。
【０１１４】
ＩＸ．アプリケーションの安全度合いの演算
図９は、いくつかの実施形態に係る、アプリケーションの安全度合いを演算するためのプロセスのシーケンスフロー図９００である。このプロセスは、セキュリティ監視／制御システム１０２によって実施されてもよい。
【０１１５】
安全度合いは、１つ以上のサードパーティソース、１人以上のユーザ、セキュリティ制御／管理システム１０２によって管理および取りまとめられたソース、またはそれらの組合せによって提供される情報に基づいて演算されてもよい。安全度合いは、アプリケーションおよびアプリケーションのプロバイダについての情報（「組織情報）、ならびに／またはアプリケーションのセキュリティについての情報（「セキュリティ情報」）に基づいてもよい。安全度合いは、アプリケーションのセキュリティリスクの度合いを定義する尺度における値（明細書において、「アプリケーション・リスクスコア」とも称す）であってもよい。たとえば、尺度は、１〜５の間と定義され得、より高い値は、より大きなリスクを表す。他の実施形態において、特定の評価に応じてさまざまな範囲および値が利用されてもよい。スコアは、アラートを提供する、レポートを提供する、および／または救済措置を講ずるために、セキュリティ監視／制御システム１０２によって利用され得る。安全度合いは、アプリケーションによってもたらされたセキュリティ脅威をユーザ（たとえば、セキュリティ管理者）が軽減する際の助けとなる優先順位インジケータの役割をする値である。いくつかの実施形態において、安全度合いは、いくつかの方法で演算されてもよい。
【０１１６】
安全度合いを演算するための１つの手法は、特定のアプリケーションによって組織にもたらされたセキュリティ脅威の重大度に関する安全度合いを示すリスクスコアを演算することを伴ってもよい。リスクスコアは、１つ以上のインジケータ（明細書において、「脅威インジケータ」または「セキュリティ・インジケータ」とも称す）に基づいて演算されてもよい。各インジケータは、セキュリティリスクを示す値または情報であってもよい。たとえば、図９において、１つ以上のデータソース９０２（明細書において、「リスクスコア・フィード」とも称す）から、固有のセキュリティ・インジケータが取得されてもよい。ここで、データソース（「Ｓ」）（本明細書において、まとめて、データソース「Ｓ１、Ｓ２、…Ｓｎ」９０２と称す）の各々は、アプリケーションの１つ以上のインジケータの「フィード」を提供する。各固有のインジケータ（「Ｉ」）（本明細書において、まとめて、インジケータ「Ｉ１、Ｉ２、…、Ｉｎ」９０４と称する）は、データソース９０２の各々によってそれぞれ提供されてもよい。インジケータは、セキュリティ情報、組織情報、またはその両方に基づく、特定の種類のインジケータであってもよい。インジケータは、アプリケーションによってもたらされるセキュリティ脅威の表示を提供する値であってもよい。たとえば、第１インジケータは、アプリケーションによる第１のセキュリティ脅威を示す第１の値であってもよい。第２インジケータは、アプリケーションによる第２のセキュリティ脅威を示す第２の値であってもよい。第１インジケータは、第１のデータソースから取得されてもよく、第２インジケータは、第２のデータソースから取得されてもよい。第１のデータソースは、図２のデータソース２８０のうちの１つであってもよい。第２のデータソースは、第１のデータソースと同じであってもよく、データソース２８０のうちの別のものであってもよい。
【０１１７】
セキュリティ脅威インジケータの１つの種類は、オープンソース（たとえば、abuse.ch）または市販のソース（たとえば、www.SecurityScoreCard.com）など、１つ以上のサードパーティソースによって提供され得るセキュリティ脅威インジケータである。セキュリティ脅威インジケータは、弱い暗号化アルゴリズムを用いたセキュアでないネットワーク設定などのアプリケーションのセキュリティ体制、ベンダーの組織において使用される旧型デバイスなどのエンドポイントセキュリティ、ベンダーのネットワークにおけるマルウェアなどのＩＰアドレスの評判、ハッカーネットワークにおけるアプリについてのディスカッションなどのハッカーチャター（chatter）、ベンダーから世間に露出されたセンシティブ情報などの漏えい情報、ウェブサイト脆弱性などのアプリケーションセキュリティ、およびアプリウェブサイトのなりすましにつながる可能性のある間違った設定などのＤＮＳ設定など、セキュリティ情報に基づいてもよいが、これらに限定されない。
【０１１８】
別の種類のセキュリティ・インジケータは、オープンソース（たとえば、Wikipedia.com）または市販のソース（たとえば、Clearbit.com）など、１つ以上のサードパーティソースによって提供される、組織ベースのインジケータであってもよい。組織ベースのインジケータは、これらに限定されないが、業態、国などの地理的情報を含むベンダーの物理アドレス、事業を経営している期間、アプリのインターネットドメイン登録年齢、Ａｌｅｘａドメインランキングなどのウェブサイトランキングリストによるアプリの人気など、組織情報、またはそれらの組み合わせに基づいてもよい。
【０１１９】
各脅威インジケータは、ソースによってそのインジケータに対して定義された尺度に応じてセキュリティリスクの度合いまたは脅威を示す値である、セキュリティリスクスコアを表してもよい。いくつかの実施形態において、脅威インジケータを尺度と比較して、セキュリティリスクスコアを決定してもよい。尺度は、ソースによって提供された情報によって定義されてもよく、またはこの情報に基づいて定義されてもよい。
【０１２０】
セキュリティ監視／制御システム１０２は、１つ以上の脅威インジケータに基づいて、安全度合いを値またはスコアとして演算してもよい。つまり、安全度合いは、組み合わされたセキュリティリスクの度合いとして演算されてもよい。すべてのインジケータに対して使用される尺度（たとえば、０〜１００までの値の尺度）に応じて、各インジケータを処理してインジケータの値を調整値に調整（たとえば、正規化）してもよい。インジケータごとの値は、正規化されると、組合せスコアを決定するために組合わされてもよい。
【０１２１】
リスクの度合いを示す組合せセキュリティスコア９０８は、インジケータのすべてまたは一部に基づいてもよい。組合せセキュリティスコアを決定するために考慮されるインジケータの数および／または種類は、設定可能であってもよい。このように、セキュリティ監視／制御システム１０２は、インジケータが取得されるソース９０２を追加または削除するように構成されてもよく、ソース９０２から取得されたインジケータ９０４を追加または削除するように構成されてもよい。いくつかの実施形態において、スコアのために考慮されるインジケータの数および種類をユーザが設定することを可能にするグラフィカルインタフェースが提示されてもよい。いくつかの実施形態において、組合せスコアは、スコアが演算される条件を定義するセキュリティポリシーに基づいてもよい。この条件は、セキュリティの１つ以上の属性に基づいてもよい。この属性を使用して、スコアのために考慮するインジケータが選択されてもよい。
【０１２２】
いくつかの実施形態において、組合せスコア９０８は、インジケータごとの重み値を使用するインジケータの組合せに基づいてもよい。たとえば、重み（「Ｗ」）（本明細書において、まとめて、重み「Ｗ１、Ｗ２、…、Ｗｎ」９０４と称する）が選択されて、組合せスコア９０８を演算するための１つ以上の特定のインジケータに適用されてもよい。重みは、整数である１、または１の何分の１かの値であってもよい。異なるインジケータに異なる重みが選択されてもよい。上記例において、第１の重みは、第１インジケータの第１の重み値であってもよく、第２の重みは、第２インジケータの第２の重み値であってもよい。これらの重み値は、それぞれ異なってもよい。
【０１２３】
重みは、グラフィカルインタフェースを通して、ユーザによって設定されてもよい。いくつかの実施形態において、重みは、特定の重みを与えられた特定のインジケータに基づいて定義されたセキュリティポリシーに基づいて選択されてもよい。セキュリティリスクについてのインジケータの重要度または示唆が大きいほど、重みに対して大きな値を考慮してもよい。セキュリティリスクについてインジケータの重要度または示唆が小さいほど、重みに対して小さな値を考慮してもよい。いくつかの実施形態において、１つの特定のソースからのすべてのインジケータに、１つの重みが選ばれてもよい。たとえば、１つのソースからのすべてのインジケータには、そのソースの信頼度または信用に基づいて１つの重みが適用されてもよい。いくつかの実施形態において、セキュリティ監視／制御システム１０２は、アプリケーションの脅威の研究分析についてのデータを格納してもよい。このようなデータを使用して、インジケータごとの重みが選択的に選ばれてもよい。
【０１２４】
組合せスコアは、インジケータおよびインジケータの重みを考慮して演算されてもよい。少なくとも１つの実施形態において、組合せスコアは、組合せスコア＝（Ｉ１（Ｗ１）＋Ｉ２（Ｗ２）＋…Ｉｎ（Ｗｎ））／（Ｗ１＋Ｗ２＋…Ｗｎ）を得るための式９０８を使用して演算されてもよい。この式において、各インジケータ（「Ｉ」）９０４をそれぞれの重み（「Ｗ」）９０６で乗算することによって、インジケータごとの値が演算される。インジケータごとに演算された値の総和（Ｉ１（Ｗ１）＋Ｉ２（Ｗ２）＋…Ｉｎ（Ｗｎ））である第１の値が演算される。第１の値を求めるために当てはめられる各重み値の総和である第２の値が演算される。組合せスコア９０８は、第１の値を第２の値で除算することに基づいて演算されてもよい。
【０１２５】
前から続く例において、第１インジケータの第１の値に第１の重み値を乗算することに基づいて、第１の重み付き値が演算されてもよい。第２インジケータの第２の値に第２の重み値を乗算することに基づいて、第２の重み付き値が演算されてもよい。第１の重み付き値と第２の重み付き値との総和に基づいて、重み付き総和の値が演算されてもよい。第１の重み値と第２の重み値との総和に基づいて、重み総和の値が演算されてもよい。安全度合いは、重み付き総和を重み総和で除することによって基づく値として演算されてもよい。
【０１２６】
いくつかの実施形態において、セキュリティ監視／制御システム１０２は、組合せスコア９０８の妥当性および正確さについてのフィードバック９１０を、１人以上のユーザから取得してもよい。フィードバック９１０は、ネットワークを通じて取得され、グラフィカルインタフェースまたは手動フィードバックを通じて容易にされてもよい。ソース、インジケータ、および／または重みのうちのいずれかは、フィードバック９１０に基づいて調整されてもよい。フィードバック９１０に基づいて、組合せスコア９０８は調整されてもよい。新しい組合せスコア９１２（「調整スコア」）は、フィードバック９１０に基づいて選択されたインジケータおよび／または重みに基づいて演算され得ること以外は、調整スコア９１２は、組合せスコア９０８が演算された方法と同じ方法で演算されてもよい。組合せスコア９０８を演算するために使用されたものに対して、ソース、インジケータ、および／または重みが追加または削除されてもよい。インジケータの重み値を周期的に改正して、我々のセキュリティアナリストおよび顧客フィードバックに基づくリスクスコアを改善することができる。インジケータの重みの改正プロセスは、決定木およびニューラルネットワークなど、自動機械学習アルゴリズムによって実行することができる。
【０１２７】
特定のセキュリティ脅威についての各インジケータおよび／または組合せスコアに基づいて、回帰分析９１４が行われてもよい。回帰分析は、線形回帰モデルを作成することおよび更新することを含んでもよい。線形回帰モデルは、Ｓ＝ｃ１（Ｉ１）＋ｃ２（Ｉ２）＋…＋ｃｎ（Ｉｎ）などの出力を行ってもよい。回帰モデルによって演算される係数ｃｉは、組合せスコア９０８を演算するための初期の重みを置き換える新しい重みまたは修正された重みであり得る。フィードバックおよびデータが多く収集されるほど、このモデルは、より正確になる。
【０１２８】
以下は、セキュリティ監視／制御システム１０２が、安全度合いを決定するために、abuse.ch（Ｓ１）のようなオープンソースサービスおよびsecurityscorecard.io（Ｓ２）のような市販のサービスからの脅威インテリジェンスを使用できる例示的なシナリオ説明する。この例において、２つのソースであるＳ１およびＳ２が使用されている。ソースＳ１は、ドメイン評判サービスを提供する。ドメイン評判サービスは、マルウェア、スパムボットなどをホストするためにドメインが使用されているかどうかについての情報を提供する。ドメインの評判は、Ｓ１のインジケータＩ１１になる。ソースＳ２は、アプリケーションセキュリティ（Ｉ２１）についての情報、たとえば、ドメインにおいてホストされるアプリにセキュリティ脆弱性があるかどうかについての情報、および、ネットワークセキュリティ（Ｉ２２）についての情報、たとえば、弱い暗号化アルゴリズムが使用されているという情報を提供する。アプリケーションセキュリティは、Ｓ２のインジケータＩ２１になり、ネットワークセキュリティは、Ｓ２のインジケータＩ２２になる。
【０１２９】
このシナリオでは、データの品質およびデータソースの信頼度に応じて、ソースごとに、初期の重み値が割り当てられてもよい。たとえば、Ｓ１によって報告された問題は、重み４０％であるｗ１１を有し得る。Ｓ１に対して１つのインジケータＩ１１があるため、このインジケータが重み４０％のすべてを受ける。このソースＳ２は、２つのインジケータを有する。２つのインジケータは、ソースに割り当てられた重み値を共有できる。わかりやすくするために、Ｉ２１およびＩ２２が同じ重みを共有する、つまり、ｗ２１およびｗ２２の各々が３０％になると想定する。本明細書に開示の技術を使用して、組合せスコア９０８は、次のように演算されてもよい。（（Ｉ１１×ｗ１１）＋（Ｉ２１×ｗ２１）＋（Ｉ２２×ｗ２２））／（ｗ１１＋ｗ２１＋ｗ２２）。重みを挿入することによって、組合せスコア＝（（Ｉ１１×０．４）＋（Ｉ２１×０．３）＋（Ｉ２２×０．３））／（０．４＋０．３＋０．３）と反映される。この例において、脅威インテリジェンスソースインジケータは、Ｉ１１＝６５、Ｉ２１＝９１、およびＩ２２＝９０と評価され、ドメインのリスクスコアは、８０（端数切り捨て）となる。別のシナリオにおいて、ドメインが正当なものであり、ドメインの評判について問題がないことを顧客が確認した場合、Ｉ１１は、０になる。そのため、この顧客についてのドメインリスクスコアは、５４（端数切り捨て）に下げられる。さらに別のシナリオにおいて、顧客が、すべての報告された問題をベンダーが解消したことを確認したので、アプリケーションをホワイトリストに入れたい場合、Ｉ１１およびＩ２１は、０となる。そのため、顧客についてのドメインリスクスコアは、０となり、顧客にとって、このアプリからのリスクがないことを示す。組合せスコアを顧客が引き続き調整していくと、回帰モデルは、重みとリスクスコアとの関係を周期的に学習し、重み値を適宜調整できるようになる。
【０１３０】
Ｘ．アプリケーションのセキュリティを検出および分析するためのプロセス
図１０は、実施形態に係る、アプリケーションのリスクを発見および管理するためのプロセスのフローチャートを示す図である。多くの実施形態において、後述するこのプロセスの１つ以上の機能は、図１のセキュリティ監視／制御システム１０２によって実行することができる。
【０１３１】
フローチャート１０００は、ステップ１００２において、組織の１人以上のユーザがアクセスしたアプリケーションについての情報を収集することで開始してもよい。この情報は、本明細書に開示の技術を使用して、１つ以上のデータソースから収集されてもよい。データソースは、ルータ、ネットワークファイヤーウォール、アプリケーションファイヤーウォール、クラウドアプリケーション、クラウドアプリケーションモバイルデバイス管理（ＭＤＭ）サーバ、およびクラウドアプリ使用追跡サーバを含み得るが、これらに限定されない。いくつかの実施形態において、この情報は、「プル」型機構を使用して情報を要求することによって、データソースから取り出されてもよい。他の実施形態において、この情報は、「プッシュ」型機構による要求なしで、データソースによって提供されてもよい。この情報は、組織の環境内のネットワークトラフィックのデータから監視されてもよい。この環境は、ファイヤーウォールなど、１つ以上のネットワークセキュリティ機能を有して構成される環境など、セキュアなネットワーク環境であってもよい。
【０１３２】
さまざまな実施形態において、データソースから転送された情報は、各種のフォーマットであってもよい。いくつかのデータソースとは、指定のアプリケーションプログラミング・インタフェース（ＡＰＩ）を介してやり取りが行われてもよい。他のデータソースがこの情報をデータベース・テーブルまたはログファイルに格納してもよい。
【０１３３】
ルータおよびネットワークファイヤーウォールから取り出された情報は、訪問されたウェブサイトまたはユーザのデバイスによって行われた他の接続についての情報を含み得る。この情報は、送信元ＩＰおよび宛先ＩＰ、プロトコル、サービス（たとえば、ＨＴＴＰでは、４４３）、ＨＴＴＰ要求内のクエリ文字列、ならびに／または製品（たとえば、ネットワークに接続するためにユーザが使用しているプラットフォームのインスタンス名）を含み得るが、これらに限定されない。ＩＰアドレスを使用して、地理的位置の逆引きおよび／またはＩＰアドレスの評判の評価を行うことができる。いくつかの実施形態において、ＤＰＩ（Deep Packet Inspection）を利用して、ユーザ名および他の埋め込みデータなど、ネットワークトラフィック内の追加の情報にアクセスする。多くの場合、ユーザデバイスは、仮想プライベートネットワーク（ＶＰＮ）を利用してエンタープライズネットワークに接続するため、トラフィックは、エンタープライズネットワークを通過し、ネットワーク内でルータまたはファイヤーウォールによって捕えられ得る。
【０１３４】
特定の実施形態において、サードパーティおよび／またはこのアプリケーションもしくはこのアプリケーションを提供する別のアプリケーションからのログ情報から、アプリケーションに関する情報を取得してもよい。たとえば、承認されたアプリケーションによって提供されるデータログから、承認されたアプリケーションへのプラグインアプリケーションに関する情報を取り出してもよい。別の例において、組織に知られているクラウドサービスプロバイダによって提供されるアプリケーションなど、リードジェネレーションアプリケーション（たとえば、組織に知られていないサードパーティアプリケーション）がアプリケーションとともに利用されてもよい。サードパーティアプリケーション情報は、アクセスした時間、ユーザ名、ログインＵＲＬ、アプリケーション名、アプリケーション送信元ＩＰ、および／またはログイン時間を含み得るが、これらに限定されない。これに加えて、ＵＲＬまたはＩＰアドレスの逆引きなど、本明細書に開示の技術を使用して、補足情報を生成できる。いくつかの実施形態において、この情報は、アプリケーションを提供したサービスプロバイダのインタフェース（たとえば、アプリケーションプログラミング・インタフェース）を通して取得してもよい。
【０１３５】
いくつかの実施形態において、サーバは、アプリの使用に関する情報を管理および格納できる。このような情報は、サーバから取り出すことができる。一例において、組織におけるユーザによるクラウドアプリの使用に関する情報は、追跡サーバが格納できる。モバイル機器（スマートフォンまたはタブレットなど）上のアプリおよび他のソフトウェアの管理は、モバイルデバイス管理（ＭＤＭ）用のサーバが運用できる。たとえば、ソフトウェアからなるＧｏｏｇｌｅ  Ａｐｐｓ  ｓｕｉｔｅを、サブスクリプション方式で顧客に提供することができる。Ｍｉｃｒｏｓｏｆｔサーバは、企業全体のデバイスにインストールされたＭｉｃｒｏｓｏｆｔ製品を管理してもよい。Ｗｉｎｄｏｗｓ（登録商標）１０のアプリは、Ｗｉｎｄｏｗｓ（登録商標）のシステム管理者によって管理されてもよい。さらに他のクロスプラットフォームソフトウェア管理システムが、企業において利用されてもよい。
【０１３６】
ステップ１００４において、ステップ１００２で取得した情報を使用して、アプリケーションがセキュリティリスクに対応付けられているかどうかを決定してもよい。セキュリティリスクを使用して、このアプリケーションが、組織のユーザによって使用されるための承認がされているか、または認可がされていないかを決定してもよい。たとえば、アプリケーションについての情報を使用して、このアプリケーションの使用が組織によって認可されたかどうかを判定してもよい。図９および図１１に開示の相関分析技術など、相関分析技術を使用して情報を処理してもよい。アプリケーションについての情報は、セキュリティ監視／制御システム１０２、サードパーティデータソース、およびステップ１００２で取得した情報の処理を含む、１つ以上のソースから取得されてもよい。この情報は、アプリケーションを提供する組織についての組織情報を含んでもよい。情報は、アプリケーションに関する安全についてのセキュリティ情報を含んでもよい。セキュリティ情報は、アプリケーションの安全度合い、または、アプリケーションの安全についてのインジケータまたはセキュリティ面に関するスコアを含んでもよい。いくつかの実施形態において、この情報は、アプリケーションのプロバイダから直接取得されてもよい。
【０１３７】
ステップ１００６において、評価されているアプリケーションの１つ以上の特徴（たとえば、セキュリティ・インジケータ）を決定してもよい。特徴は、以下を含み得るが、これらに限定されない。アプリケーションがスタンドアロンまたは認可されたアプリケーションの拡張もしくはプラグインであるかどうか、拡張もしくはプラグインアプリケーションが、認可されたアプリケーションからアクセスするデータセットがどれであるか（たとえば、販売データ対製品コード）、アプリケーションの種類もしくはカテゴリ（たとえば、ビジネスコンテンツ対ソーシャルネットワーキング）、アプリケーションに対応付けられたドメイン名の年齢もしくは登録場所、サードパーティの評判もしくはランキングサービスによって提供される、アプリケーションに対応付けられたインターネットドメインのドメインの評判および／もしくはインターネットサイトランキング（たとえば、Ａｌｅｘａ、Ｇｏｏｇｌｅランクもしくはランキング要因、株式時価総額、上場株式会社対非公開会社など）、ならびに／またはスパムＥメールなどの問題を示す、アプリケーションに対応付けられたウェブサイトのＩＰアドレスの評判もしくはマルウェア関連の問題の履歴（たとえば、サードパーティ・サービスによって提供される）。
【０１３８】
特徴は、他のソースから取り出された情報を使用して決定することができる。この決定には、アプリケーションが組織にもたらす可能性があるというセキュリティリスクを評価するために決定された特徴の各々に、数値（たとえば、重み）を割り当てることによる量子化が伴う。
【０１３９】
いくつかの実施形態において、追加の特徴が、承認されたアプリケーションまたはセキュアなアプリケーションと統合するアプリケーションに関係してもよい。たとえば、Ｓａｌｅｓｆｏｒｃｅ、Ｇｏｏｇｌｅ  Ａｐｐｓなど、人気の認可されたアプリケーションとサードパーティアプリケーションが統合する場合、認可されたアプリケーションのベンダーは、データへのアクセス方法についてのガイドラインを提供する。このアクセスのせいで、認可されたアプリケーションは、リスクが高いと理解されてしまう可能性があり、その全体的なリスクスコアが増加する。たとえば、サードパーティアプリケーションは、アクセスされたデータを安全に管理およびパージしない可能性があり、または、サードパーティアプリケーションの潜在的なセキュリティ脆弱性が、承認されていないデータの漏えいのソースである可能性があり、これは、認可されたアプリケーションの管理を超えている。サードパーティアプリケーションに与えられたアクセス権の安全、および認可または承認されたアプリケーションへのサードパーティアプリケーションのインタフェースの安全に関連する要因についての特徴が決定されてもよい。
【０１４０】
ステップ１００８において、決定された特徴に基づいて、１つ以上のアプリケーションの各々のセキュリティスコアまたは安全度合いを決定してもよい。スコアおよび特徴は、アプリレジストリなど、データベースに格納されてもよい。スコアは、図９を例にした技術など、本明細書に開示の技術を使用して決定されてもよい。
【０１４１】
セキュリティスコアは、セキュリティリスクの度合いを定義する尺度における値であってもよい。たとえば、尺度は、１〜５の間と定義され得、より高い値は、より大きなリスクを表す。他の実施形態において、特定の評価に応じてさまざまな範囲および値が利用されてもよい。スコアは、アラートを提供する、レポートを提供する、および／または救済措置を講ずるために、セキュリティ監視／制御システム１０２によって利用され得る。これに加えて、セキュリティ監視／制御システム１０２は、アプリケーションのセキュリティについてのスコアおよび他の情報を、よりセキュアな（たとえば、許可、承認、または認可された）アプリケーションに関する情報と組み合わせて利用して、セキュリティ評価を行い、脅威レベルを決定してもよい。
【０１４２】
フローチャート１０００は、ステップ１０１０で終了してもよい。
図１１は、実施形態に係る、アプリケーションのリスクを発見および管理するためのプロセスのフローチャート１１００を示す図である。多くの実施形態において、後述するプロセスの１つ以上の機能は、図１のセキュリティ監視／制御システム１０２によって実行することができる。フローチャート１１００は、図１０に示すプロセスの特定の実施形態を説明する。
【０１４３】
フローチャート１１００は、ステップ１１０２において、ユーザのネットワーク・アクティビティについての情報を取得することで開始してもよい。この情報は、図８を参照して開示された技術を含む、ネットワーク・アクティビティを監視するための技術を使用して取得されたデータから取得されてもよい。ネットワーク・アクティビティについてのデータは、ネットワーク機器からのデータ（たとえば、ログデータまたはレコードデータ）を監視および／または取得することによって取得されてもよい。組織がアプリケーション使用を監視するために、組織は、その内部の、または保護されたネットワーク（たとえば、イントラネット）のネットワーク・アクティビティを監視してもよい。ネットワーク・アクティビティは、組織のネットワーク内外のネットワークトラフィックのネットワークリソース（たとえば、ネットワーク機器）から情報を取得することによって監視されてもよい。
【０１４４】
いくつかの実施形態において、ネットワーク・アクティビティについてのデータは、複数のデータソースから収集されてもよい。ログファイルが、セキュリティ監視／制御システム１０２によって取得されて採集および処理され、アプリケーション使用など、ネットワーク・アクティビティについての情報を特定してもよい。ログファイルは、図８に開示の技術を使用して取得されてもよい。アプリケーションイベントについてのデータが、図７に開示の技術を使用して、１つ以上のソースから取得されてもよい。いくつかの実施形態において、特定のサービスおよびアプリケーション使用など、ネットワーク・アクティビティについての情報は、アプリケーションのサービスプロバイダなど、１つ以上のサードパーティソースから取得されてもよい。セキュリティ監視／制御システム１０２は、サービスプロバイダのインタフェースを利用して、１人以上のユーザに関するアクティビティについてのログ情報を取得してもよい。
【０１４５】
この情報は、複数の異なるフォーマットで複数のソースから取得されてもよい。この情報を含んだデータは、処理されて、アプリケーション使用を判定する処理のためのフォーマットに整えられる（たとえば、正規化される）。このデータは、ネットワーク・アクティビティの固有のインスタンスを特定するために、重複排除処理されてもよい。
【０１４６】
ステップ１１０４において、取得したネットワーク・アクティビティについての情報を使用して、アクセスされた１つ以上のアプリケーションを特定する。取得されたネットワーク・アクティビティについての情報は、ネットワーク・アクティビティについてのデータから取得されてもよい。データは、ネットワーク上の通信についてのものであってもよい。さらに、このデータは、組織のネットワーク上のテナントとしての複数のユーザによるネットワークについてのデータである。ネットワーク・アクティビティについてのデータを取得することは、ネットワーク上の１つ以上のネットワーク機器からネットワークデータを取得することを含んでもよい。ネットワークデータは、本明細書に開示の技術によってコンピューティング環境において実装された１つ以上のエージェントおよび／またはログマネージャから取得されてもよい。ネットワークデータは、セキュリティ監視／制御システムのログコレクターから取得されてもよい。ネットワークは、組織のコンピューティング環境において保護されてもよく、その結果、コンピューティング環境は、パブリックネットワークから守られる。
【０１４７】
アプリケーションにアクセスすることは、アプリケーションのデータが、異なるアプリケーションによってアクセスされることを許可することを含んでもよい。たとえば、アプリケーションのデータは、このアプリケーションのサービスプロバイダからユーザのデータにアクセスする同意がユーザによって与えられたサードパーティアプリケーションによってアクセスされてもよい。アプリケーションは、ユーザがアプリケーションにアクセスした組織によって承認（たとえば、認可）されていてもよく、承認（たとえば、無認可）されていなくてもよい。情報は、使用されるアプリケーションのデータを含んでもよい。データは、アクセスされているアプリケーションのアプリケーション名またはこのアプリケーションへのリンクであってもよい。アプリケーションについての情報を使用して、サードパーティソース（たとえば、このアプリケーションのプロバイダ）から情報を取り出してもよい。情報は、プロバイダのサービスプロバイダシステムから取得されたアクティビティデータに含まれてもよい。各固有のアプリケーションを特定して、ユーザがアクセスしたアプリケーションを特定してもよい。いくつかの実施形態において、いくつかのアプリケーションは、同じ種類または同じ種類部類であってもよいが、アクセス用の異なるインスタンスおよび／または異なるアカウントに対応してもよい。各固有のアプリケーションは、評価される１つ以上の特徴についてのセキュリティ脆弱性をもたらす可能性があるので、各アプリケーションは、分析にかけられるよう決定されてもよい。各固有のアプリケーションに対応するデータは、さらなる処理のために、アプリケーションと対応付けて格納されてもよい。
【０１４８】
ステップ１１０６において、アクセスされた１つ以上のアプリケーションの各々のアクセス情報を特定する。アクセス情報は、ステップ１１０２で取得した情報を使用して特定されてもよい。アプリケーションは、データを処理して、ユーザがアクセスしたアプリケーションの要求に対応するデータの部分を識別することによって特定されてもよい。このデータ部分は、アプリケーション要求についてのアプリケーション情報を示してもよく、アプリケーション情報は、アプリケーションがユーザによってアクセスされたと特定するために使用される。このデータは、ＩＰアドレス、送信元識別子、アプリケーションへのリンクなど、要求についての情報、または要求の送信元もしくはアプリケーションが位置する宛先に関する他の情報を含んでもよい。アクセス情報は、各アプリケーションに対応するデータから特定されてもよい。アプリケーションに対応するネットワーク・アクティビティについてのアクセス情報は、このデータ部分を使用して特定されてもよい。アクセス情報は、アプリケーションにアクセスするために使用される情報、または、アプリケーションへのアクセスに関する情報を含んでもよい。アクセス情報は、各固有のアプリケーションに対応するデータから取得されてもよい。各アプリケーションについての情報を使用して、各アプリケーションについてのユーザのアクセス情報が特定され得る。アクセス情報は、アプリケーションを要求している送信元（たとえば、送信元デバイス）および要求が送られる宛先についての情報を含む、アプリケーションにアクセスするための要求についてのネットワーク情報を含んでもよい。アクセス情報は、ネットワーク・アクティビティのタイムスタンプ、アプリケーション情報（たとえば、アプリケーション名、アプリケーションにアクセスする送信元の位置、および／またはアプリケーションについての詳細）、送信元のＩＰアドレス、宛先のＩＰアドレス、送信元についての地理的情報、ユーザ情報（たとえば、ユーザＩＤまたは電子メールＩＤ）、およびＭＡＣ（Media Access Control）アドレスを含んでもよいが、これらに制限されない。アプリケーションの送信元の位置は、ＵＲＬなどのリンク、またはＵＲＩであり得る。ステップ１１０２で取得した情報を処理して、ステップ１１０４で特定された各固有のアプリケーションに関するネットワーク・アクティビティを特定することができる。
【０１４９】
ステップ１１０８において、アプリケーションの各々を提供するプロバイダシステムのドメインについてのドメイン情報を、アクセス情報に基づいて特定する。ドメイン情報は、図７および図８を参照して開示された技術を使用して特定してもよい。アプリケーションのドメインは、プロバイダおよびアプリケーションを提供するプロバイダのシステムについての情報（たとえば、ホストシステム情報）を含んでもよい。たとえば、ドメイン情報は、ドメイン名、ＩＰアドレス、システム情報、またはプロバイダのシステムにおけるドメインのホストシステムについての他の情報を含んでもよい。
【０１５０】
ドメイン情報は、アクセス情報のすべてまたは一部を使用して、１つ以上のデータソースのクエリによって特定してもよい。セキュリティ監視／制御システム１０２は、アプリケーションおよびアプリケーションのプロバイダについての情報のデータストアを維持してもよい。いくつかの実施形態において、サードパーティデータソースを使用して、アプリケーションのドメインについての情報を探索またはクエリしてもよい。１つのサードパーティデータソースは、サードパーティによって管理されるデータベースであってもよく、その結果、このデータベースは、ドメインについての情報およびアプリケーションの１つ以上のプロバイダについてのシステム情報を格納する。別のサードパーティデータソースは、ＤＮＳ（Domain Name System）ソースまたは、ドメインまたはドメインのエンティティ（たとえば、プロバイダ）についての情報を格納する他のソースであってもよい。アクセス情報に基づいて、ドメインについての情報を求めてサードパーティデータソースがクエリされてもよい。たとえば、ＮＳｌｏｏｋｕｐコマンドを発行して、アクセス情報に含まれるＩＰアドレスのドメインを特定してもよい。
【０１５１】
いくつかの実施形態において、アプリケーションのプロバイダのシステムに要求を送って、ドメイン情報を取得してもよい。アクセス情報に基づいて、要求が生成されて、アプリケーションを提供しているシステムに対して設定されてもよい。要求は、アクセス情報が示すアプリケーションのソースの位置に基づいて送られてもよい。たいていの場合、データソースのクエリによって取得されたドメイン情報は、プロバイダのシステムのドメインについての具体的な情報を提供しない。要求は、アプリケーションの認証を得るための、エンドポイント（たとえば、ＳＱＬ接続エンドポイント）に対するネットワーク呼び出しであってもよい。この要求は、アプリケーションのＵＲＩを含んでもよい。ＵＲＩは、アプリケーションのアクセス情報から取得されてもよい。少なくとも１つの例において、ネットワーク呼び出しは、アプリケーションのプロバイダのドメインのホスティングされたサイトについての情報の認証を得るためのブラウザ呼び出し（たとえば、ＨＴＴＰＳ）であってもよい。このように呼び出しを送ることによって、サイトは、要求がブロックされないようにしなくてもよい。この認証は、アプリケーションのプロバイダのホスティングされたサイトについてのドメイン情報を含んでもよい。データソースをクエリすることに加えて、またはそれに代えて、プロバイダのシステムへの要求が実施されてもよい。
【０１５２】
ステップ１１１０および１１１２は、同時に、または、特定されたアプリケーションに基づいた順序で実行されてもよい。ステップ１１１０において、１つ以上のアプリケーションの各々の組織情報を特定してもよい。組織情報は、アクセスされた１つ以上のアプリケーションの各々を提供するプロバイダシステムにはっきりと対応付けられたサービスプロバイダの各組織についての情報を含んでもよい。組織情報は、アプリケーションを提供するプロバイダシステムに対応付けられた組織を識別する情報を含んでもよい。組織情報は、組織の登録情報など、企業体情報を含んでもよい。組織情報は、アプリケーションのソースおよびアプリケーションの種類など、アプリケーションについての詳細を含む、アプリケーションについての情報を含んでもよい。組織情報は、プロバイダシステムがどこにホストされているかなど、プロバイダシステムの位置についての位置情報を含んでもよい。いくつかの実施形態において、組織情報は、アクセスされる各アプリケーションについての統計情報を含み得る。統計情報は、アプリケーションに関するネットワーク・アクティビティのためのデータ使用、アプリケーションのネットワークトラフィック（たとえば、アップロードおよびダウンロードトラフィック）、およびアプリケーション使用および操作についての他の統計情報を含んでもよい。ドメイン情報を使用して組織情報を特定し、アプリケーションを提供する組織を識別してもよい。
【０１５３】
組織情報は、１つ以上のソースから取得されてもよい。１つのソースは、アプリケーションを提供する組織（複数可）を含む、アプリケーションについての情報を集約するサードパーティソースを含んでもよい。セキュリティ監視／制御システム１０２は、ネットワーク・アクティビティを監視することに基づいて、アプリケーション情報の自身のデータストアを維持してもよい。いくつかの実施形態において、ユーザは、アプリケーションについての情報を提供してもよい。この情報は、セキュリティ監視／制御システム１０２によって格納されてもよい。
【０１５４】
ステップ１１１２において、アクセスされた１つ以上のアプリケーションの各々についてのセキュリティ情報を求めてもよい。セキュリティ情報は、アプリケーションについての１つ以上のセキュリティ関連のインシデントについての情報を含んでもよい。セキュリティ情報は、安全についてのアプリケーションの１つ以上の特徴に関する安全度合い（たとえば、セキュリティスコア）を提供してもよい。少なくとも１つの実施形態において、セキュリティ情報は、図９を参照して開示される１つ以上のフィード９０２を介して取得されてもよい。フィードが提供する安全度合いは、アプリケーションのセキュリティの特徴に対応してもよい。安全度合いは、１つ以上のインジケータまたは特徴に基づいてもよい。ドメイン情報、組織情報、またはそれらの組合せを使用して、セキュリティ情報が求められてもよい。いくつかの実施形態において、セキュリティ情報は、アプリケーションを識別する情報に基づいて取得されてもよい。
【０１５５】
セキュリティ情報は、１つ以上のソースから取得されてもよい。１つのソースは、アプリケーションを提供する組織（複数可）を含む、アプリケーションについてのセキュリティ関連の情報を集約するサードパーティソースを含んでもよい。セキュリティ監視／制御システム１０２は、ネットワーク・アクティビティを監視することに基づいて、アプリケーションセキュリティ情報の自身のデータストアを維持してもよい。いくつかの実施形態において、ユーザは、アプリケーションについてのセキュリティ報を提供してもよい。この情報は、セキュリティ監視／制御システム１０２によって格納されてもよい。安全度合いは、これらのソースのうちのいずれかが提供するセキュリティ情報において示されてもよい。いくつかの実施形態において、セキュリティ情報は、異なるフォーマットで１つ以上のソースから取得されてもよい。各データソースは、特定の種類のセキュリティ情報を提供してもよい。セキュリティ情報は、特定のフォーマットまたは尺度の安全度合いを提供するために、正規化または処理されてもよい。
【０１５６】
ステップ１１１４は、ステップ１１１０および／または１１１２のうちの１つ以上を実行することに基づいて実行されてもよい。ステップ１１１４において、安全度合い（たとえば、アプリケーション・リスクスコア）を、アクセスされた１つ以上のアプリケーションの各々についての別個の度合いとして演算する。安全度合いは、アプリケーションのセキュリティの値または表示であり得る。たとえば、安全度合いは、１（たとえば、低いセキュリティリスク）〜５（たとえば、高いセキュリティリスク）段階の値であってもよい。安全度合いの尺度は、セキュリティの１つ以上の特徴に基づいてもよく、または、まとめて、ひとそろいの特徴に基づいてもよい。
【０１５７】
いくつかの実施形態において、アプリケーションまたはセキュリティリスクの種類など、１つ以上の特徴に基づいて、複数のアプリケーションの安全度合いを演算してもよい。安全度合いは、図８および図９を参照して開示される技術を使用して演算されてもよい。安全度合いは、フローチャート１１００の前のステップで特定された情報のうちのいずれかを使用して演算されてよい。たとえば、組織情報、セキュリティ情報、またはそれらの組合せを使用して、安全度合いが演算されてもよい。セキュリティの１つ以上のインジケータまたは特徴の安全度合いが演算されてもよい。特徴ごとに、重み値が決定されてもよい。インジケータおよび重みに基づいて、各特徴について個々に、またはまとめて、安全度合いが演算され得る。いくつかの実施形態において、アプリケーションの安全度合いは、アクセスするためのアカウントを有するテナントとしてのユーザグループなど、複数のユーザによる使用に基づいて演算されてもよい。フローチャート１１００のステップは、複数のユーザによってアクセスされたアプリケーションに向けて実施されてもよい。１つ以上のプロバイダ間および／または１つ以上のアカウント間のアプリケーションの種類の複数のインスタンスの安全度合いが演算されてもよい。
【０１５８】
いくつかの実施形態において、ステップ１１１６において、アクセスされた１つ以上のアプリケーションの各々についての情報を表示するためのディスプレイを提供してもよい。ディスプレイは、アプリケーションまたはウェブブラウザにおいて提供されるグラフィカルインタフェースであってもよい。ディスプレイは、アプリケーションのセキュリティを監視および管理するためのインタラクティブディスプレイであってもよい。ディスプレイは、セキュリティ監視／制御システム１０２によって生成されてもよい。ディスプレイを提供することは、ディスプレイをクライアントでレンダリングさせることを含んでもよい。ディスプレイは、生成されると、クライアントに送られてレンダリングされてもよい。さまざまなインタラクティブディスプレイの例を、図１５〜図２６を参照して開示する。いくつかの実施形態において、ディスプレイは、クライアントに送られるメッセージに含まれるレポートとして提供されてもよい。レポートは、アプリケーションに関するセキュリティについての通知であってもよい。
【０１５９】
ステップ１１１８において、１つ以上のアクセスされたアプリケーションの各々に対する１つ以上の救済操作を実行してもよい。救済操作は、救済または訂正として実行される操作であり、アプリケーションによってもたらされるセキュリティ（たとえば、セキュリティリスクまたは脅威）を解決するためのものである。救済操作の例として、アプリケーションのセキュリティについての通知メッセージを送ること、アプリケーションのセキュリティについての情報を表示すること、アプリケーションの操作および／またはアクセスを調整すること（たとえば、制限的アクセス調整）などが挙げられるが、これらに限定されない。
【０１６０】
たとえば、アプリケーションのアクセスを制御することは、ユーザまたはユーザグループがこのアプリケーションにアクセスすることを阻止または防止することを含んでもよい。アプリケーションへのアクセスの制限、阻止、または防止は、多くの方法で実現されてもよい。１つ以上の命令を送って、アプリケーションについてのアクセスを調整することができ、または、アプリケーションについてのアクセスを調整するように１つ以上の命令を構成することができる。たとえば、アクセスを効果的に拒否または阻止するよう、アプリケーション要求のいずれも拒否されるように、または、この要求が組織外に伝送されないように、組織のネットワーク上で１つ以上の命令を構成することができる。特定の種類のアプリケーション要求を拒否するように、１つ以上の命令を構成することができる。ユーザは、インタフェースにおいて、ポリシーに応じてアプリケーションへのアクセスが限定されるようにこのアクセスを設定するための情報を提供するように求められ得る。
【０１６１】
別の例において、操作は、アプリケーションへのアクセスをそれぞれ許可または拒否するためのホワイトリストまたはブラックリストのいずれかにアプリケーションについての情報を載せることであってもよい。いくつかの実施形態において、ポリシーに従ってアプリケーションを評価することに基づいて、アプリケーションごとに救済操作を実行しなくてもよい。
【０１６２】
アプリケーションに対する救済操作は、このアプリケーションの安全度合いに基づいて実行してもよい。救済操作は、自動、手動、ユーザまたは管理者の介入を要請すること、またはそれらの組合せであってもよい。操作は、ユーザ（たとえば、アナリスト）からの入力に基づいて設定されてもよい。救済操作は、１つ以上のポリシーに基づいて実行されてもよい。ポリシーは、ユーザによって設定可能であってもよく、および／または、図９を参照して開示される技術など、セキュリティについてのフィードバックに基づいて設定されてもよい。たとえば、救済操作は、リスク（たとえば、高リスク）の閾値を満たすアプリケーションの安全度合いに基づいて実行されてもよい。いくつかの実施形態において、救済操作は、アプリケーションの１つ以上の特徴に関するセキュリティ情報に基づいて実行されてもよい。これらの特徴に基づいて、安全度合いが演算されてもよい。このように、救済操作は、安全度合いが演算されるこれらの特徴の安全度合いに基づいてもよい。安全度合いおよび救済操作の例を、図１５〜図２６を参照して示す。
【０１６３】
いくつかの実施形態において、救済操作は、セキュリティポリシーに基づいて実行されてもよい。セキュリティポリシーは、安全度合いおよび／またはセキュリティ情報に基づいて、実行する１つ以上の救済操作を定義してもよい。セキュリティポリシーは、安全度合いおよび／または本明細書に開示のいずれかの情報（たとえば、組織情報またはセキュリティ情報）に基づいて適用されてもよい。セキュリティリスクまたは脅威を評価するための動作が実行されてもよい。セキュリティリスクまたは脅威は、安全度合いおよび／またはセキュリティ情報（たとえば、１つ以上のセキュリティ・インジケータ）に基づき得る。ポリシーは、救済操作が講じられるタイミングを定義する閾値（たとえば、セキュリティ閾値またはリスク閾値）など、１つ以上の条件を定義してもよい。この条件は、安全度合いの尺度に応じた、またはセキュリティ・インジケータのプロバイダが設定した尺度に応じた１つ以上の値によって定義されてもよい。たとえば、セキュリティポリシーを適用することは、安全度合いがアプリケーションのリスク閾値を満たすかどうかを判定することを含んでもよい。安全度合いを、ポリシーにおける１つ以上の値と比較して、セキュリティリスクの重大度を評価してもよい。これら値は、１つ以上のセキュリティ・インジケータに基づいて定義されてもよい。これらの値は、安全度合いが、安全度合いを演算するために使用されるセキュリティ・インジケータに基づいて定義される閾値と比較されるように、１つ以上のセキュリティ・インジケータに基づいて定義されてもよい。また、セキュリティ情報で取得されたセキュリティ・インジケータ同士を比較して、セキュリティリスクをさらに評価してもよい。
【０１６４】
いくつかの実施形態において、救済操作は、アプリケーションがコンピューティング環境内でアクセスされないようにするために、コンピューティング環境の１つ以上の側面を設定するためのものであってもよい。１つ以上の命令を、コンピュータシステムおよび／または組織のコンピューティング環境のネットワーク機器に送り、どのアプリケーションをブロックするか、および誰に対してアプリケーションをブロックまたは限定するかを指定してもよい。アプリケーションへのアクセスは、ポリシー、またはコンピューティング環境におけるアクセスを制御できる他の設定可能な情報によって設定されてもよい。いくつかの実施形態において、ユーザによって操作されるクライアントデバイス上のエージェントに、命令を送ることができる。エージェントは、特定のアプリケーションへのアクセスを防止するために動作を変更するように指示されてもよく、および／またはクライアントデバイスが使用される特定の環境におけるアプリケーションの動作を変更するように指示されてもよい。救済操作は、複数のユーザによるアプリケーションへのアクセスを防止するためのものであってもよい。いくつかの実施形態において、救済操作は、１つ以上の命令をサービスプロバイダシステムに送ることを含んでもよい。たとえば、命令をサービスプロバイダシステムに送り、１つ以上のセキュリティコントロールおよび／またはアプリケーションにアクセスするための設定を調整することができる。サービスプロバイダシステムは、セキュリティコントロールおよび／または設定にアクセスするためのインタフェースを提供してもよい。救済操作は、このインタフェース（たとえば、呼び出しを行うことによって）を使用して、アプリケーションのセキュリティコントロールおよび／または設定を調整することを含んでもよい。
【０１６５】
救済操作は、アラートの使用を含んでもよい。セキュリティリスクおよび／またはアプリケーションへのアクセスにおける変更についてのアラートが、管理者または他のユーザのデバイスに送られてもよい。いくつかの実施形態において、アプリケーションに対する救済操作は、グラフィカルインタフェースに、アプリケーションの構成操作を調整するようユーザに求めることを含む。
【０１６６】
フローチャート１１００は、ステップ１１２０で終了してもよい。
図１２は、実施形態に係る、アプリケーションのリスクを発見および管理するためのプロセスのフローチャート１２００を示す図である。多くの実施形態において、後述するプロセスの１つ以上の機能は、図１のセキュリティ監視／制御システム１０２によって実行することができる。フローチャート１２００は、図１０および図１１を参照して開示される技術の一部として、またはそれを使用して実施されてもよい。フローチャート１２００を参照して開示されるプロセスは、複数のサービスプロバイダ（たとえば、クラウドサービスプロバイダ）間で使用されたアプリケーションのセキュリティを評価および管理するために実施されてもよい。アプリケーションは、第１アプリケーションであってもよい。第１アプリケーションは、第１アプリケーションのサービスプロバイダとは異なるまたは同じサービスプロバイダによって提供される第２アプリケーションおよび／または第２アプリケーションのデータへのアクセスを可能にまたは容易にする。
【０１６７】
フローチャート１２００は、ステップ１２０２において、組織のネットワーク上のサービスプロバイダシステム（たとえば、第１のサービスプロバイダシステム）からアクセスされる１つ以上のアプリケーションについてのデータ（たとえば、「第１データ」）を取得することで開始してもよい。第１データは、サービスプロバイダの第１のサービスプロバイダシステムが提供するプログラミング・インターフェースを通して取得されてもよい。このデータは、アクセスされたアプリケーションおよび／またはデータ、ならびにこのアプリケーションおよび／またはデータがどのようにアクセスされたかについての情報など、アクセス情報を提供してもよい。アクセス情報は、アプリケーションまたはそのデータに第１のサービスプロバイダシステムからアクセスしたサードパーティアプリケーションについての情報を提供してもよい。
【０１６８】
ステップ１２０４において、組織のネットワーク上のサービスプロバイダシステム（たとえば、第２のサービスプロバイダシステム）からアクセスされる１つ以上のアプリケーションについてのデータ（たとえば、「第２データ」）を取得してもよい。第２データは、サービスプロバイダの第２のサービスプロバイダシステムが提供するプログラミング・インターフェースを通して取得されてもよい。このデータは、アクセスされたアプリケーションおよび／またはデータ、ならびにこのアプリケーションおよび／またはデータがどのようにアクセスされたかについての情報など、アクセス情報を提供してもよい。アクセス情報は、アプリケーションまたはそのデータに第２のサービスプロバイダシステムからアクセスしたサードパーティアプリケーションについての情報を提供してもよい。
【０１６９】
アクセス情報をいくつかのサービスプロバイダシステムから集約して、組織のネットワーク上のユーザがアクセスしたアプリケーションのセキュリティを評価してもよい。各サービスプロバイダシステムからのアクセス情報を処理して、組織のネットワーク上のユーザがアクセスした１つ以上のアプリケーションを特定してもよい。アプリケーションは、別個であってもよいが、１つ以上の共通の属性を有する。アプリケーションは、別個であってもよいが、アプリケーションおよび／またはそのデータにサードパーティアプリケーションがアクセスすることをユーザが許可することに基づいて、互いに関連してもよい。サードパーティアプリケーションが許可されたアクセスは、リスクがある可能性があり、および／または組織が許可しない可能性がある。
【０１７０】
ステップ１２０６において、ユーザがアクセスしたアプリケーション（たとえば、第３アプリケーション）のアクセス情報を特定してもよい。少なくとも１つの実施形態において、アプリケーションは、第１のサービスプロバイダシステムおよび第２のプロバイダシステムを通してアクセスされる種類のアプリケーションであってもよい。サービスプロバイダシステムの各々からのアクセス情報を処理して、第１のサービスプロバイダシステムおよび第２のプロバイダシステムを通してアクセスされるアプリケーションについてのアプリケーション種類を特定してもよい。アプリケーションは、各プロバイダシステムから取得されたアプリケーション情報に基づく種類のアプリケーションであると特定されてもよい。１つ以上のデータソースを使用して、アクセスされたアプリケーションの各々についてのアプリケーション情報を取り出してもよい。ステップ１２０６の後続のステップにおいて、ユーザがアクセスしたアプリケーション（複数可）が共通の種類を有する場合、後続のステップにおいて特定される情報は、アプリケーションごとに特定されてもよい。アプリケーションごとの安全度合い、またはアプリケーションの組合せの安全度合いが演算されてもよい。安全度合いは、平均基づいてもよく、または、アプリケーションの各々の安全度合いに基づいて組合わされた度合いに基づいてもよい。
【０１７１】
少なくとも１つの実施形態において、サービスプロバイダシステムの各々からのアクセス情報を使用して、サービスプロバイダシステムの各々が提供するそれぞれ異なるアプリケーションおよび／またはそれらのデータにアクセスするために、同じサードパーティアプリケーションが使用されていると判断してもよい。サービスプロバイダシステムの各々は、サードパーティアプリケーションを通したアプリケーションへのアクセスを示し得る情報を提供してもよい。
【０１７２】
ステップ１２０８において、アプリケーション（複数可）のプロバイダシステムのドメイン情報を特定してもよい。ステップ１２１０および１２１２は、同時に、または特定されたアプリケーションに基づく任意の順序で実行してもよい。ステップ１２１０において、アプリケーションの組織情報を特定してもよい。ステップ１２１２において、アプリケーションについてのセキュリティ情報を求めてもよい。フローチャート１２００に関して特定された情報は、図１１を参照して開示される技術など、本明細書に開示の技術を使用して特定されてもよい。
【０１７３】
ステップ１２１４において、アクセスされたアプリケーションの安全度合いを演算してもよい。アプリケーションごとの安全度合い、またはユーザがアクセスしたと特定されるアプリケーションの組合せの安全度合いが演算されてもよい。安全度合いは、平均基づいてもよく、または、アプリケーションの各々の安全度合いに基づいて組合わされた度合いに基づいてもよい。
【０１７４】
ステップ１２１６において、アクセスされたアプリケーション（複数可）についての情報のインタラクティブディスプレイを提供する。インタラクティブディスプレイは、グラフィカルインタフェースの一部として含まれてもよく、または、グラフィカルインタフェースとして生成されてもよい。グラフィカルインタフェースは、アプリケーションの安全度合いを表示してもよい。
【０１７５】
ステップ１２１８において、アクセスされたアプリケーション（複数可）に対して救済操作を実行してもよい。救済操作は、図１１を参照して開示される技術など、本明細書に開示するように実行されてもよい。アプリケーションが、サービスプロバイダシステムにおけるアプリケーションまたはそのデータへのアクセスが与えられているサードパーティアプリケーションである場合、サードパーティアプリケーションは、このアプリケーションにアクセスできないようにされてもよい。いくつかの実施形態において、サービスプロバイダシステムに要求を送り、サードパーティアプリケーションがアクセスしたアプリケーション（複数可）および／またはそのデータへのアクセスを限定または拒否してもよい。いくつかの実施形態において、インタラクティブディスプレイを変更して、サードパーティアプリケーションの設定を調整するようユーザに求めて、サービスプロバイダシステムからのアプリケーションおよび／またはそのデータへのアクセスを限定または無効にしてもよい。
【０１７６】
フローチャート１２００は、ステップ１２２０で終了してもよい。
ＸＩ．アプリケーション使用に基づくユーザの安全度合いの演算
図１３および図１４は、いくつかの実施形態に係る、アプリケーション使用に基づいてユーザの安全度合いを演算するための技術を示す図である。具体的には、図１３は、プロセスのシーケンスフロー図１３００の例を示す図である。この技術は、セキュリティ監視／制御システム１０２によって実現されてもよい。ユーザの安全度合いは、図９を参照して開示される技術を用いて演算されてもよい。
【０１７７】
ユーザの安全度合い（明細書において、「ユーザ・リスクスコア」とも称す）は、ユーザが組織にもたらす可能性のある安全へのリスクまたは脅威として、表示を提供してもよい。上述したように、ユーザは、承認されてない方法またはセキュアでない方法でのアプリケーションの使用に基づいて、組織のネットワークにセキュリティ脅威をもたらす可能性がある。このような使用によって、組織は、そのプライベートネットワークおよびデータの脆弱性に晒されてしまう可能性がある。場合によっては、アプリケーションが、企業ネットワークおよび／またはコンピューティングリソースなど、組織のリソースの非効率的または間違った使用に基づいて、組織に脅威をもたらす可能性がある。ユーザ・リスクスコアは、組織におけるユーザに関するセキュリティ脅威の重大度を示す度合いを提供してもよい。アプリケーションに対するユーザ操作をプロファイリングすることによってユーザ・リスクスコアを連続して生成してもよい。
【０１７８】
いくつかの実施形態において、セキュリティ監視／制御システム１０２は、リスクスコアについての情報および／またはリスクスコアに関する情報を表示するために提示され得るグラフィカルインタフェースを提供してもよい。２０１７年２月１７日に出願され、「Systems and Methods for Discovering and Monitoring Unsanctioned Enterprise Assets」と題された優先出願である米国仮出願第６２／４６０，７１６号［代理人整理番号：０８８３２５−１０３９１９７（１８５５０２ＵＳ）］に、グラフィカルインタフェースの例が表示されている。グラフィカルインタフェースは、リスクスコアおよび関連する可視化したもの（ＫＳＩ）とともに、ユーザレポートとしてコンソールに提示されてもよい。グラフィカルインタフェースは、認可されたアプリおよび承認されていないアプリの両方についての、さまざまなソースからのリスク要素を組み合わせて一様に提示するシングルペインオブグラスとして機能してもよい。グラフィカルインタフェースは、ユーザ（たとえば、セキュリティ管理者）が、関連するリスクインジケータを見て、ユーザによってはリスクスコアが高い場合がある理由、どのインジケータがアプリにおいて実行された普通でない操作を含むのか、アクセスされた、リスクのある承認されていないアプリなどを理解することを可能にする。これは、ファイヤーウォールでアプリをブロックする、このアプリを避けるようユーザを教育する、またはユーザーアカウントを一時停止するなどの救済操作をユーザが講ずるまたは設定することに役立つ。グラフィカルインタフェースは、ユーザが、リスク・アプリ・スコア、アプリカテゴリ、ユーザ・リスクスコアなど、特定の条件に一致したポリシーを作成することに基づいて、カスタマイズされたアラートを設定することを可能にしてもよい。
【０１７９】
ユーザの安全度合いは、１つ以上のサードパーティソース、１人以上のユーザ、セキュリティ制御／管理システム１０２によって管理および取りまとめられたソース、またはそれらの組合せによって提供される情報に基づいて演算されてもよい。ユーザの安全度合いは、アプリケーションおよびアプリケーションのプロバイダについての情報（「組織情報）、アプリケーションのセキュリティについての情報（「セキュリティ情報」）、ならびに／またはアプリケーション（「アプリケーション使用情報」）に関する使用についての情報を含む、情報に基づいてもよいが、これらに限定されない。組織情報およびセキュリティ情報は、アプリケーションのリスク度合いを決定することに関する情報など、本明細書に開示の情報を含んでもよい。アプリケーション使用情報は、実行された動作／操作の種類（たとえば、アプリケーションからのデータの大量エクスポートもしくはアプリケーションの連絡先のダウンロード、または、過剰なファイルアクセス数）、アクセスされたアプリケーションのカテゴリ（たとえば、マルウェアウェブサイトに対応付けられたアプリ、情報漏えいウェブサイト、またはハッカーが使用するアプリ／ツールは、ユーザ・リスクスコアを上げる）、またはアプリケーションの使用からの異常な逸脱など、アプリケーションの使用についての情報を示してもよい。たとえば、アプリケーション使用情報は、１つのプロバイダシステムを使用してファイルにアクセスすることがほとんどなかったユーザが大量の文書を突然ダウンロードし始めることに基づいて、マルウェアアクティビティの表示を提供してもよい。
【０１８０】
ユーザの安全度合いは、ユーザのセキュリティリスクの度合いを定義する尺度の値（たとえば、ユーザ・リスクスコア）であってもよい。たとえば、尺度は、１〜５の間と定義され得、より高い値は、ユーザのより大きなリスクを表す。他の実施形態において、特定の評価に応じてさまざまな範囲および値が利用されてもよい。スコアは、アラートを提供する、レポートを提供する、および／または救済措置を講ずるために、セキュリティ監視／制御システム１０２によって利用され得る。ユーザの安全度合いは、によってもたらされたセキュリティ脅威をユーザ（たとえば、セキュリティ管理者）が軽減する際の助けとなる優先順位インジケータの役割をする値である。いくつかの実施形態において、安全度合いは、いくつかの方法で演算されてもよい。
【０１８１】
ユーザ・リスクスコアは、特定のアプリケーションによって組織にもたらされたセキュリティ脅威の重大度に関する安全度合いを示してもよい。ユーザ・リスクスコアは、１つ以上のインジケータ（明細書において、「脅威インジケータ」または「セキュリティ・インジケータ」とも称す）に基づいて演算されてもよい。各インジケータは、セキュリティリスクを示す値または情報であってもよい。たとえば、図１３において、１つ以上のデータソース（明細書において、「リスクスコア・フィード」とも称す）から、固有のセキュリティ・インジケータが取得されてもよく、アプリケーションの１つ以上のインジケータの「フィード」を提供する。各固有のインジケータ（「Ｉ」）（本明細書において、まとめて、インジケータ「Ｉ１、Ｉ２、…、Ｉｎ」１３０４と称する）は、データソースの各々によってそれぞれ提供されてもよい。インジケータは、上記の種類の情報など、アプリケーションに関する情報またはアプリケーションについての情報に基づく、特定の種類のインジケータであってもよい。インジケータは、ユーザによってもたらされるセキュリティ脅威の表示を提供する値であってもよい。たとえば、第１インジケータは、ユーザによる第１のセキュリティ脅威を示す第１の値であってもよい。第２インジケータは、ユーザによる第２のセキュリティ脅威を示す第２の値であってもよい。第１インジケータは、第１のソースから取得されてもよく、第２インジケータは、第２のソースから取得されてもよい。
【０１８２】
インジケータ１３０２は、たとえば、承認されたアプリのユーザ・リスクスコア、不明なアプリ／承認されていないアプリのリスクスコア、またはアプリに対応付けられた操作を含んでもよい。下記の例は、ユーザ・リスクスコアがどのように評価されるかを説明する。なお、この例において、限られた数のインジケータが使用されるが、システムは、追加のインジケータを使用するように構成することができる。一例において、第１インジケータＩ１は、組織によって使用を承認された（たとえば、認可された）アプリケーションのデータソースから取得されたユーザ・リスクスコアであってもよい。ユーザ・リスクスコアは、認可されたアプリにおけるユーザ操作から算出され得る。このリスクスコアは、文書のアップロード／ダウンロードなど、認可されたアプリにおけるさまざまなユーザ・アクティビティを組み合わせる。第２インジケータＩ２は、無認可のアプリのアップロード量の偏差の度合いであってもよい。たとえば、第２インジケータは、次のように演算されてもよい。（１日のアップロード量−３０日間の平均アップロード量）／（３０日間のアップロード量の標準偏差）。第３インジケータＩ３は、訪問されたサイトのリスクスコアの偏差を示す度合いであってもよい。たとえば、第３インジケータは、次のように演算されてもよい。（１日のアプリ・リスクスコアの和−３０日間の１日平均アプリ・リスクスコア）／（３０日間の１日のアプリ・リスクスコアの標準偏差）。この例において、ユーザ・リスクスコアは、３つのインジケータすべてを使用して演算されてもよい。いくつかの実施形態において、ユーザ・リスクスコアは、図１４を参照して説明されるインジケータなど、追加のインジケータを使用して演算されてもよい。
【０１８３】
いくつかの実施形態において、セキュリティ監視／制御システム１０２は、アプリおよびユーザのリスクスコアを使用して、グラフを生成してもよい。１つ以上のグラフを使用して、追加のインジケータを得てもよい。ここで、図１４を参照すると、図１４は、アプリケーションＡおよびＢにアクセスしているユーザからなる第１クラスタのグラフ１４０２を示す図である。図１４は、アプリケーションＸ、Ｙ、およびＺにアクセスしているユーザからなる第２クラスタのグラフ１４０４を示す。グラフの各々は、本明細書に開示の情報など、１つ以上のデータソースから取得されたユーザおよびアプリケーション使用についての情報を使用して生成されてもよい。グラフは、当業者に知られている１つ以上のクラスタリングアルゴリズムを使用して生成されてもよい。クラスタリングアルゴリズムとして、Ｍａｒｋｏｖ  Ｃｌｕｓｔｅｒ（ＭＣＬ）アルゴリズムなどが挙げられてもよい。１つ以上のグラフを使用して、同様のサイトにアクセスするユーザなど、１つ以上の属性に基づいて、ユーザのセットが特定されてもよい。このような分析は、Ｇｉｒｖａｎ−Ｎｅｗｍａｎエッジクラスタリングアルゴリズムなど、１つ以上の周知技術のグラフアナリティクスを含む、グラフアナリティクスを使用して実行してもよい。
【０１８４】
上記インジケータＩ１〜Ｉ３の例を用いて進めると、グラフ分析を使用して、第４のインジケータＩ４が得られてもよい。たとえば、Ｉ４は、次のように演算されてもよい。（１日のアプリ・リスクスコアの和−クラスタの３０日間の１日平均アプリ・リスクスコア）／（クラスタの３０日間の１日のアプリ・リスクスコアの標準偏差）。第５のインジケータＩ５は、次のように演算されてもよい。（１日のアップロード量−クラスタの３０日間の平均アップロード量）／（クラスタの３０日間のアップロード量の標準偏差）。
【０１８５】
各脅威インジケータは、ソースによってそのインジケータに対して定義された尺度に応じてユーザのセキュリティリスクの度合いまたは脅威を示す値である、ユーザ・リスクスコアを表してもよい。いくつかの実施形態において、脅威インジケータを尺度と比較して、ユーザ・リスクスコアを決定してもよい。尺度は、ソースによって提供された情報によって定義されてもよく、またはこの情報に基づいて定義されてもよい。
【０１８６】
セキュリティ監視／制御システム１０２は、１つ以上の脅威インジケータに基づいて、ユーザ・リスクスコアを演算してもよい。つまり、安全度合いは、ユーザの組み合わされたセキュリティリスクの度合いとして演算されてもよい。すべてのインジケータに対して使用される尺度（たとえば、０〜１００までの値の尺度）に応じて、各インジケータを処理してインジケータの値を調整値に調整（たとえば、正規化）してもよい。インジケータごとの値は、正規化されると、組合せスコアを決定するために組合わされてもよい。
【０１８７】
ユーザのリスクの度合いを示す組合せセキュリティスコア１３０８は、インジケータのすべてまたは一部に基づいてもよい。組合せセキュリティスコアを決定するために考慮されるインジケータの数および／または種類は、設定可能であってもよい。このように、セキュリティ監視／制御システム１０２は、インジケータが取得されるソースを追加または削除するように構成されてもよく、ソースから取得されたインジケータ１３０４を追加または削除するように構成されてもよい。いくつかの実施形態において、スコアのために考慮されるインジケータの数および種類をユーザが設定することを可能にするグラフィカルインタフェースが提示されてもよい。いくつかの実施形態において、組合せスコアは、スコアが演算される条件を定義するセキュリティポリシーに基づいてもよい。この条件は、セキュリティの１つ以上の属性に基づいてもよい。この属性を使用して、スコアのために考慮するインジケータが選択されてもよい。
【０１８８】
いくつかの実施形態において、組合せユーザ・リスクスコア１３０８は、インジケータごとの重み値を使用するインジケータの組合せに基づいてもよい。たとえば、重み（「Ｗ」）（本明細書において、まとめて、重み「Ｗ１、Ｗ２、…、Ｗｎ」１３０４と称する）が選択されて、組合せスコア１３０８を演算するための１つ以上の特定のインジケータに適用されてもよい。重みは、整数である１、または１の何分の１かの値であってもよい。異なるインジケータに異なる重みが選択されてもよい。上記例において、第１の重みは、第１インジケータの第１の重み値であってもよく、第２の重みは、第２インジケータの第２の重み値であってもよい。これらの重み値は、それぞれ異なってもよい。
【０１８９】
重みは、グラフィカルインタフェースを通して、ユーザによって設定されてもよい。いくつかの実施形態において、重みは、特定の重みを与えられた特定のインジケータに基づいて定義されたセキュリティポリシーに基づいて選択されてもよい。ユーザのセキュリティリスクについてのインジケータの重要度または示唆が大きいほど、重みに対して大きな値を考慮してもよい。ユーザのセキュリティリスクについてインジケータの重要度または示唆が小さいほど、重みに対して小さな値を考慮してもよい。いくつかの実施形態において、１つの特定のソースからのすべてのインジケータに、１つの重みが選ばれてもよい。たとえば、１つのソースからのすべてのインジケータには、そのソースの信頼度または信用に基づいて１つの重みが適用されてもよい。いくつかの実施形態において、セキュリティ監視／制御システム１０２は、ユーザの脅威の研究分析についてのデータを格納してもよい。このようなデータを使用して、インジケータごとの重みが選択的に選ばれてもよい。
【０１９０】
組合せスコアは、インジケータおよびインジケータの重みを考慮して演算されてもよい。少なくとも１つの実施形態において、組合せスコアは、組合せスコア＝（Ｉ１（Ｗ１）＋Ｉ２（Ｗ２）＋…Ｉｎ（Ｗｎ））／（Ｗ１＋Ｗ２＋…Ｗｎ）を得るための式１３０８を使用して演算されてもよい。この式において、各インジケータ（「Ｉ」）１３０４をそれぞれの重み（「Ｗ」）１３０６で乗算することによって、インジケータごとの値が演算される。インジケータごとに演算された値の総和（Ｉ１（Ｗ１）＋Ｉ２（Ｗ２）＋…Ｉｎ（Ｗｎ））である第１の値が演算される。第１の値を求めるために当てはめられる各重み値の総和である第２の値が演算される。組合せスコア１３０８は、第１の値を第２の値で除算することに基づいて演算されてもよい。前から続く例において、ユーザ・リスクスコアは、次のように演算されてもよい。（Ｉ１（Ｗ１）＋Ｉ２（Ｗ２）＋Ｉ３（Ｗ３）＋Ｉ４（Ｗ４）＋Ｉ５（Ｗ５））／（Ｗ１＋Ｗ２＋Ｗ３＋Ｗ４＋Ｗ５）。
【０１９１】
いくつかの実施形態において、セキュリティ監視／制御システム１０２は、組合せスコア１３０８の妥当性および正確さについてのフィードバック１３１０を、１人以上のユーザから取得してもよい。フィードバック１３１０は、ネットワークを通じて取得され、グラフィカルインタフェースまたは手動フィードバックを通じて容易にされてもよい。ソース、インジケータ、および／または重みのうちのいずれかは、フィードバック１３１０に基づいて調整されてもよい。フィードバック１３１０に基づいて、組合せスコア１３０８は調整されてもよい。新しい組合せスコア１３１２（「調整スコア」）は、フィードバック１３１０に基づいて選択されたインジケータおよび／または重みに基づいて演算され得ること以外は、調整スコア１３１２は、組合せスコア１３０８が演算された方法と同じ方法で演算されてもよい。組合せスコア１３０８を演算するために使用されたものに対して、ソース、インジケータ、および／または重みが追加または削除されてもよい。インジケータの重み値を周期的に改正して、我々のセキュリティアナリストおよび顧客フィードバックに基づくリスクスコアを改善することができる。インジケータの重みの改正プロセスは、決定木およびニューラルネットワークなど、自動機械学習アルゴリズムによって実行することができる。
【０１９２】
特定のセキュリティ脅威についての各インジケータおよび／または組合せスコアに基づいて、回帰分析１３１４が行われてもよい。回帰分析は、線形回帰モデルを作成することと、更新することとを含んでもよい。線形回帰モデルは、Ｓ＝ｃ１（Ｉ１）＋ｃ２（Ｉ２）＋…＋ｃｎ（Ｉｎ）などの出力を行ってもよい。回帰モデルによって演算される係数ｃｉは、組合せスコア１３０８を演算するための初期の重みを置き換える新しい重みまたは修正された重みであり得る。フィードバックおよびデータが多く収集されるほど、このモデルは、より正確になる。
【０１９３】
いくつかの実施形態において、ユーザ・リスクスコアを演算することは、インジケータごとに演算されたスコア（またはＺスコア）を、スケール変更することを含んでもよい。１つの例示的な手法において、マイナスのＺスコアは、０に設定される。その理由は、平均よりも下のアクティビティレベルは、正常範囲内であると考えられるためである。６よりも上のＺスコアは、６にスケール変更されてもよい（３というＺスコアは、部外者と考えられ、６というＺスコアは、極度の部外者と考えられる）。０〜６の間のＺスコアは、次のように、０〜１００の間にスケール変更される。スケール変更されたＺスコア＝Ｚスコア×（１００／６）。
【０１９４】
上述の例を用いて進めると、インジケータＩ１は、９２という認可されたアプリ・リスクスコア（０〜１００段階）であってもよいため、スコアは、スケール変更されなくてもよい。インジケータＩ２は、次のように、ｒａｗＺスコアと演算されてもよい。（１００−２０）／１０＝８。ここで、本日のアップロード量が１００ＭＢであり、過去３０日間の平均が２０ＭＢであり、標準偏差が１０ＭＢである。このスコアは、８であるため、スケール変更される必要があってもよい。スケール変更されたスコアは、１００．０００であり得る。インジケータＩ３は、次のように、ｒａｗＺスコアと演算されてもよい。（５０−２０）／５＝６。ここで、本日訪問されたサイトの平均リスクスコアが３０であり、過去３０日間の平均が２０であり、標準偏差が５である。Ｉ３のスコアは、１００．０００にスケール変更されてもよい。インジケータＩ４は、次のように、ｒａｗＺスコアと演算されてもよい。（３０−２５）／１０＝０．５。ここで、本日訪問されたサイトの平均リスクスコアが３０であり、過去３０日間の仲間集団の平均が２５であり、標準偏差が１０である。Ｉ４のスコアは、８．３３３３にスケール変更されてもよい。インジケータＩ５は、次のように、ｒａｗＺスコアと演算されてもよい。（４０−６０）／３０＝−０．６６７。ここで、本日のアップロード量が４０ＭＢであり、過去３０日間の仲間集団の平均が６０ＭＢであり、標準偏差が３０ＭＢである。Ｉ５のスコアは、０にスケール変更されてもよい。
【０１９５】
例を用いて進めると、データの品質および数に基づいて、次のように、インジケータごとにデータソースの重みが割り当てられてもよい。Ｗ１＝６０％、Ｗ２＝３０％、Ｗ３＝５％、Ｗ４＝２％、Ｗ５＝３％。ユーザ・リスクスコアは、重みおよびインジケータ（スケール変更されてもよい）を使用して演算されてもよい。この例において、ユーザ・リスクスコア（スケール変更されたＺスコア）は、次のように演算されてもよい。（０．６０×９２）＋（０．３０×１００．０）＋（０．０５×１００．０）＋（０．０２×８．３３３）＋（０．０３×０）＝９０（端数切り捨て）。ユーザにとっての追加の重大リスクがないと管理者が確認できる場合、管理者は、最終スコアを９０から２５に調整できる。スコアを、線形回帰アルゴリズムによって、特徴（Ｉ１、Ｉ２、…）：９２、１００．０、１００．０、８．３３３、０のように、線形回帰分析１３１４に適用してもよく、目標変数（調整後の組合せスコア）：２５が得られる。これらの、およびすべてのユーザスコアについての特徴および目標変数を用いて、回帰アルゴリズムは、顧客のインジケータごとに新しい重み（ｗ１、ｗ２、…）を演算し、すべてのユーザ（顧客テナントにおける）のリスクスコアを適宜更新する。
【０１９６】
ＸＩＩ．アプリケーションのセキュリティの発見および管理のためのインタフェース
図１５〜図２６は、いくつかの実施形態に係る、インタフェース、たとえば、コンピューティング環境におけるアプリケーションのセキュリティを発見および管理するためのグラフィカルインタフェースを示す図である。グラフィカルユーザインタフェース（ＧＵＩ）など、グラフィカルインタフェースの各々は、クライアントにおいて、図に開示のセキュリティ監視／制御システム１０２が提供するサービスへのアクセスとともに表示されてもよい。グラフィカルインタフェースは、ウェブサイトなどのアクセスポータルの一部として表示されてもよく、または、アプリケーションにおいて表示されてもよい。２０１７年２月１７日に出願され、「Systems and Methods for Discovering and Monitoring Unsanctioned Enterprise Assets」と題された優先出願である米国仮出願第６２／４６０，７１６［代理人整理番号：０８８３２５−１０３９１９７（１８５５０２ＵＳ）］に、グラフィカルインタフェースのさらなる例が表示されている。
【０１９７】
本開示において、グラフィカルインタフェースに「要素」が含まれてもよい。要素は、表示可能であってもよく、および／またはグラフィカルインタフェースの一部であってもよい。要素として、制御部、ボタン、ナビゲーション・バー、または、音声、視覚、接触、もしくはそれらの組合せによって感知できるインタフェースの一部であり得るその他の目に見えるコンポーネントなどが挙げられるが、これらに限定されない。要素は、入力を受けることができる。たとえば、インタラクティブ要素とは、入力を受けるためのインタラクティブ要素であってもよい。インタラクティブ要素は、入力を受けて、グラフィカルインタフェースとのやり取りを可能にしてもよい。たとえば、インタラクティブ要素は、ネットワークデータが表示されるヒートマップなど、グラフィカルインタフェースに含まれる多くの要素のうちの１つであり得る。
【０１９８】
図１５において、アプリケーションに含まれるＧＵＩ１５００が示される。ＧＵＩ１５００は、組織のネットワーク上でアクセスされたアプリケーションのセキュリティを、ユーザが発見および管理することを可能にする。ＧＵＩ１５００は、組織のネットワーク上でアクセスされたと発見されたアプリケーションを見るためのインタラクティブインタフェース（たとえば、ダッシュボード）として示される。図１５〜図２６のＧＵＩは、アプリケーションに含まれるダッシュボードとのやり取りの一部として、またはこのダッシュボードとのやり取りに基づいて提示されてもよい。ダッシュボードは、「概要」、「アプリの発見」、および「キーセキュリティ・インジケータ」など、インタラクティブインタフェースのための１つ以上のインタラクティブタブを含んでもよい。インタフェースに含まれるこの情報および要素は、さらなる例を説明するための図面の複数のＧＵＩに含まれる参照であってもよい。
【０１９９】
ここで、図１５の例を参照すると、「アプリの発見」が選択された状態のＧＵＩ１５００が示されている。アプリケーションについての情報は、この情報がどのように取得されたかに基づいて表示されてもよい。たとえば、アプリケーションについての情報は、登録に基づいて知られているアプリケーション用のインタフェース「登録アプリから」のタブ下に表示されてもよい。別の例において、アプリケーションについての情報は、ユーザがアクセスしたアプリケーションを特定するために本明細書において開示された技術に基づいて発見されたアプリケーション用のインタフェース「ログから」１５０４のタブ下に表示されてもよい。両方のタブに含まれるアプリケーションに関して示される機能は、１つのタブに組合わされてもよく、または、その他のタブにおいて実施されてもよい。
【０２００】
ＧＵＩ１５００は、発見されたアプリケーションをフィルター表示するための入力を選択的に提供するためのインタラクティブ要素１５０６を含んでもよい。フィルター表示は、時間、日付、アプリケーションの種類、操作、リスク、または発見されるアプリケーションについて表示されるその他の種類の情報など、１つ以上の属性に基づいて実行されてもよい。
【０２０１】
本明細書に開示するように、アプリケーションは、ネットワーク・アクティビティのログファイル（たとえば、ｓｙｓｌｏｇファイル）のインスペクションなど、多くの技術を使用して発見されてもよい。ＧＵＩ１５００は、アプリケーションを発見するための分析のためにログファイルをどのように収集するかを設定するための入力を提供するためのインタラクティブな要素１５１０を含んでもよい。要素１５１０とのやり取りによって、追加のまたは変更されたＧＵＩ２０００（「Ｓｙｓｌｏｇセットアップ」）を、ＧＵＩ１５００の横にまたはＧＵＩ１５００とともに表示させてもよい。ＧＵＩ２０００は、ログファイルをどのように収集するかをユーザが設定することを可能にしてもよい。ＧＵＩ２０００は、ログファイルにアクセスするためのトークン、ログファイルのパスまたはソース、収集されたログファイルを置く場所（たとえば、エンドポイント）、およびログファイル用の１つ以上の接続パラメータ（たとえば、ポート）を設定するための入力を受け付けることができる１つ以上の要素を含んでもよい。ログファイルを構成するためのパラメータは、セキュアな場所および／またはログファイルを格納するための接続についての１つ以上のパラメータを含んでもよい。
【０２０２】
ＧＵＩ１５００は、発見される各アプリケーションについての情報のグリッド表示またはテーブル表示を表示するためのインタラクティブＧＵＩであってもよい。図示する例において、ＧＵＩ１５００は、アクセスされたと発見されたアプリケーションごとの行とともに表示される。各行は、発見されたアプリケーションについての情報を表示し、この情報は、アプリケーションを提供するホストシステムのドメイン、トップリスク、インシデント（複数可）、および設定可能な救済操作を含む。ビューに含まれる各エントリまたは各行は、各エントリのフィールドを含み、インタラクティブなものであってもよい。トップリスクは、アプリケーションのセキュリティリスクのそれぞれ異なるカテゴリについての情報を表示してもよい。
【０２０３】
ＧＵＩ１５００は、テーブルに含まれるアプリケーションの任意のエントリについての情報のデータファイルをエクスポートするためのインタラクティブ要素１５０８を含んでもよい。このデータファイルを使用して、アプリケーションのセキュリティに対する操作を、管理、監視、および引き続き対処してもよい。
【０２０４】
テーブルのエントリに含まれる「インシデント」に対応する要素とのやり取りによって、図１９のＧＵＩ１９００を表示させてもよい。この要素は、前に開かれたことのある１つ以上のインシデントを選択するためのインタラクティブ要素であってもよい。ＧＵＩ１９００は、ＧＵＩ１５００の上またはＧＵＩ１５００の横に表示されてもよい。開かれたことのあるインシデントについての情報を表示するためのＧＵＩが提示されてもよい。ＧＵＩ１９００は、アプリケーションのインシデントを設定するための入力を提供するための１つ以上のインタラクティブ要素を含んでもよい。インシデントを開くための要素とのやり取りは、エントリの要素に対応するアプリケーションに特有であってもよい。図１９のＧＵＩ１９００は、要素１９０２（「カテゴリ」）と、１９０４（「発見されたアプリの名前」）と、１９０６（「ベンダードメイン」）と、１９０８（「説明」）と、１９１０（「救済操作」）と、１９１２（「担当者」）と、１９１４（「優先事項」）と、１９１６（「承認」）と、１９１８（「新しいインシデント」）と、１９２０（「キャンセル」）とを含んでもよい。
【０２０５】
要素１９０２は、アプリケーションが発見される１つ以上のセキュリティリスクを示してもよい。これらのリスクは、新しいインシデントを始める前にＧＵＩ１５００において選択済みであってもよい。要素１９０４は、アプリケーションの名前を示してもよい。要素１９０６は、アプリケーションを提供しているホストシステムドメインを示してもよい。要素１９０８は、インシデントについての説明を記入するためのインタラクティブ要素であってもよい。この説明は、セキュリティリスクに基づいて予め記入されていてもよい。説明を使用して、アプリケーションの使用についての説明を提供してもよい。要素１９１０は、１つ以上の救済操作を指定するためのインタラクティブ要素であってもよい。救済操作は、セキュリティリスクに基づいて、要素１９１０において予め選択されていてもよい。要素１９１２は、アプリケーションのセキュリティについて通知される１人以上のユーザを指定するためのインタラクティブ要素であってもよい。要素１９１４は、アプリケーションの優先事項を指定するためのインタラクティブ要素であってもよい。要素１９１６は、インシデントを作成するための承認を示すためのインタラクティブ要素であってもよい。要素１９１８は、要求を送り、ＧＵＩ１９００への入力に基づいてインシデントを作成するためのインタラクティブ要素であってもよい。要素１９２０は、インシデントの作成をキャンセルするためのインタラクティブ要素であってもよい。
【０２０６】
テーブルに含まれるエントリに対応する要素とのやり取りによって、ＧＵＩ１５００を変更させて、そのエントリに対応する発見されたアプリケーションについての情報を表示させてもよい。たとえば、図１６において、ＧＵＩ１５００は、発見されたアプリケーションのエントリの拡張ＧＵＩ１６００（たとえば、グラフィカルインタフェース）とともに示されている。ＧＵＩ１６００は、アプリケーションについての組織情報を表示してもよい。組織情報は、ユーザ数、ネットワーク・アクティビティ（たとえば、アップロードされたデータおよびダウンロードされたデータ）、アプリケーションのカテゴリなど、アプリケーションに関する使用についての情報、およびアプリケーションを提供する組織についての情報を含んでもよい。組織についての情報は、名称、住所、ドメイン、ウェブサイト、組織の説明、および／またはアプリケーションの組織の登録についての他の情報を含んでもよい。
【０２０７】
ＧＵＩ１６００は、ＧＵＩ１５００に含まれるエントリに表示されるセキュリティリスクの各々についての情報を表示してもよい。各セキュリティリスクは、セキュリティリスクの特徴を述べる情報とともに表示されてもよく、セキュリティリスクについての外観とともに表示されてもよい。たとえば、この外観は、画像および色が付いており、リスクの重大度を示してもよい。発見されたアプリケーションについて求められたセキュリティ情報に含まれるセキュリティ・インジケータに基づいて、セキュリティリスクが決定されてもよい。セキュリティリスクについての統計データまたは基礎となる情報に特有の情報が表示されてもよい。いくつかの実施形態において、セキュリティリスクは、サードパーティソース、ユーザが提供する情報に基づいてもよく、および／またはセキュリティ監視／制御システム１０２によって取りまとめられてもよい。いくつかの実施形態において、セキュリティリスクは、セキュリティの１つ以上のインジケータに基づいてもよい。セキュリティリスクは、１つ以上のセキュリティポリシーの適用に基づいてもよい。セキュリティポリシーは、１つ以上のセキュリティリスクについて決定された安全度合いを使用して適用されてもよい。
【０２０８】
図１６に示す例において、ＧＵＩ１６００は、セキュリティリスクごとに、要素を含んでもよい。セキュリティリスクに対応する要素は、ＧＵＩを、ＧＵＩ１５００の横にまたはＧＵＩ１５００に加えて表示させるためのインタラクティブ要素であってもよい。一例において、図１７のＧＵＩ１７００は、セキュリティリスク（「ＩＰアドレスの評判」）についての要素１６０４とのやり取りに基づいて表示されてもよい。別の例において、図１８のＧＵＩ１８００は、セキュリティリスク（「アプリケーションセキュリティ」）に関する要素１６０６とのやり取りに基づいて表示されてもよい。
【０２０９】
ＧＵＩ１７００およびＧＵＩ１８００の各々は、具体的なセキュリティリスクについての情報を表示する。この情報は、アプリケーションにアクセスすることについてのセキュリティリスクに関する１つ以上のイベントに対応してもよい。情報は、実際のイベントについての情報を含む各イベントまたはイベントのカテゴリに基づいて表示されてもよい。各セキュリティリスクは、問題についての情報とともに表示されてもよい。１つ以上の救済操作が提供されてもよい。情報は、サードパーティソース、ユーザによって提供されてもよく、および／またはセキュリティ監視／制御システム１０２によって取りまとめられてもよい。たとえば、情報は、アプリケーションのプロバイダによって提供されてもよい。各セキュリティリスクは、リスクの重大度を示す外観とともに表示されてもよい。いくつかの実施形態において、救済操作を自動化するおよび／または設定するための別のＧＵＩを表示させるためのインタラクティブ要素を、各リスクとともに提示してもよい。
【０２１０】
ここで、図１５を参照すると、要素１５１２などの要素は、固有の発見されたアプリケーションに対応するエントリごとに、ＧＵＩ１５００において提示されてもよい。要素は、アプリケーションに対する１つ以上の救済操作を設定するためのインタラクティブ要素であってもよい。この要素は、１つ以上のオプションを提供してもよく、１つ以上のオプションは、アプリケーションのセキュリティリスクに特有であってもよい。要素とのやり取りによって、救済操作を設定するための別のＧＵＩを、ＧＵＩ１５００の横にまたはＧＵＩ１５００に加えて表示させてもよい。セキュリティリスクが選択されると、セキュリティリスクに対する救済オプションが選択できるようにしてもよい。いくつかの実施形態において、セキュリティリスクおよび１つ以上のセキュリティポリシーに基づいて、１つ以上の救済操作が提示されてもよい。また、実行済みの救済操作も、発見されたアプリケーションのエントリとともに表示されてもよい。
【０２１１】
要素１５０２とのやり取りによって、ＧＵＩ１５００を更新して、図２１のＧＵＩ２１００を表示させてもよい。ＧＵＩ１５００と同様に、ＧＵＩ２１００は、発見されるアプリケーションについての情報を表示してもよい。この情報は、セキュリティリスクを含んでもよい。ＧＵＩ２１００は、ＧＵＩ１５００のようにインタラクティブＧＵＩであってもよい。ＧＵＩ２１００で確認されるアプリケーションは、組織に登録されているアプリケーションであってもよい。図２１のエントリ２１０２とのやり取りによって、ＧＵＩ２２００を表示させてもよい。
【０２１２】
図１７および図１８と同様に、図２３〜図２５は、ＧＵＩを、ＧＵＩ２２００に表示のセキュリティリスクについての情報とともに表示する。ＧＵＩ２２００は、エンドポイントセキュリティリスクについての要素２２０２（「エンドポイントセキュリティ」）と、ネットワークセキュリティリスクについての要素２２０４（「ネットワークセキュリティ」）と、ＩＰアドレスの評判セキュリティリスクについての要素２２０６（「ＩＰアドレスの評判」）とを含んでもよい。要素２２０２、要素２２０４、および要素２２０６の各々は、それぞれ、図２３のＧＵＩ２３００、図２４のＧＵＩ２４００、および図２５のＧＵＩ２５００を、ＧＵＩ２２００の横にまたはＧＵＩ２２００とともに表示させてもよい。
【０２１３】
図２６は、発見されるアプリケーションについての詳細を示す「アプリの発見」のＧＵＩ２６００を示す図である。ＧＵＩ２６００は、発見される固有のアプリケーションごとに、エントリをテーブルビューで表示するインタラクティブビュー２６０２を含んでもよい。図１５のＧＵＩ１５００と同様に、各エントリは、アプリケーション名およびアプリケーションのプロバイダを含む、アプリケーションについての情報を含んでもよい。ＧＵＩ１５００のように、各エントリは、エントリに対応するアプリケーションについての追加の情報を表示させるためのインタラクティブエントリであってもよい。エントリは、１つ以上のインジケータに対応付けられた１つ以上のトップリスクを示してもよい。ＧＵＩ１５００とは異なり、ＧＵＩ２６００は、発見された固有のアプリケーションごとにエントリを、その発見のソース（たとえば、ログまたは登録）に関係なく示すことができる。
【０２１４】
いくつかの実施形態において、エントリは、発見されたアプリケーションに関するイベントについての他の情報を示してもよい。エントリは、アプリケーションにアクセスしたことのあるユーザの数、およびアプリケーションがアクセスされた日付など、アプリケーションの使用についての情報を示してもよい。
【０２１５】
いくつかの実施形態において、テーブルビューに含まれるエントリは、登録済みアプリとして発見されたアプリケーションするおよび／またはログから発見されたアプリケーションに対応してもよい。各エントリは、救済操作を行うための１つ以上の要素を含んでもよい。ビュー２６０２は、アクセスされたアプリケーションを特定するタイミングを設定する、および／またはアプリケーションの発見を自動化するための１つ以上のインタラクティブ要素（たとえば、ツールバー）を含んでもよい。ツールバーは、アクセスされたアプリケーションの通知、設定、および検索を設定するためのインタラクティブツールバーであってもよい。
【０２１６】
ＧＵＩ２６００は、アプリ使用の度合いについての統計情報を視覚化したものを表示する領域２６０４を含んでもよい。統計情報は、１つ以上のセキュリティリスクに基づいて表示されてもよい。ＧＵＩ２６００は、使用の度合いに基づいてアプリ使用を視覚化したものを表示する領域２６０６を含んでもよい。ＧＵＩ２６００は、カテゴリ、ドメイン、サービスプロバイダ、セキュリティリスクなどの情報、またはアプリケーションに対応付けられた他のカテゴリの情報に基づいたアプリのグループ分けを視覚化したものを表示する領域２６０８を含んでもよい。
【０２１７】
ＸＩＩＩ．アクセス管理システムおよびクライアントシステムのための一般的なコンピュータシステム
図２７は、実施形態を実現するための分散型システム２７００を簡略化した図を示す。図示した実施形態において、分散型システム２７００は、１つ以上のクライアントコンピューティングデバイス２７０２、２７０４、２７０６、および２７０８を備える。１つ以上のクライアントコンピューティングデバイス２７０２、２７０４、２７０６、および２７０８は、１つ以上のネットワーク（複数可）２７１０でウェブブラウザ、プロプライエタリ・クライアント（たとえば、Oracle Forms）などのクライアントアプリケーションを実行および操作するように構成される。サーバ２７１２は、ネットワーク２７１０を介して、リモートクライアントコンピューティングデバイス２７０２、２７０４、２７０６、および２７０８と通信可能に接続されてもよい。
【０２１８】
さまざまな実施形態において、サーバ２７１２は、１つ以上のサービスまたはソフトウェア・アプリケーションを実行するようになされてもよい。また、特定の実施形態において、サーバ２７１２は、非仮想環境および仮想環境を含み得る他のサービスまたはソフトウェア・アプリケーションを提供してもよい。いくつかの実施形態において、これらのサービスは、クライアントコンピューティングデバイス２７０２、２７０４、２７０６、および／または２７０８のユーザに対して、ウェブベースのサービスもしくはクラウドサービスとして提供されてもよく、または、ＳａａＳ（Software as a Service）モデル下で提供されてもよい。そして、クライアントコンピューティングデバイス２７０２、２７０４、２７０６、および／または２７０８を操作するユーザは、１つ以上のクライアントアプリケーションを利用して、サーバ２７１２とやり取りして、これらのコンポーネントが提供するサービスを利用できる。
【０２１９】
図２７に示す構成において、システム２７００のソフトウェアコンポーネント２７１８、２７２０、および２７２２が、サーバ２７１２上に実装されたものとして示される。また、他の実施形態において、システム２７００のコンポーネントのうちの１つ以上および／またはこれらのコンポーネントが提供するサービスのうちの１つ以上は、クライアントコンピューティングデバイス２７０２、２７０４、２７０６、および／または２７０８のうちの１つ以上によって実現されてもよい。次に、クライアントコンピューティングデバイスを操作しているユーザは、１つ以上のクライアントアプリケーションを利用して、これらのコンポーネントが提供するサービスを使用してもよい。これらのコンポーネントは、ハードウェア、ファームウェア、ソフトウェア、またはそれらの組合せで実現されてもよい。さまざまな異なるシステム構成が可能であり、これらは、分散型システム２７００とは異なってもよいことを理解されたい。よって、図２７に示す実施形態は、実施形態のシステムを実現するための分散システムの一例であり、限定を意図したものではない。
【０２２０】
クライアントコンピューティングデバイス２７０２、２７０４、２７０６、および／または２７０８は、さまざまな種類のコンピュータシステムを含んでもよい。たとえば、クライアントコンピューティングデバイスは、Ｍｉｃｒｏｓｏｆｔ  Ｗｉｎｄｏｗｓ  Ｍｏｂｉｌｅ（登録商標）などのソフトウェアおよび／またはｉＯＳ、Ｗｉｎｄｏｗｓ（登録商標）  Ｐｈｏｎｅ、Ａｎｄｒｏｉｄ、ＢｌａｃｋＢｅｒｒｙ  １０、Ｐａｌｍ  ＯＳなどのいろいろなモバイルオペレーティングシステムを実行する手のひらサイズのポータブルデバイス（たとえば、ｉＰｈｏｎｅ（登録商標）、携帯電話、ｉＰａｄ（登録商標）、コンピューティングタブレット、携帯情報端末（ＰＤＡ））またはウェアラブルデバイス（たとえば、Ｇｏｏｇｌｅ  Ｇｌａｓｓ（登録商標）ヘッドマウントディスプレイ）を含んでもよい。デバイスは、さまざまなインターネット関連アプリ、電子メール、ショートメッセージサービス（ＳＭＳ）アプリケーションなど、さまざまなアプリケーションをサポートしてもよく、さまざまな他の通信プロトコルを使用してもよい。また、クライアントコンピューティングデバイスは、一例として、さまざまなバージョンのＭｉｃｒｏｓｏｆｔ  Ｗｉｎｄｏｗｓ（登録商標）、Ａｐｐｌｅ  Ｍａｃｉｎｔｏｓｈ（登録商標）、および／またはＬｉｎｕｘ（登録商標）オペレーティングシステムを実行するパーソナルコンピュータおよび／またはラップトップコンピュータを含む、汎用パーソナルコンピュータを含んでもよい。クライアントコンピューティングデバイスは、これらに限定されないが、たとえば、Ｇｏｏｇｌｅ  Ｃｈｒｏｍｅ  ＯＳなど、いろいろなＧＮＵ／Ｌｉｎｕｘ（登録商標）オペレーティングシステムを含む、流通している各種のＵＮＩＸ（登録商標）またはＵＮＩＸ（登録商標）に似たオペレーティングシステムを実行するワークステーションコンピュータであり得る。また、クライアントコンピューティングデバイスは、シンクライアントコンピュータ、インターネット対応のゲーミングシステム（たとえば、Ｋｉｎｅｃｔ（登録商標）ジェスチャ入力装置付きまたは無しのＭｉｃｒｏｓｏｆｔ  Ｘｂｏｘのゲーミングコンソール）、および／またはパーソナルメッセージングデバイスなど、ネットワーク（複数可）２７１０で通信可能な電子機器を含んでもよい。
【０２２１】
図２７の分散型システム２７００は、４つのクライアントコンピューティングデバイスとともに示されているが、任意の数のクライアントコンピューティングデバイスがサポートされてもよい。センサ付きデバイスなど、他のデバイスがサーバ２７１２とやり取りを行ってもよい。
【０２２２】
分散型システム２７００におけるネットワーク（複数可）２７１０は、これらに限定されないが、ＴＣＰ／ＩＰ（Transmission Control Protocol/Internet Protocol）、ＳＮＡ（Systems Network Architecture）、ＩＰＸ（Internet Packet Exchange）、ＡｐｐｌｅＴａｌｋなどを含む、各種の利用可能なプロトコルを使用したデータ通信をサポートできる、当業者にとってなじみの任意の種類のネットワークであってもよい。単に一例として、ネットワーク（複数可）２７１０は、ＬＡＮ（Local Area Network）、Ｅｔｈｅｒｎｅｔ（登録商標）ベースのネットワーク、トークンリング、ワイドエリアネットワーク、インターネット、仮想ネットワーク、ＶＰＮ（Virtual Private Network）、イントラネット、エクストラネット、ＰＳＴＮ（Public Switched Telephone Network）、赤外線ネットワーク、ワイヤレスネットワーク（たとえば、ＩＥＥＥ（Institute Of Electrical And Electronics）８０２．１１スイートのプロトコル、Ｂｌｕｅｔｏｏｔｈ（登録商標）、および／またはその他のワイヤレスプロトコルのうちのいずれかの下で動作するネットワーク）、および／またはこれらの任意の組合せならびに／もしくは他のネットワークで有り得る。
【０２２３】
サーバ２７１２は、１つ以上の汎用コンピュータ、専用サーバコンピュータ（一例として、ＰＣ（Personal Computer）サーバ、ＵＮＩＸ（登録商標）サーバ、ミッドレンジ・サーバ、メインフレーム・コンピュータ、ラックマウント式のサーバなどを含む）、サーバファーム、サーバ・クラスタ、またはその他の適切な配置および／または組合せから構成されてもよい。サーバ２７１２は、仮想オペレーティングシステムを実行している１つ以上の仮想マシン、または仮想化を伴う他のコンピューティングアーキテクチャを含み得る。論理記憶装置の１つ以上のフレキシブルプールを仮想化して、サーバ用の仮想記憶装置を維持することができる。仮想ネットワークは、ソフトウェア定義ネットワーキングを使用して、サーバ２７１２によって制御することができる。さまざまな実施形態において、サーバ２７１２は、上記の開示において説明した１つ以上のサービスまたはソフトウェア・アプリケーションを実行するようになされてもよい。たとえば、サーバ２７１２は、本開示の実施形態に従って上述した処理を行うためのサーバに対応してもよい。
【０２２４】
サーバ２７１２は、上述のオペレーティングシステムのいずれかおよび市販されているサーバオペレーティングシステムのうちのいずれかを含む、オペレーティングシステムを実行してもよい。また、サーバ２７１２は、ＨＴＴＰ（Hypertext Transport Protocol）サーバ、ＦＴＰ（File Transfer Protocol）サーバ、ＣＧＩ（Common Gateway Interface）サーバ、ＪＡＶＡ（登録商標）サーバ、データベースサーバなどを含む、各種の追加のサーバアプリケーションおよび／またはミッドティア・アプリケーションを実行してもよい。例示的なデータベースサーバとして、Ｏｒａｃｌｅ、Ｍｉｃｒｏｓｏｆｔ、Ｓｙｂａｓｅ、ＩＢＭ（International Business Machines）などから市販されているデータベースサーバが挙げられるが、これらに限定されない。
【０２２５】
いくつかの実装形態において、サーバ２７１２は、クライアントコンピューティングデバイス２７０２、２７０４、２７０６、および２７０８のユーザから受信したデータフィードおよび／またはイベント更新を分析および１つにまとめるための１つ以上のアプリケーションを含んでもよい。例として、データフィードおよび／またはイベント更新は、これらに限定されないが、１つ以上のサードパーティ情報ソースおよび連続したデータストリームから受信するＴｗｉｔｔｅｒ（登録商標）フィード、Ｆａｃｅｂｏｏｋ（登録商標）更新またはリアルタイム更新を含んでもよく、当該１つ以上のサードパーティ情報ソースおよび連続したデータストリームは、センサーデータアプリケーション、チッカー（financial ticker）、ネットワークパフォーマンス測定ツール（たとえば、ネットワーク監視およびトラフィック管理アプリケーション）、クリックストリーム分析ツール、自動車交通量監視などに関するリアルタイムイベントを含み得る。また、サーバ２７１２は、クライアントコンピューティングデバイス２７０２、２７０４、２７０６、および２７０８の１つ以上の表示装置を介してデータフィードおよび／またはリアルタイムイベントを表示するための１つ以上のアプリケーションを含んでもよい。
【０２２６】
また、分散型システム２７００は、１つ以上のデータベース２７１４および２７１６を含んでもよい。これらのデータベースは、ユーザインタラクション情報、使用パターン情報、適合規則情報、および本開示の実施形態が使用する他の情報などの情報を格納するための機構を提供してもよい。データベース２７１４および２７１６は、いろいろな場所に存在してもよい。例として、データベース２７１４および２７１６のうちの１つ以上は、サーバ２７１２にローカルな（および／または存在する）非一時的な記憶媒体上に存在してもよい。これに代えて、データベース２７１４および２７１６は、サーバ２７１２から遠隔の場所に存在し、ネットワークベースまたは専用の接続を通してサーバ２７１２と通信していてもよい。一組の実施形態において、データベース２７１４および２７１６は、ＳＡＮ（Storage-Area Network）に存在してもよい。同様に、サーバ２７１２に起因する機能を実行するための必要なファイルは、いずれも、サーバ２７１２上のローカルな場所および／またはサーバ２７１２から遠隔の場所に、適宜、格納されてもよい。一組の実施形態において、データベース２７１４および２７１６は、ＳＱＬフォーマットのコマンドに応答してデータ格納、更新、および取り出すようになされたＯｒａｃｌｅが提供するデータベースなど、リレーショナルデータベースを含んでもよい。
【０２２７】
いくつかの実施形態において、クラウド環境は、１つ以上のサービスを提供してもよい。図２８は、本開示の実施形態に係る、サービスがクラウドサービスとして提供され得るシステム環境２８００の１つ以上のコンポーネントを簡略化したブロック図である。図２８に示す実施形態において、システム環境２８００は、１つ以上のクライアントコンピューティングデバイス２８０４、２８０６、および２８０８を含む。１つ以上のクライアントコンピューティングデバイス２８０４、２８０６、および２８０８は、クラウドサービスを提供するクラウドインフラストラクチャシステム２８０２とやり取りするために、ユーザによって使用され得る。クラウドインフラストラクチャシステム２８０２は、サーバ２７１２に関して上述したものを含み得る１つ以上のコンピュータおよび／またはサーバを備えてもよい。
【０２２８】
図２８に示すクラウドインフラストラクチャシステム２８０２が、図示されたコンポーネント以外のコンポーネントを有し得ることを理解されたい。さらに、図２８に示す実施形態は、本開示の実施形態を組み込み得るクラウドインフラストラクチャシステムの一例に過ぎない。他のいくつかの実施形態において、クラウドインフラストラクチャシステム２８０２は、図に示すコンポーネントよりも多いまたは少ないコンポーネントを有してもよく、２つ以上のコンポーネントを組み合わせてもよく、またはコンポーネントの構成または配置が異なっていてもよい。
【０２２９】
クライアントコンピューティングデバイス２８０４、２８０６、および２８０８は、クライアントコンピューティングデバイス２７０２、２７０４、２７０６、および２７０８に関して上述したものと同様のデバイスであってもよい。クライアントコンピューティングデバイス２８０４、２８０６、および２８０８は、ウェブブラウザ、プロプライエタリ・クライアントアプリケーション（たとえば、Oracle Forms）、または他のアプリケーションなどのクライアントアプリケーションを操作するように構成されてもよい。クライアントアプリケーションは、クライアントコンピューティングデバイスのユーザによって、クラウドインフラストラクチャシステム２８０２とやり取りを行って、クラウドインフラストラクチャシステム２８０２が提供するサービスを使用するために、使用されてもよい。例示的なシステム環境２８００は、３つのクライアントコンピューティングデバイスとともに示されているが、任意の数のクライアントコンピューティングデバイスがサポートされてもよい。センサ付きデバイスなど、他のデバイスがクラウドインフラストラクチャシステム２８０２とやり取りを行ってもよい。
【０２３０】
ネットワーク（複数可）２８１０は、クライアントコンピューティングデバイス２８０４、２８０６、および２８０８と、クラウドインフラストラクチャシステム２８０２との間のデータの通信およびやり取りを容易にすることができる。各ネットワークは、ネットワーク（複数可）２７１０に関して上述したプロトコルを含む、各種の流通しているプロトコルを使用したデータ通信をサポートできる、当業者にとってなじみの任意の種類のネットワークであってもよい。
【０２３１】
特定の実施形態において、クラウドインフラストラクチャシステム２８０２が提供するサービスは、クラウドインフラストラクチャシステムのユーザが要求すると、ユーザで使用できるようになるサービスのホストを含んでもよい。また、オンラインのデータ記憶およびバックアップソリューション、ウェブベースの電子メールサービス、ホストされたオフィススイートドキュメント共同作業サービス、データベース処理、管理されたテクニカルサポートサービスなどを含むさまざまな他のサービスが提供されてもよいが、これらに限定されない。クラウドインフラストラクチャシステムが提供するサービスは、そのユーザのニーズを満たすために、動的にスケール変更できる。
【０２３２】
特定の実施形態において、クラウドインフラストラクチャシステム２８０２が提供するサービスを具体的にインスタンス化したものは、本明細書において、「サービスインスタンス」と称される場合がある。一般に、クラウドサービスプロバイダのシステムからの、インターネットなどの通信ネットワークを介してユーザで使用できるようにされるいずれのサービスも、「クラウドサービス」と称される。通常、パブリッククラウド環境において、クラウドサービスプロバイダのシステムを構成するサーバおよびシステムは、顧客所有のオンプレミス・サーバおよびシステムとは異なる。たとえば、クラウドサービスプロバイダのシステムは、アプリケーションをホストしてもよく、ユーザは、インターネットなどの通信ネットワークを介して、要求に基づいてアプリケーションをオーダーして使用すればよい。
【０２３３】
いくつかの例において、コンピュータネットワークのクラウドインフラストラクチャにおけるサービスは、保護されたコンピュータネットワークのストレージへのアクセス、ホストされたデータベース、ホストされたウェブサーバ、ソフトウェア・アプリケーション、またはクラウドベンダーがユーザに提供するまたは当技術分野で周知の他のサービスを含んでもよい。たとえば、サービスは、インターネットを通したクラウド上のリモートストレージへのパスワード保護されたアクセスを含み得る。別の例として、サービスは、ウェブサービスベースのホストされたリレーショナルデータベース、およびネットワークで結ばれた開発者が私的使用するためのスクリプト言語ミドルウェアエンジンを含み得る。別の例として、サービスは、クラウドベンダーのウェブサイト上にホストされた電子メールソフトウェア・アプリケーションへのアクセスを含み得る。
【０２３４】
特定の実施形態において、クラウドインフラストラクチャシステム２８０２は、セルフサービスで、サブスクリプション方式の、伸縮自在にスケーラブルで、信頼でき、高い可用性を持つセキュアな方法で顧客に届けられるアプリケーションのスイート、ミドルウェア、およびデータベースサービス提供物を含んでもよい。このようなクラウドインフラストラクチャシステムの例が、本願の譲受人が提供するオラクルパブリッククラウド（Oracle Public Cloud）である。
【０２３５】
また、クラウドインフラストラクチャシステム２８０２は、「ビッグデータ」に関する演算および分析サービスを提供してもよい。用語「ビッグデータ」は、一般に、大量のデータを可視化する、トレンドを検出する、および／またはデータとやり取りするためにアナリストおよび研究者によって格納および操作され得る極めて大きなデータセットを指す。このビッグデータおよび関連アプリケーションは、多くのレベルおよび異なる規模で、インフラストラクチャシステムによってホストおよび／または操作され得る。このようなデータを提示するために、またはこのデータに対する外力またはデータが表すものをシミュレーションするために、並列にリンクされた何十、何百、または何千ものプロセッサがこのデータに作用できる。これらのデータセットは、データベースにおいて、または構造化モデルに応じて編成されたもののような構造化データ、および／または非構造化データ（たとえば、Ｅメール、画像、データＢＬＯＢ（binary large objects）、ウェブページ、複雑なイベント処理）を伴い得る。より多くの（または、より少ない）コンピューティングリソースを比較的素早く目標に集めるための実施形態の能力を活用することによって、企業、政府関係機関、研究機関、私人、同じ意見を持った個人同士のグループもしくは組織、または他のエンティティからの要求に基づいて、大きなデータセットに対してタスクを実行するにあたり、クラウドインフラストラクチャシステムをより利用可能にできる。
【０２３６】
さまざまな実施形態において、クラウドインフラストラクチャシステム２８０２は、クラウドインフラストラクチャシステム２８０２が提供するサービスへの顧客のサブスクリプションを自動的にプロビジョニング、管理、および追跡するようになされてもよい。クラウドインフラストラクチャシステム２８０２は、それぞれ異なるデプロイメントモデルを介して、クラウドサービスを提供してもよい。たとえば、サービスは、パブリッククラウドモデル下で提供されてもよい。パブリッククラウドモデルでは、クラウドインフラストラクチャシステム２８０２は、（たとえば、オラクルコーポレーション所有の）クラウドサービスを提供する組織が所有しており、一般大衆またはそれぞれ異なる産業企業でサービスが使用できるようになる。別の例として、サービスは、クラウドインフラストラクチャシステム２８０２が１つの組織のためだけに動かされるプライベートクラウドモデル下で提供されてもよく、組織内の１つ以上のエンティティのためのサービスを提供してもよい。また、クラウドサービスは、コミュニティクラウドモデル下で提供されてもよい。コミュニティクラウドモデルでは、クラウドインフラストラクチャシステム２８０２およびクラウドインフラストラクチャシステム２８０２によって提供されるサービスが、関連コミュニティ内のいくつかの組織によって共有される。クラウドサービスは、ハイブリッドクラウドモデル下で提供されてもよい。ハイブリッドクラウドモデルとは、２つ以上の異なるモデルの組合せである。
【０２３７】
いくつかの実施形態において、クラウドインフラストラクチャシステム２８０２が提供するサービスは、ＳａａＳ（Software as a Service）カテゴリ、ＰａａＳ（Platform as a Service）カテゴリ、ＩａａＳ（Infrastructure as a Service）カテゴリ、または混合サービスを含む、他のカテゴリ下で提供される１つ以上のサービスを含んでもよい。顧客は、サブスクリプションのオーダーによって、クラウドインフラストラクチャシステム２８０２が提供する１つ以上のサービスをオーダーしてもよい。次に、クラウドインフラストラクチャシステム２８０２は、処理を実行して、顧客のサブスクリプションのオーダーにあるサービスを提供する。
【０２３８】
いくつかの実施形態において、クラウドインフラストラクチャシステム２８０２が提供するサービスは、アプリケーションサービス、プラットフォームサービス、およびインフラストラクチャサービスを含んでもよいが、これらに限定されない。いくつかの例において、アプリケーションサービスは、ＳａａＳサービスを介してクラウドインフラストラクチャシステムによって提供されてもよい。ＳａａＳプラットフォームは、ＳａａＳカテゴリに該当するクラウドサービスを提供するように構成されてもよい。たとえば、ＳａａＳプラットフォームは、オンデマンドアプリケーションのスイートを構築し、統合開発／デプロイメントプラットフォームに届けるための機能を提供してもよい。ＳａａＳプラットフォームは、ＳａａＳサービスを提供するための基礎となるソフトウェアおよびインフラストラクチャを管理および制御してもよい。ＳａａＳプラットフォームが提供するサービスを利用することによって、顧客は、クラウドインフラストラクチャシステム上で実行されるアプリケーションを利用できる。顧客は、アプリケーションサービスを、別のライセンスおよびサポートを購入する必要なしに、入手できる。さまざまな異なるＳａａＳサービスが提供されてもよい。例として、大きな組織のための販売実績管理、エンタープライズ統合、およびビジネス上の柔軟性に対するソリューションを提供するサービスなどが挙げられるが、これに限定されない。
【０２３９】
いくつかの実施形態において、プラットフォームサービスは、ＰａａＳプラットフォームを介してクラウドインフラストラクチャシステム２８０２によって提供されてもよい。ＰａａＳプラットフォームは、ＰａａＳカテゴリに該当するクラウドサービスを提供するように構成されてもよい。プラットフォームサービスとして、組織（Ｏｒａｃｌｅなど）が既存のアプリケーションを共有の共通アーキテクチャ上に１つにまとめることを可能にするサービス、およびプラットフォームが提供する共有サービスを活用する新しいアプリケーションを作る能力などが挙げられるが、これらに限定されない。ＰａａＳプラットフォームは、ＰａａＳサービスを提供するための、基礎となるソフトウェアおよびインフラストラクチャを管理および制御してもよい。顧客は、ＰａａＳ  クラウドインフラストラクチャシステム２８０２が提供するサービスを、ライセンスおよびサポートを別に購入する必要なしに、取得できる。プラットフォームサービスとして、ＪＣＳ（Oracle Java Cloud Service）、ＤＢＣＳ（Oracle Database Cloud Service）など、およびその他が挙げられるが、これらに限定されない。
【０２４０】
ＰａａＳプラットフォームが提供するサービスを利用することによって、顧客は、クラウドインフラストラクチャシステムがサポートするプログラミング言語およびツールを採用することができ、また、デブロイされたサービスを管理することができる。いくつかの実施形態において、クラウドインフラストラクチャシステムが提供するプラットフォームサービスは、データベース・クラウドサービス、ミドルウェアクラウドサービス（たとえば、Ｏｒａｃｌｅ  Ｆｕｓｉｏｎ  Ｍｉｄｄｌｅｗａｒｅサービス）、およびＪａｖａクラウドサービスを含んでもよい。一実施形態において、データベース・クラウドサービスは、共有サービスデプロイメントモデルをサポートしてもよい。共有サービスデプロイメントモデルは、組織が、データベースリソースをプールし、データベース・クラウドの形のサービスとしてデータベースを顧客に提供することを可能にする。ミドルウェアクラウドサービスは、顧客がさまざまな業務アプリケーションを開発およびデプロイするためのプラットフォームを提供してもよく、Ｊａｖａクラウドサービスは、顧客がクラウドインフラストラクチャシステムにおいてＪａｖａアプリケーションをデプロイするためのプラットフォームを提供してもよい。
【０２４１】
クラウドインフラストラクチャシステムにおいて、ＩａａＳプラットフォームによって、さまざまな異なるインフラストラクチャサービスが提供されてもよい。インフラストラクチャサービスは、ＳａａＳプラットフォームおよびＰａａＳプラットフォームが提供するサービスを利用している顧客のための、ストレージ、ネットワーク、および他の基本的なコンピューティングリソースなど、基礎となるコンピューティングリソースの管理および制御を容易にする。
【０２４２】
また、特定の実施形態において、クラウドインフラストラクチャシステム２８０２は、クラウドインフラストラクチャシステムの顧客にさまざまなサービスを提供するために使用されるリソースを提供するためのインフラストラクチャ・リソース２８３０を含んでもよい。一実施形態において、インフラストラクチャ・リソース２８３０は、ＰａａＳプラットフォームおよびＳａａＳプラットフォームが提供するサービスを実行するための、サーバなどのハードウェアと、ストレージと、ネットワーキング・リソースとの予め統合された最適な組合せ、および他のリソースを含んでもよい。
【０２４３】
いくつかの実施形態において、クラウドインフラストラクチャシステム２８０２におけるリソースは、複数のユーザによって共有され、要求に応じて、動的に再割り当てされてもよい。これに加えて、リソースは、それぞれ異なるタイムゾーンのユーザに割り当てられてもよい。たとえば、クラウドインフラストラクチャシステム２８０２は、第１のタイムゾーンにいる第１セットのユーザが、指定された時間数、クラウドインフラストラクチャシステムのリソースを利用することを可能にした後、同じリソースを、異なるタイムゾーンに位置する別のセットのユーザへ再割り当てすることを可能にし、リソースの利用を最大限に活用することができる。
【０２４４】
特定の実施形態において、クラウドインフラストラクチャシステム２８０２のそれぞれ異なるコンポーネントまたはモジュールによって共有されて、クラウドインフラストラクチャシステム２８０２によるサービスのプロビジョニングを可能にするいくつかの内部の共有サービス２８３２が提供されてもよい。これらの内部の共有サービスは、セキュリティ／素性サービス、統合サービス、エンタープライズリポジトリサービス、エンタープライズマネージャサービス、ウイルススキャン／ホワイトリストサービス、可用性の高いバックアップ・リカバリサービス、クラウドサポート、Ｅメールサービス、通知サービス、ファイル転送サービスなどを可能にするためのサービスを含み得るが、これらに限定されない。
【０２４５】
特定の実施形態において、クラウドインフラストラクチャシステム２８０２は、クラウドインフラストラクチャシステムにおけるクラウドサービス（たとえば、ＳａａＳサービス、ＰａａＳサービス、およびＩａａＳサービス）の包括的な管理を提供してもよい。一実施形態において、クラウド管理機能は、クラウドインフラストラクチャシステム２８０２などが受信した顧客のサブスクリプションをプロビジョニング、管理、および追跡するための機能を含んでもよい。
【０２４６】
一実施形態において、図２８に示すように、クラウド管理機能は、オーダー管理モジュール２８２０、オーダーオーケストレーションモジュール２８２２、オーダープロビジョニングモジュール２８２４、オーダー管理／監視モジュール２８２６、および素性管理モジュール２８２８など、１つ以上のモジュールによって提供されてもよい。これらのモジュールは、１つ以上のコンピュータおよび／またはサーバを含んでもよく、または、これらを使用して提供されてもよい。１つ以上のコンピュータおよび／またはサーバは、汎用コンピュータ、専用サーバコンピュータ、サーバファーム、サーバ・クラスタ、またはその他の適切な配置および／または組合せであり得る。
【０２４７】
例示的な動作において、ステップ２８３４において、クライアントコンピューティングデバイス２８０４、２８０６、または２８０８などのクライアントデバイスを使用している顧客は、クラウドインフラストラクチャシステム２８０２が提供する１つ以上のサービスを要求し、クラウドインフラストラクチャシステム２８０２が提供する１つ以上のサービスのサブスクリプションのオーダーをすることによって、クラウドインフラストラクチャシステム２８０２とやり取りしてもよい。特定の実施形態において、顧客は、クラウドＵＩ２８１２、クラウドＵＩ２８１４、および／またはクラウドＵＩ２８１６などのクラウドユーザインタフェース（ＵＩ：User Interface）にアクセスし、これらのＵＩを介してサブスクリプションのオーダーを行ってもよい。顧客がオーダーをすることに応答してクラウドインフラストラクチャシステム２８０２が受信したオーダー情報は、この顧客を特定する情報、および、顧客がサブスクリプションをする予定である、クラウドインフラストラクチャシステム２８０２が提供する１つ以上のサービスを含んでもよい。
【０２４８】
ステップ２８３６において、顧客から受けたオーダー情報を、オーダーデータベース２８１８に格納してもよい。これが、新しいオーダーである場合、オーダーについての新しい記録を作成してもよい。一実施形態において、オーダーデータベース２８１８は、クラウドインフラストラクチャシステム２８０２によって操作され、他のシステム要素と共に操作されるいくつかのデータベースのうちの１つであり得る。
【０２４９】
ステップ２８３８において、オーダー情報が、オーダー管理モジュール２８２０に転送されてもよい。オーダー管理モジュール２８２０は、オーダーの確認、確認後のオーダーの登録など、オーダーに関する課金機能および会計機能を実行するように構成されてもよい。
【０２５０】
ステップ２８４０において、オーダーに関する情報は、オーダーオーケストレーションモジュール２８２２に伝送されてもよい。オーダーオーケストレーションモジュール２８２２は、顧客が行ったオーダーに関するサービスおよびリソースのプロビジョニングをオーケストレーションするように構成される。場合によっては、オーダーオーケストレーションモジュール２８２２は、オーダープロビジョニングモジュール２８２４のサービスをプロビジョニングのために使用してもよい。特定の実施形態において、オーダーオーケストレーションモジュール２８２２は、各オーダーに対応付けられたビジネスプロセスの管理を可能にし、ビジネスロジックを適用して、オーダーがプロビジョニングに進むべきかどうかを判断する。
【０２５１】
図２８に表した実施形態に示すように、ステップ２８４２において、新しいサブスクリプションのオーダーを受けると、オーダーオーケストレーションモジュール２８２２は、オーダープロビジョニングモジュール２８２４に、リソースを割り当ててサブスクリプションのオーダーを満たすために必要なリソースを構成するよう、要求を送る。オーダープロビジョニングモジュール２８２４は、顧客が申し込んだサービスのためのリソースの割り当てを可能にする。オーダープロビジョニングモジュール２８２４は、クラウドインフラストラクチャシステム２８０２が提供するクラウドサービスと、要求されたサービスを提供するためのリソースをプロビジョニングするために使用される物理実施層との間に、抽象度を提供する。これによって、サービスおよびリソースがオンザフライで実際にプロビジョニングまたは予めプロビジョニングされて、要求された場合にのみ割り当て／アサインされたかどうかなどの実施詳細から、オーダーオーケストレーションモジュール２８２２を切り離すことが可能になる。
【０２５２】
ステップ２８４４において、いったんサービスおよびリソースがプロビジョニングされると、要求されたサービスが使える用意が整ったことを示す通知を、サブスクリプションをしている顧客に送ってもよい。ある場合において、要求されたサービスを顧客が使用し始めることを可能にする情報（たとえば、リンク）が、顧客に送られてもよい。
【０２５３】
ステップ２８４６において、顧客のサブスクリプションのオーダーが、オーダー管理／監視モジュール２８２６によって管理および追跡されてもよい。場合によっては、オーダー管理／監視モジュール２８２６は、顧客のサブスクリプションしているサービスの使用に関する使用統計データを収集するように構成されてもよい。たとえば、使用されたストレージの量、転送されたデータの量、ユーザの数、およびシステムの稼働時間およびシステムの休止時間などについての統計データが収集されてもよい。
【０２５４】
特定の実施形態において、クラウド・インフラストラクチャ・システム２８００は、素性管理モジュール２８２８を含んでもよい。素性管理モジュール２８２８は、クラウド・インフラストラクチャ・システム２８００におけるアクセス管理および承認サービスなどの素性サービスを提供するように構成される。いくつかの実施形態において、素性管理モジュール２８２８は、クラウドインフラストラクチャシステム２８０２が提供するサービスを利用したい顧客についての情報を制御してもよい。このような情報は、このような顧客の素性を認証する情報、および、さまざまなシステムリソース（たとえば、ファイル、ディレクトリ、アプリケーション、通信ポート、メモリセグメントなど）に対してそれらの顧客がどのような操作を行うことが承認されているのかを記述する情報を含み得る。また、素性管理モジュール２８２８は、各顧客についての記述情報、およびその記述情報が誰によってどのようにアクセスおよび変更され得るかについての記述情報の管理を含んでもよい。
【０２５５】
図２９は、本開示の実施形態を実現するために使用され得る例示的なコンピュータシステム２９００を示す図である。いくつかの実施形態において、コンピュータシステム２９００を使用して、上述のさまざまなサーバおよびコンピュータシステムのうちのいずれかを実現してもよい。図２９に示すように、コンピュータシステム２９００は、バス・サブシステム２９０２を介していくつかの周辺サブシステムと通信する処理装置２９０４を含むさまざまなサブシステムを備える。これらの周辺サブシステムは、処理高速化ユニット２９０６と、Ｉ／Ｏサブシステム２９０８と、ストレージサブシステム２９１８と、通信サブシステム２９２４とを備えてもよい。ストレージサブシステム２９１８は、有形のコンピュータ読み取り可能な記憶媒体２９２２と、システムメモリ２９１０とを備えてもよい。
【０２５６】
バス・サブシステム２９０２は、コンピュータシステム２９００のさまざまなコンポーネントおよびサブシステムを互いに意図した通りに通信させるための機構を提供する。バス・サブシステム２９０２は、１つのバスとして図示されているが、バス・サブシステムの別の実施形態は、複数のバスを利用してもよい。バス・サブシステム２９０２は、メモリコントローラのメモリバス、周辺バス、および各種のバスアーキテクチャを使用するローカルバスを含む、いくつかの種類のバス構造のうちのいずれかであってもよい。たとえば、このようなアーキテクチャは、ＩＳＡ（Industry Standard Architecture）バス、ＭＣＡ（Micro Channel Architecture）バス、ＥＩＳＡ（Enhanced ISA）バス、ＶＥＳＡ（Video Electronics Standards Association）ローカルバス、およびＰＣＩ（Peripheral Component Interconnect）バスを含んでもよく、これらは、ＩＥＥＥ  Ｐ１３８６．１標準規格に準拠して製造されるＭｅｚｚａｎｉｎｅバスなどとして実現され得る。
【０２５７】
処理サブシステム２９０４は、コンピュータシステム２９００の動作を制御し、１つ以上の処理装置２９３２、２９３４などを備えてもよい。処理装置は、シングルコア・プロセッサまたはマルチコア・プロセッサを含む１つ以上のプロセッサ、プロセッサの１つ以上のコア、またはそれらの組合せを含んでもよい。いくつかの実施形態において、処理サブシステム２９０４は、グラフィックスプロセッサ、デジタル・シグナル・プロセッサ（ＤＳＰ）など、１つ以上の専用コプロセッサを含み得る。いくつかの実施形態において、処理サブシステム２９０４の処理装置の一部またはすべては、特定用途向け集積回路（ＡＳＩＣ）、またはフィールド・プログラマブル・ゲート・アレイ（ＦＰＧＡ）など、カスタム回路を使用して実現され得る。
【０２５８】
いくつかの実施形態において、処理サブシステム２９０４に含まれる処理装置は、システムメモリ２９１０に、または、コンピュータ読み取り可能な記憶媒体２９２２上に格納された命令を実行できる。さまざまな実施形態において、処理装置は、いろいろなプログラムまたはコード命令を実行し、複数の同時に実行しているプログラムまたはプロセスを維持できる。いつでも、実行されるプログラムコードの一部またはすべては、システムメモリ２９１０に、および／または、１つ以上の記憶装置上を潜在的に含む、コンピュータ読み取り可能な記憶媒体２９２２上に存在し得る。適したプログラミングを通して、処理サブシステム２９０４は、さまざまな機能を提供できる。
【０２５９】
特定の実施形態において、カスタマイズされた処理を実行するための、または、コンピュータシステム２９００によって実行される全体的な処理が高速化するように、処理サブシステム２９０４によって実行される処理のうちのいくつかの負荷を軽減させるための処理高速化ユニット２９０６が提供されてもよい。
【０２６０】
Ｉ／Ｏサブシステム２９０８は、コンピュータシステム２９００に情報を入力するためのデバイスおよび機構、ならびに／またはコンピュータシステム２９００から、もしくはコンピュータシステム２９００を介して情報を出力するためのデバイスおよび機構を含んでもよい。一般に、用語「入力装置」の使用は、コンピュータシステム２９００に情報を入力するためのあらゆる種類のデバイスおよび機構を含む意図がある。ユーザインタフェース入力装置は、たとえば、キーボード、マウスもしくはトラックボールなどのポインティングデバイス、タッチパッドもしくはディスプレイに組み込まれたタッチスクリーン、スクロールホイール、クリックホイール、ダイヤル、ボタン、スイッチ、キーパッド、ボイスコマンド認識システムを有する音声入力装置、マイクロホン、および他の種類の入力装置を含んでもよい。また、ユーザインタフェース入力装置は、ユーザが入力装置を制御するおよび入力装置とやり取りすることを可能にするＭｉｃｒｏｓｏｆｔ  Ｋｉｎｅｃｔ（登録商標）モーションセンサなどの動き検知デバイスおよび／またはジェスチャ認識デバイス、Ｍｉｃｒｏｓｏｆｔ  Ｘｂｏｘ（登録商標）３６０ゲームコントローラ、ジェスチャコマンドおよび音声コマンドを使用した入力を受信するためのインタフェースを提供するデバイスを含んでもよい。ユーザインタフェース入力装置は、ユーザからの目のアクティビティ（たとえば、写真を撮影しながらおよび／またはメニュー選択を行いながら「まばたきすること」）を検出し、アイ・ジェスチャを、入力装置（たとえば、Ｇｏｏｇｌｅ  Ｇｌａｓｓ（登録商標））への入力として変形させるＧｏｏｇｌｅ  Ｇｌａｓｓ（登録商標）まばたき検出装置などのアイ・ジェスチャ認識デバイスを含んでもよい。これに加えて、ユーザインタフェース入力装置は、ユーザが、ボイスコマンドを通して、音声認識システム（たとえば、Ｓｉｒｉ（登録商標）ナビゲータ）とやり取りすることを可能にする音声認識検知デバイスを含んでもよい。
【０２６１】
ユーザインタフェース入力装置の他の例に、３次元（３Ｄ）マウス、ジョイスティックもしくはポインティングスティック、ゲームパッドおよびグラフィックタブレット、ならびに、スピーカ、デジタルカメラ、デジタルカムコーダー、ポータブルメディアプレーヤ、ウェブカム、イメージスキャナ、指紋スキャナ、バーコードリーダ３Ｄスキャナ、３Ｄプリンタ、レーザー測距器、および視線追跡装置などのオーディオ／ビジュアル装置などが挙げられるが、これらに限定されない。これに加えて、ユーザインタフェース入力装置は、たとえば、コンピュータ断層撮影法、磁気共鳴画像、ポジトロン・エミッション・トモグラフィー、超音波検査デバイスなど、医用画像入力装置を含んでもよい。また、ユーザインタフェース入力装置は、たとえば、ＭＩＤＩキーボード、デジタル楽器などの音声入力装置を含んでもよい。
【０２６２】
ユーザインタフェース出力装置は、表示サブシステム、インジケーターライト、または音声出力装置などの非ビジュアル装置を含んでもよい。表示サブシステムは、ブラウン管（ＣＲＴ）、液晶ディスプレイ（ＬＣＤ）またはプラズマディスプレイを使用するものなどのフラットパネル表示装置、投影装置、タッチスクリーンなどであってもよい。一般に、用語「出力装置」の使用は、コンピュータシステム２９００からユーザまたは他のコンピュータに情報を出力するためのあらゆる種類のデバイスおよび機構を含むよう意図される。たとえば、ユーザインタフェース出力装置は、モニタ、プリンタ、スピーカ、ヘッドホン、自動車ナビゲーションシステム、作図装置、音声出力装置、およびモデムなど、視覚的に文字、図形、および音声／映像情報を伝えるいろいろな表示装置を含み得るが、これらに限定されない。
【０２６３】
ストレージサブシステム２９１８は、コンピュータシステム２９００が使用する情報を格納するためのリポジトリまたはデータストアを提供する。ストレージサブシステム２９１８は、いくつかの実施形態の機能を提供する基本プログラミング構成体およびデータ構成体を格納するための、有形の非一時的なコンピュータ読み取り可能な記憶媒体を提供する。処理サブシステム２９０４によって実行されると上述の機能を提供するソフトウェア（プログラム、コードモジュール、命令）が、ストレージサブシステム２９１８に格納されてもよい。ソフトウェアは、処理サブシステム２９０４の１つ以上の処理装置によって実行されてもよい。また、ストレージサブシステム２９１８は、本開示に応じて使用されるデータを格納するためのリポジトリを提供してもよい。
【０２６４】
ストレージサブシステム２９１８は、揮発性および不揮発性メモリ素子を含む、１つ以上の非一時的なメモリ素子を含んでもよい。図２９に示すように、ストレージサブシステム２９１８は、システムメモリ２９１０と、コンピュータ読み取り可能な記憶媒体２９２２とを備える。システムメモリ２９１０は、プログラムを実行中に命令およびデータを格納するための揮発性のメインＲＡＭ（Random Access Memory）、および、固定の命令が格納される不揮発性ＲＯＭ（Read Only Memory）またはフラッシュメモリを含む、いくつかのメモリを含んでもよい。いくつかの実装形態において、起動中などで、コンピュータシステム２９００内の要素間で情報を転送することを助ける基本ルーチンを含むＢＩＯＳ（Basic Input/Output System）は、通常、ＲＯＭに格納されてもよい。ＲＡＭは、通常、処理サブシステム２９０４が現在操作および実行していているデータおよび／またはプログラムモジュールを含む。いくつかの実装形態において、システムメモリ２９１０は、ＳＲＡＭ（Static Random Access Memory）またはＤＲＡＭ（Dynamic Random Access Memory）など、複数の異なる種類のメモリを含んでもよい。
【０２６５】
一例として、限定ではないが、図２９に示すように、システムメモリ２９１０は、クライアントアプリケーション、ウェブブラウザ、ミッドティア・アプリケーション、リレーショナルデータベース管理システム（ＲＤＢＭＳ）などのアプリケーションプログラム２９１２と、プログラムデータ２９１４と、オペレーティングシステム２９１６とを含んでもよい。例として、オペレーティングシステム２９１６は、さまざまなバージョンのＭｉｃｒｏｓｏｆｔ  Ｗｉｎｄｏｗｓ（登録商標）、Ａｐｐｌｅ  Ｍａｃｉｎｔｏｓｈ（登録商標）、および／もしくはＬｉｎｕｘオペレーティングシステム、いろいろな流通しているＵＮＩＸ（登録商標）もしくはＵＮＩＸに似たオペレーティングシステム（いろいろなＧＮＵ／Ｌｉｎｕｘオペレーティングシステム、Ｇｏｏｇｌｅ  Ｃｈｒｏｍｅ（登録商標）ＯＳなどを含むが、これらに限定されない）、ならびに／またはｉＯＳ、Ｗｉｎｄｏｗｓ（登録商標）Ｐｈｏｎｅ、Ａｎｄｒｏｉｄ（登録商標）ＯＳ、ＢｌａｃｋＢｅｒｒｙ（登録商標）１０ＯＳ、およびＰａｌｍ（登録商標）ＯＳオペレーティングシステムなど、モバイルオペレーティングシステムを含んでもよい。
【０２６６】
コンピュータ読み取り可能な記憶媒体２９２２は、いくつかの実施形態の機能を提供するプログラミング構成体およびデータ構成体を格納してもよい。処理サブシステム２９０４によって実行されると、プロセッサに上述の機能を提供するソフトウェア（プログラム、コードモジュール、命令）が、ストレージサブシステム２９１８に格納されてもよい。例として、コンピュータ読み取り可能な記憶媒体２９２２は、ハードディスクドライブなどの不揮発性メモリ、磁気ディスクドライブ、ＣＤ  ＲＯＭ、ＤＶＤ、Ｂｌｕ−Ｒａｙ（登録商標）ディスクなどの光ディスクドライブまたは他の光学媒体を含んでもよい。コンピュータ読み取り可能な記憶媒体２９２２は、Ｚｉｐ（登録商標）ドライブ、フラッシュメモリーカード、ＵＳＢ（Universal Serial Bus）フラッシュドライブ、ＳＤ（Secure Digital）カード、ＤＶＤディスク、デジタルビデオテープなどを含んでもよいが、これらに限定されない。また、コンピュータ読み取り可能な記憶媒体２９２２は、フラッシュメモリベースのＳＳＤ、エンタープライズフラッシュドライブ、ソリッドステートＲＯＭなど、不揮発性メモリに基づくＳＳＤ（Solid-State Drives）、ソリッドステートＲＡＭ、動的ＲＡＭ、静的ＲＡＭなど、揮発性メモリに基づくＳＳＤ、ＤＲＡＭベースのＳＳＤ、磁気抵抗ＲＡＭ（ＭＲＡＭ）ＳＳＤ、およびＤＲＡＭのＳＳＤとフラッシュメモリベースのＳＳＤとの組合せを使用するハイブリッドＳＳＤを含んでもよい。コンピュータ読み取り可能な媒体２９２２は、コンピュータ読み取り可能な命令、データ構造、プログラムモジュール、およびコンピュータシステム２９００用の他のデータのストレージを提供してもよい。
【０２６７】
また、特定の実施形態において、ストレージサブシステム２９１８は、コンピュータ読み取り可能な記憶媒体２９２２にさらに接続され得るコンピュータ読み取り可能な記憶媒体リーダ２９２０を含んでもよい。システムメモリ２９１０と合わせて、必要に応じてシステムメモリ２９１０と組み合わせて、コンピュータ読み取り可能な記憶媒体２９２２は、遠隔の記憶装置、ローカル記憶装置、固定記憶装置、および／またはリム―バブル記憶装置、ならびにコンピュータ読み取り可能な情報を格納するための記憶媒体を包括的に表してもよい。
【０２６８】
特定の実施形態において、コンピュータシステム２９００は、１つ以上の仮想マシンを実行するためのサポートを提供してもよい。コンピュータシステム２９００は、仮想マシンの構成および管理を容易にするためのハイパーバイザなどのプログラムを実行してもよい。各仮想マシンには、メモリ、コンピュータ（たとえば、プロセッサ、コア）、Ｉ／Ｏ、およびネットワーキング・リソースが割り当てられてもよい。各仮想マシンは、通常、それ自体のオペレーティングシステムを実行する。このオペレーティングシステムは、コンピュータシステム２９００が実行する他の仮想マシンによって実行されるオペレーティングシステムと同じまたは異なってもよい。よって、複数のオペレーティングシステムは、コンピュータシステム２９００によって同時に実行される可能性があってもよい。各仮想マシンは、一般に、その他の仮想マシンとは別に実行される。
【０２６９】
通信サブシステム２９２４は、他のコンピュータシステムおよびネットワークへのインタフェースを提供する。通信サブシステム２９２４は、コンピュータシステム２９００からデータを受信し、コンピュータシステム２９００から他のシステムにデータを送信するためのインタフェースとして機能する。たとえば、通信サブシステム２９２４は、１つ以上のクライアントコンピューティングデバイスと情報を送受信するためのクライアントコンピューティングデバイスへの通信チャネルを、インターネットを介してコンピュータシステム２９００が確立することを可能にしてもよい。
【０２７０】
通信サブシステム２９２４は、有線通信プロトコルおよび／またはワイヤレス通信プロトコルの両方をサポートしてもよい。たとえば、特定の実施形態において、通信サブシステム２９２４は、ワイヤレス音声ネットワークもしくは／またはデータネットワークにアクセスするためのＲＦ（Radio Frequency）送信コンポーネント（たとえば、携帯電話技術、３Ｇ、４Ｇ、もしくはＥＤＧＥ（Enhanced Data Rates For Global Evolution）などの次世代データネットワークテクノロジー、ＷｉＦｉ（ＩＥＥＥ  ８０２．１１ファミリー標準規格）、他の移動体通信技術、またはそれらの任意の組合せを使用する）、ＧＰＳ（Global Positioning System）受信コンポーネント、および／または他のコンポーネントを含んでもよい。いくつかの実施形態において、通信サブシステム２９２４は、ワイヤレスインタフェースに加えて、またはワイヤレスインタフェースの代わりに、有線ネットワーク接続性（たとえば、Ｅｔｈｅｒｎｅｔ）を提供できる。
【０２７１】
通信サブシステム２９２４は、さまざまな形でデータを受送信できる。たとえば、いくつかの実施形態において、通信サブシステム２９２４は、入力通信文を、構造化および／または非構造化データフィード２９２６、イベントストリーム２９２８、イベント更新２９３０などの形で受信してもよい。たとえば、通信サブシステム２９２４は、Ｔｗｉｔｔｅｒ（登録商標）フィード、Ｆａｃｅｂｏｏｋ（登録商標）の更新、ＲＳＳ（Rich Site Summary）フィードなどのｗｅｂフィード、および／または１つ以上のサードパーティ情報ソースからのリアルタイム更新など、ソーシャルメディアネットワークおよび／または他のコミュニケーションサービスのユーザから、データフィード２９２６をリアルタイムで受信する（または送る）ように構成されてもよい。
【０２７２】
特定の実施形態において、通信サブシステム２９２４は、連続したデータストリームの形でデータを受信するように構成されてもよく、連続したデータストリームは、リアルタイムイベントのイベントストリーム２９２８および／またはイベント更新２９３０を含んでもよく、本質的に明らかな終端がない連続ストリームまた無限ストリームであってもよい。連続データを生成するアプリケーションとして、たとえば、センサーデータアプリケーション、チッカー、ネットワークパフォーマンス測定ツール（たとえば、ネットワーク監視およびトラフィック管理アプリケーション）、クリックストリーム分析ツール、自動車交通量監視などが挙げられてもよい。
【０２７３】
また、通信サブシステム２９２４は、コンピュータシステム２９００に接続された１つ以上のストリーミングデータソースコンピュータと通信中であり得る１つ以上のデータベースに、構造化および／または非構造化データフィード２９２６、イベントストリーム２９２８、イベント更新２９３０などを出力するように構成されてもよい。
【０２７４】
コンピュータシステム２９００は、手のひらサイズのポータブルデバイス（たとえば、ｉＰｈｏｎｅ（登録商標）携帯電話、ｉＰａｄ（登録商標）コンピューティングタブレット、ＰＤＡ）、ウェアラブルデバイス（たとえば、Ｇｏｏｇｌｅ  Ｇｌａｓｓ（登録商標）ヘッドマウントディスプレイ）、パーソナルコンピュータ、ワークステーション、メインフレーム、キオスク、サーバラック、またはその他のデータ処理システムを含む、さまざまな種類のうちの１つであり得る。
【０２７５】
変わり続ける、というコンピュータおよびネットワークの性質により、図２９に示すコンピュータシステム２９００の説明は、具体例にすぎない。図２９に示すシステムよりも多いまたは少ないコンポーネントを有する多くの他の構成が可能である。本明細書に記載の開示および教示に基づいて、当業者は、さまざまな実施形態を実現するための他のやり方および／または方法が分かるだろう。
【０２７６】
具体的な本開示の実施形態を説明したが、さまざまな変更例、代替例、代替的な構成、および均等物も本開示の範囲内に包含される。変更例は、開示された特徴の適切な組合せのいずれも含む。本開示の実施形態は、ある特定のデータ処理環境内の動作に制限されず、複数のデータ処理環境内で自由に動作することができる。これに加えて、特定の一続きのトランザクションおよびステップを使用して本開示の実施形態を説明したが、本開示の範囲は、記載の一続きのトランザクションおよびステップに限られないことは、当業者に明らかであるはずである。上述の実施形態のさまざまな特徴および態様は、個々に、または共同で使用されてもよい。
【０２７７】
さらに、ハードウェアとソフトウェアとの特定の組合せを使用して本開示の実施形態を説明したが、ハードウェアとソフトウェアとの他の組合せも、本開示の範囲内であることを認識されたい。本開示の実施形態は、ハードウェアのみ、もしくは、ソフトウェアのみで実現されてもよく、またはそれらの組合せを使用して実現されてもよい。本明細書に記載のさまざまなプロセスは、同じプロセッサまたは任意の組合せのそれぞれ異なるプロセッサ上で実現できる。よって、コンポーネントまたはモジュールが特定の動作を実行するように構成されると説明されている箇所では、このような構成は、たとえば、この動作を実行するように電子回路を設計することによって、この動作を実行するようにプログラム可能な電子回路（マイクロプロセッサなど）をプログラムすることによって、またはそれらの任意の組合せによって達成できる。プロセスは、プロセス間通信のための従来技術を含む、いろいろな技術を使用して通信できるが、これに限定されず、それぞれ異なるペアプロセスは、異なる技術を使用してもよく、プロセスの同じペアは、異なる技術を別々のタイミングで使用してもよい。
【０２７８】
明細書および図面は、厳密ではなく、一例にすぎないと適宜みなされるべきである。しかしながら、添付の特許請求の範囲に記載のより広義の趣旨および範囲から逸脱することなく、追加、減算、削除、および他の変更ならびに変形がそれらに対してなされてもよいということは明白であろう。したがって、具体的な実施形態を説明したが、これらは、限定を意図しない。さまざまな変更例および均等物は、添付の特許請求の範囲内である。
【図１Ａ】
2019510304.tif 000003
【図１Ｂ】
2019510304.tif 000004
【図１Ｃ】
2019510304.tif 000005
【図２】
2019510304.tif 000006
【図３】
2019510304.tif 000007
【図４】
2019510304.tif 000008
【図５】
2019510304.tif 000009
【図６】
2019510304.tif 000010
【図７】
2019510304.tif 000011
【図８】
2019510304.tif 000012
【図９】
2019510304.tif 000013
【図１０】
2019510304.tif 000014
【図１１】
2019510304.tif 000015
【図１２】
2019510304.tif 000016
【図１３】
2019510304.tif 000017
【図１４】
2019510304.tif 000018
【図１５】
2019510304.tif 000019
【図１６】
2019510304.tif 000020
【図１７】
2019510304.tif 000021
【図１８】
2019510304.tif 000022
【図１９】
2019510304.tif 000023
【図２０】
2019510304.tif 000024
【図２１】
2019510304.tif 000025
【図２２】
2019510304.tif 000026
【図２３】
2019510304.tif 000027
【図２４】
2019510304.tif 000028
【図２５】
2019510304.tif 000029
【図２６】
2019510304.tif 000030
【図２７】
2019510304.tif 000031
【図２８】
2019510304.tif 000032
【図２９】
2019510304.tif 000033
【国際調査報告】
2019510304.tif 000034
2019510304.tif 000035