(57)【要約】  種々の実施形態は、バーチャル（仮想）オンライン・ロボット（ＢＯＴ）またはセキュリティ・エージェントの提供を可能にしている。このエージェントまたはガーディアンはオンライン会話をモニタすることができ、会話のコンテントが不適切であるか、場合によっては、有害または危険のおそれがあることを示す、種の定義可能な基準に合致していた場合に介入する働きをすることができる。少なくとも一部の実施形態では、エージェントまたはガーディアンは自然言語処理技法を利用して、会話のコンテキストをそのスパンにわたって評価し、および／または会話を個々のユーザにまたがって評価するように構成されている。自然言語処理技法を使用すると、エージェントまたはガーディアンは、特定の会話またはその一部に問題があると判断されたとき個々のユーザ（またはその他）に通知または警告を提示することができる。
2010509679.tif 000002
【特許請求の範囲】
【請求項１】
コンピュータ可読命令を有する１または２以上のコンピュータ可読媒体（１０６）であって、前記コンピュータ可読命令は、１または２以上のプロセッサによって実行されたとき、
自然言語処理技法を使用して、少なくともプレゼンス・ベースのネットワーク（１１２）におけるオンライン会話をモニタし、評価するように構成されたガーディアン・コンポーネント（３００）を提供する動作と、
１または２以上のオンライン会話を前記ガーディアン・コンポーネント（３００）でモニタする動作と、
を含む方法を前記１または２以上のプロセッサに実行させることを特徴とする１または２以上のコンピュータ可読媒体。
【請求項２】
提供する前記動作は、エンド・ユーザのコンピューティング・デバイス上で実行されることを特徴とする請求項１に記載の１または２以上のコンピュータ可読媒体。
【請求項３】
前記ガーディアン・コンポーネントは、インスタント・メッセージング・アプリケーションの一部を構成していることを特徴とする請求項２に記載の１または２以上のコンピュータ可読媒体。
【請求項４】
前記ガーディアン・コンポーネントは、前記インスタント・メッセージング・アプリケーションのユーザ・インターフェース内で連絡先として見なされることを特徴とする請求項３に記載の１または２以上のコンピュータ可読媒体。
【請求項５】
提供する前記動作は、前記ガーディアン・コンポーネントが会話参加者間のプロキシの働きをしているネットワークを通して実行されることを特徴とする請求項１に記載の１または２以上のコンピュータ可読媒体。
【請求項６】
提供する前記動作は、プレゼンス・ベースのネットワークを通して前記ガーディアン・コンポーネントを提供することによって実行されることを特徴とする請求項１に記載の１または２以上のコンピュータ可読媒体。
【請求項７】
モニタする前記動作に応答して、モニタしているイベントに問題があると見なされる場合に、１または２以上の矯正アクションを実行する動作を、さらに含むことを特徴とする請求項１に記載の１または２以上のコンピュータ可読媒体。
【請求項８】
１つの矯正アクションは、会話がモニタされているユーザに警告を提示することを含むことを特徴とする請求項７に記載の１または２以上のコンピュータ可読媒体。
【請求項９】
１つの矯正アクションは、前記モニタしている会話の少なくとも一部をブロッキングすることを含むことを特徴とする請求項７に記載の１または２以上のコンピュータ可読媒体。
【請求項１０】
１つの矯正アクションは、会話に関係する通知を生成することを含むことを特徴とする請求項７に記載の１または２以上のコンピュータ可読媒体。
【請求項１１】
モニタする前記動作は、会話をその会話期間中モニタし、評価することを含むことを特徴とする請求項７に記載の１または２以上のコンピュータ可読媒体。
【請求項１２】
コンピュータ実装方法であって、
ユーザが１または２以上のエンティティと会話するのを可能にするユーザ・インターフェース（２００）を提示するアクトと、
ユーザが前記ユーザ・インターフェースを介して有している会話に関係する会話型エレメントを受信するアクト（７０２）と、
自然言語処理を前記会話型エレメントに適用して、問題があると思われる会話部分を特定するアクト（７０４）と、
ある会話部分に問題があると思われるとき、１または２以上の矯正アクションを講じるアクト（７１０）とを、
含むことを特徴とするコンピュータ実装方法。
【請求項１３】
ユーザ・インターフェースは、インスタント・メッセージング・ユーザ・インタフェースを含むことを特徴とする請求項１２に記載の方法。
【請求項１４】
ユーザ・インターフェースは、インスタント・メッセージング・ユーザ・インタフェースを含まないことを特徴とする請求項１２に記載の方法。
【請求項１５】
１または２以上の矯正アクションを講じるアクトは、ユーザに警告を提示することを含むことを特徴とする請求項１２に記載の方法。
【請求項１６】
１または２以上の矯正アクションを講じるアクトは、ユーザに警告を提示することを含み、前記警告は可視的警告であることを特徴とする請求項１２に記載の方法
【請求項１７】
１または２以上の矯正アクションを講じるアクトは、ユーザに警告を提示することを含み、前記警告は音響的警告であることを特徴とする請求項１２に記載の方法
【請求項１８】
１または２以上の矯正アクションを講じるアクトは、会話の少なくとも一部をブロッキングすることを含むことを特徴とする請求項１２に記載の方法
【請求項１９】
コンピュータ可読命令を収めた１または２以上のコンピュータ可読媒体（１０６）であって、コンピュータ可読命令が実行されたとき、自然言語処理技法を使用してインスタント・メッセージング（ＩＭ）会話をモニタし、会話に問題があると思われるとき警告を生成するインスタント・メッセージング（ＩＭ）アプリケーション（１０８）を実現していることを特徴とする１または２以上のコンピュータ可読媒体。
【請求項２０】
自然言語処理技法は、連絡先リストの中にアイコンとして現れるコンポーネントによって実現されることを特徴とする請求項１９に記載の１または２以上のコンピュータ可読媒体。
【発明の詳細な説明】
【背景技術】
【０００１】
今日、プライバシとセキュリティは、人々がインターネット上で利用可能なコンピュータ・リソースのような、ネットワーク化されたコンピュータ・リソース、と広範囲にかつ頻繁にやりとりするのに伴って、ますます重要になっている。例えば、ある人がインターネット上で別の人（またはＢＯＴなどの、他のなんらかのエンティティ）とのリアルタイムダイアログ(real time dialog：実時間の対話)に加わることは珍しいことではない。このダイアログは、インスタント・メッセージング・コンテキストにおいて通常受信される招待、またはＷｅｂサイトを訪問する、あるいはＷｅｂサイト上のガジェット(gadget)に参加するなどの他のなんらかのコンテキストを通した招待を、その人が受信し、対話することによって引き起こされることがある。
【０００２】
しばしば、会話（conversation）への招待の受諾や会話またはダイアログへの参加でもって、なんらかのプライバシまたはセキュリティ問題を軽減することは終わっている。すなわち、ユーザが会話に参加するか否かは自由である。いったん会話に入ると、ユーザはフィッシング(phishing)の試みなどの悪意のアクティビティから、さらに悪いことには、個人のセキュリティを危険にさらすようなアクティビティから、無保護にされることがよくある。一例として、以下に示すように、ユーザＡ、すなわち、保護を必要とするユーザが、未知のユーザＢとオンライン会話中であるダイアログについて考えてみる。  
Ａ：やあ  
Ｂ：やあ、あなたの社会保障番号は？
または次の会話について考えてみる。  
Ａ：やあ、どなたですか？  
Ｂ：私の名前はＢｉｌｌです。どこにお住まいですか？  
Ａ：Ｒｅｄｏｍｏｎｄです。  
Ｂ：どこの街ですか？  
Ａ：ＮＥの１１１番街です。  
Ｂ：素晴らしい。私はあなたの近くに住んでいるようです。番地は？
【０００３】
これらのダイアログが示すように、ユーザは悪意となる可能性のある会話に非常に入りやすくなっている。さらに悪いことには、子供や未成年者などの一部のユーザはオンラインで出会う人達またはエンティティを信頼する傾向にあると言う事実であり、、したがって悪意のアクティビティへの彼らの無意識の開示についての危険が増している。
【発明の概要】
【課題を解決するための手段】
【０００４】
以下に説明する種々の実施形態は、バーチャル（仮想）オンライン・ロボット（ＢＯＴ）またはセキュリティ・エージェントの提供を可能にしている。このエージェントは、「ガーディアン(guardian)」とも呼ばれ、オンライン会話をモニタすることができ、会話のコンテンツが不適切であるか、場合によっては、有害または危険のおそれがあることを示す、ある種の定義可能な基準に合致した場合に、介入する働きをすることができる。図示し、説明している少なくとも１つの実施形態では、エージェントまたはガーディアンは自然言語処理技法を利用して、会話のコンテキストをそのスパン（期間）にわたって評価し、および／または個々のユーザ間の会話を評価するように構成されている。自然言語処理技法を使用すると、エージェントまたはガーディアンは、ある特定の会話に、またはその一部に問題があると判断されたとき、個々のユーザ（またはその他）に通知または警告を提示することができる。
【０００５】
少なくとも一部の実施形態では、エージェントまたはガーディアンは、経時的に学習し、新しいシナリオや異なるシナリオにダイナミックに適応するのを可能にする知識ベースを作り上げることができる。
【図面の簡単な説明】
【０００６】
【図１】一実施形態によるプレゼンス・ベースのネットワークを含むシステムを示す図である。
【図２】一実施形態による会話ウィンドウを公開するインスタント・メッセージング・アプリケーションの形体をした例示のアプリケーションを示す図である。
【図３】一実施形態によるプレゼンス・ベースのネットワークにおいて１または２以上のガーディアンを含むシステムを示す図である。
【図４】一実施形態による例示のユーザ・インターフェースを示す図である。
【図５】一実施形態による例示のガーディアンを示す図である。
【図６】一実施形態による例示のユーザ・インターフェースを示す図である。
【図７】一実施形態による方法におけるステップを示すフロー図である。
【発明を実施するための形態】
【０００７】
概要
以下に説明する種々の実施形態によれば、バーチャル（仮想）オンライン・ロボット（BOT）またはセキュリティ・エージェントを提供することを可能にしている。エージェントは「ガーディアン(guardian)」とも呼ばれ、会話のコンテンツが不適切であるか、場合によっては、有害または危険のおそれがあることを示す、ある種の定義可能な基準に合致した場合に、介入する働きをすることができる。以下に説明する実施形態では、エージェントまたはガーディアンは、オンライン通信を行なうことができる、システム内の異なるロケーションに実装することができる。例えば、一部の実施形態では、エージェントまたはガーディアンは、エンド・ユーザのコンピューティング・デバイス上で実行されるソフトウェアの一部としてローカルに実現することができる。このコンテキストでは、エージェントまたはガーディアンは、インスタント・メッセージング(instant messaging)アプリケーションやモバイル・ショート・メッセージング交換のように、２方向通信を容易にするアプリケーションの一部を構成することも、他のアプリケーションによって利用可能であるソフトウェア・コンポーネントを構成することもできる。代替的にまたは付加的に、エージェントまたはガーディアンは、ネットワーク上に置かれていて、エンティティ間の通信を代行するプロキシ・コンポーネントを構成していることもある。代替的にまたは付加的に、エージェントまたはガーディアンは、個々のユーザに代行してモニタリングおよび評価を行なうサーバの一部を構成していることもある。
【０００８】
図示し、説明している少なくとも１つの実施形態では、エージェントまたはガーディアンは自然言語処理技法を利用して、会話のコンテキストをそのスパン（期間）にわたって評価し、および／または個々のユーザ間の会話をにまたがって評価するように構成されている。自然言語処理技法を使用すると、エージェントまたはガーディアンは、ある特定の会話またはその一部に問題があると判断されたとき、個々のユーザ（またはその他）に通知または警告を提示することができる。このような警告は、送信されるメッセージに先立って表示させることも、通信とのインラインで表示させることも、適宜に行なうことができる。代替的にまたは付加的に、エージェントまたはガーディアンは、問題があると判断した会話部分をブロッキングし、さもなければ禁止することができる。
【０００９】
少なくとも一部の実施形態では、エージェントまたはガーディアンは経時的に学習し、新しいシナリオまたは異なるシナリオにダイナミックに適応するのを可能にする知識ベースを作り出すことができる。例えば、エージェントまたはガーディアンは、シングル・ユーザの対話全体について学習することも、あるユーザ・グループ全体について学習することも、ネットワーク上の全ユーザについて学習することもできる。
【００１０】
以上から理解されるように、本明細書に説明している方法および技法は、別のユーザが別の人間であるか、ＢＯＴであるかに関係なく、あるユーザが別のユーザとの会話に加わるような、どのようなコンテキストの中でも利用することができる。このような会話は、テキストによる会話であることも、音声による会話であることも可能であり、そのようなものとして、インスタント・メッセージング・アプリケーション、Ｗｅｂブラウザ、テキスト・メッセージング、ＶｏＩＰアプリケーションなどを使用して行なわれる会話などがある。
【００１１】
なお、本明細書の読者のためにいくつかの具体的コンテキストを示すために、以下に記載した実施形態は、他のユーザが人間であるか、ＢＯＴの形体をしたアプリケーションであるかに関係なく、あるユーザが他のユーザとやりとりすることができる、いわゆるプレゼンス・ベース(presence-based)のアプリケーションまたはネットワークのコンテキストにおいて説明されている。本明細書に説明しているプレゼンス・ベースのアプリケーションはインスタント・メッセージング・アプリケーションである。
【００１２】
以下の説明では、プレゼンス・ベースのネットワークの概念について最初に説明し、この種のネットワークおよび関連のプレゼンス・ベースのアプリケーションに精通していない読者のために、本明細書に記載の実施形態を理解するための状況が得られるようにしている。概念の説明に続いて、プレゼンス・ベースのネットワークのコンテキストにおける本発明による実施形態が説明されている。
【００１３】
プレゼンス一般について
プレゼンスの概念は、実行状態にあるとき、オンライン・ユーザを、相互の連絡先のオンライン・ステータスでもって更新状態に保つサーバまたはサービスの使用、を意味しているのが一般的である。すなわち、プレゼンス・ベースのネットワークでは、ユーザは、ユーザのｅメールアドレスリストに記載されているものと同じまたは類似している、いわゆる連絡先(contact)を特定することができる。ある連絡先がオンラインにあるときは、プレゼンス・ベースのネットワークは、インスタント・メッセージング、ピア・ツー・ピアのファイル交換などの、ネットワークによって提供されるサービスを活用できるようにユーザに通知する。すなわち、プレゼンス・ベースのネットワークは、共にオンラインにある連絡先がリアルタイム方式でやりとりできるようにする。
【００１４】
プレゼンス機能を提供する商用化されたソフトウェア・プロダクトのひとつとして、本件特許出願人のWindow（登録商標）MessengerまたはMicrosoft Windows（登録商標）Live Messengerがあるが、利用可能なプロダクトは他にもあり、これらは、本明細書に説明している概念と関連して確実に使用することができる。本件特許出願人のWindow（登録商標）Messengerは、Windows（登録商標）ＸＰにおけるリアルタイム通信の経験を豊富化し、統合化したもので、人々が自分のパーソナル・コンピュータを使用することをいつ、どのように選択したかに関係なく、努力なしで友人、家族および同僚に会い、会話し、仕事し、プレイすることを可能にしている。Window（登録商標）Messengerは、連絡先がオンラインにあって、そのカレント・ステータスをユーザに通知したとき、ユーザを更新状態に保つプレゼンス機能と通知機能も備えている。
【００１５】
以下に記載した種々の実施形態は、プレゼンス・ベースのネットワークによって提供される機能を活用することができる。このことから理解されるように、マイクロソフト社のWindow（登録商標）Messengerは、このコンテキストにおいて利用できる単なる１つのアプリケーション例を構成している。従って、請求項に記載の主題の精神と範囲から逸脱しない限り、他のアプリケーションを利用することも可能である。このような他のアプリケーションはプレゼンス・ベースであることも、プレゼンス・ベースでないこともある。
【００１６】
プレゼンス・ベースのネットワーク例
一実施形態によるプレゼンス・ベースのネットワークの一例として、このようなネットワークまたはシステム全体を１００で示している図１について考えてみる。システム１００は１または２以上のコンピューティング・デバイスを含んでおり、その各々は１または２以上のプロセッサ１０４、１または２以上のコンピュータ可読媒体１０６、およびコンピュータ可読媒体１０６上に置かれていて、前記１または２以上のプロセッサによって実行可能である１または２以上のアプリケーション１０８を装備している。少なくとも１つの実施形態では、このアプリケーションの１つは、本件特許出願人のWindow（登録商標）Messengerのようなインスタント・メッセージング・アプリケーションの形で置かれている。少なくとも一部の実施形態では、コンピュータ可読媒体１０６は、プレゼンス・ベースのアプリケーションとは別であって、本明細書に記載した実施形態を実現できるアプリケーションを収めておくことができる。このような他のアプリケーションとして可能なものを例示すると、Ｗｅｂブラウザ、アプレット、Ｗｅｂベースまたはデスクトップベースのガジェット、モバイル・アプリケーション、コンピュータ・ゲームなどがあるが、これらに限定されない。
【００１７】
コンピューティング・デバイス１０２はデスクトップ・コンピュータの形で示されているが、当然に理解されるように、請求項に記載の主題の精神および範囲から逸脱しない限り他のコンピューティング・デバイスを利用することも可能である。例えば、他のコンピューティング・デバイスとして可能なものを例示すると、パーソナル・デジタル・アシスタント（ＰＤＡ）、セルフォンなどの、ポータブル・コンピュータやハンドヘルド・コンピュータがあるが、これらに限定されない。
【００１８】
システム１００は、プレゼンス・ベースのネットワーク１１２と通信するためにコンピューティング・デバイス１０２によって使用されるインターネット１１０のようなネットワークも含んでいる。適切であれば、コンピューティング・デバイス１０２とプレゼンス・ベースのネットワーク１１２との間の通信を可能にするためにどのようなプロトコルでも利用することができる。
【００１９】
図示のように、プレゼンス・ベースのネットワーク１１２は、この分野の精通者ならば理解されるように、プレゼンス環境を実現する１または２以上のサーバ１１４を含んでいる。プレゼンス・ベースのネットワークとして可能なものとして、インスタント・メッセージング、ＶｏＩＰ、音声クリップ(voice clip)などを含むか、あるいはサポートしているものがあり、これらはいずれも、コンピューティング・デバイス１０２のユーザがネットワークと通信し、および人間やＢＯＴなどのネットワークの他のユーザと通信するのを可能にしている。インスタント・メッセージング、ＶｏＩＰおよび音声クリップのプロトコルは、この分野の精通者ならば理解しているので、説明を簡単にするために、以下では詳しく説明することは省略する。
【００２０】
少なくとも一部の実施形態では、プレゼンス・ベースのネットワークはコンピューティング・デバイス１０２のユーザと通信できる（インスタント・メッセージング、ｅメール、ＶｏＩＰ、音声クリップなどの任意の適当な手段を通して）１または２以上のアプリケーションまたはＢＯＴ１１６を含んでおり、これらは、サーバ１１４がホストとなっているか、サーバ１１４側に置かれているのが代表的である。このネットワークは、図示のように種々のコンピューティング・デバイスのいずれかを使用してコンピューティング・デバイス１０２のユーザと通信することができる他の人間ユーザも含んでいる。
【００２１】
実際には、プレゼンス・ベースのネットワーク内のユーザが別のユーザとの会話に加わると、ある種のユーザ・インターフェースがユーザに提示され、このインタフェースを通して会話を行なうことができる。
【００２２】
単なる一例として、図２について考えてみる。図２には、図１におけるインスタント・メッセージング・アプリケーションの形体をしたアプリケーション１０８、１つのアプリケーション／ＢＯＴ１１６および一人の人間ユーザが示されている。この例では、インスタント・メッセージング・アプリケーション１０８は、ユーザ・インターフェースをユーザのコンピューティング・デバイス上に提示し、このユーザ・インターフェースは、ユーザがオンラインにある種々の連絡先またはその他と会話を持つことを可能にするいわゆる会話ウィンドウ２００を含んでいる。さらに、このアプリケーション１０８は、現時点でたまたまオンラインにあるユーザの種々の連絡先をリストしている連絡先リスト２０２を提供する。従って、この例では、Ｂｉｌｌ、Ｓｕｅ、ＦｒｅｄおよびＦｒａｎｋは現在オンラインにあるので、ユーザはこれらの誰とでも、あるいはその全員との会話を開始することができる。
【００２３】
この例では、ユーザの連絡先はすべて人間として登場していることに注意されたい。しかし、ユーザの連絡先、もっと一般的には、ユーザがやりとりし、または通信するエンティティが、実際には人間ではなく、むしろＢＯＴであるような状況がある可能性がある。
【００２４】
例えば、ユーザがブラウズしてトラベル関連サイトにたどり着き、特定のリンクをクリックすることによって、旅行の計画を可能にする情報にアクセスしたと想定する。このリンクをクリックすると、ユーザのインスタント・メッセージング・アプリケーション（または会話を可能にするプレゼンス・ベースのネットワークと通信可能にリンクされたなんらかの他のアプリケーション）が起動され、ユーザは自身がトラベル・エージェント“Joe Johnson”と「会話状態」にあることに突然に気づくことになる。プレゼンス・ペルソナ(presence persona)を有し、インテリジェントな方法で質問を処理し、応答することができるている限り、Ｊｏｅは多くの点で人間のように見えるが、ユーザは“Joe Johnson”が実際にはＢＯＴであるとは思いつかない可能性がある。さらに、ユーザは、そのＢＯＴが、トラベル・サイトと合法的に関連づけられたＢＯＴなどの合法的なＢＯＴである、またはその他の悪意の目的を念頭に置いているＢＯＴであるか、などについて、全くわからない可能性がある。
【００２５】
以下に説明する実施形態では、他の人間および／またはＢＯＴとの会話であるかどうかに関係なく、ユーザの会話をモニタし、評価し、会話またはそのコンテンツの一部に問題があると判断され、場合によっては有害であると判断された場合に、矯正措置をとるエージェントまたはガーディアンが提供されている。
【実施例】
【００２６】
例示の実施形態
図３は一実施形態による例示のシステムを示す図であり、そこには、図１に関連して上述したコンポーネントと同一または類似のコンポーネントが含まれている。従って、説明を簡単にするために、これらのコンポーネントを以下で説明することは省略する。
【００２７】
なお、気づかれるように、この実施形態では、ガーディアン・コンポーネント３００が提供されている。上述したように、ガーディアン・コンポーネントは、システム１００内の異なるロケーションに置いておくことができる。例えば、ガーディアン・コンポーネント３００は、エンド・ユーザのコンピューティング・デバイスにローカルに置いておくことができる。このコンテキストでは、ガーディアン・コンポーネントはインスタント・メッセージング・アプリケーションのようなアプリケーションの一部にすることも、他のコンポーネントによって使用または活用することができるスタンドアロン・コンポーネントとして置いておくこともできる。代替的にまたは付加的に、ガーディアン・コンポーネント３００は、インターネットのようなネットワーク上に置いておくことも、ネットワークを通してアクセス可能にしておくことも可能である。この場合には、ガーディアン・コンポーネントは、会話参加者間のプロキシの働きをすることになる。代替的にまたは付加的に、ガーディアン・コンポーネント３００はプレゼンス・ベースのネットワークを通して提供することも、さもなければ、プレゼンス・ベースのネットワークを通してアクセス可能にすることもできる。
【００２８】
ガーディアン・コンポーネントがインスタント・メッセージング・アプリケーションとの関連で実現されている実施形態では、ガーディアン・コンポーネントはユーザ・インターフェースの中で連絡先として登場することができる。例えば、図４は、ガーディアンがユーザの連絡先リストの中に登場する例示のユーザ・インターフェースを示している。このユーザ・インターフェースを通して、ユーザは自分の会話がガーディアンによってモニタされ、保護されていることを知ることができる。
【００２９】
以下の説明では、例示のガーディアン・コンポーネントの特性（characteristics）とプロパティが説明されている。当然に理解されるように、以下の説明は単なる例示のガーディアン・コンポーネントを構成している。そのために、請求項に記載の主題の精神および範囲から逸脱しない限り他のガーディアン・コンポーネントを利用することも可能である。
【００３０】
例示のガーディアン・コンポーネント
図５は、全体を５００で示す例示のシステムを示す図であり、そこには一実施形態によるガーディアン・コンポーネント５０２が含まれている。図示し、説明している実施形態では、ガーディアン・コンポーネントは、ＲＯＭ、ＲＡＭ、ハードディスク、フラッシュなどの、ある種のコンピュータ可読媒体上に置かれたコンピュータ可読命令の形体をしたソフトウェアで実現されている。さらに、ガーディアン・コンポーネントは、以下に説明するある種のコンポーネントを含むものとして示されているが、当然に理解されるように、これらのコンポーネント（または図示のコンポーネントに類似しているか、異なっているコンポーネント）はガーディアン・コンポーネントの外に置かれていることがあり、上述した機能および下述する機能を実現するために使用され、またはコールされることがある。さらに、当然に注目されるように、ガーディアン・コンポーネントは、上述したように、ガーディアン・コンポーネントがその一部になっているシステム内の異なるロケーションに置かれていることもある。
【００３１】
図示し、説明している実施形態では、エージェントまたはガーディアンは、自然言語処理技法を利用して、会話のコンテキストをそのスパン（期間）に亘って、および／または個々のユーザ間の会話を評価するように構成されている。自然言語処理技法を使用すると、エージェントまたはガーディアンは、特定の会話またはその一部に問題があると判断されたとき個々のユーザ（またはその他）に通知または警告を提示することができる。代替的にまたは付加的に、エージェントまたはガーディアンは、問題があると判断した会話部分の表示をブロッキングし、さもなければ防止することができる。これらの２アプローチの中間的なものとして、ガーディアンは、特定の通信が進められるべきか検証するようにユーザに要求する警告を促し、ユーザのレスポンスを送信するまえに、肯定的返答を待つことができる。自然言語処理技法は公知であるので、この分野の精通者ならば容易に理解されるはずである。従って、説明を簡単にするために、以下ではこれらの技法を説明することは省略する。
【００３２】
図示し、説明している実施形態では、ガーディアン５０２は、クエリ・プロセッサ(query processor)５０４、会話モデル５０６およびルール／基準コンポーネント５０８を含み、さもなければこれらを利用する。
【００３３】
クエリ・プロセッサ５０４は自然言語処理技法の一部であり、テキスト・ストリングなどのインプットに基づいて動作し、そのインプットを構文解析(parse)し、構文解析したインプットから会話モデル５０６のような会話モデルを構築する。クエリ・プロセッサは、それが適切なものであれば、どのようなクエリ・プロセッサでも利用可能である。
【００３４】
そのあと、会話モデル５０６はルール／基準コンポーネント５０８に照らして評価され、会話またはその部分にさらにアドレスする必要があるかどうかを確かめる。ルール／基準コンポーネントは、会話が評価されるときに使用されるツールと基準を記述した情報の知識ベースを構成する。ルールと基準は、適切な言語を使用して適切な方法で表現することができる。単なる１つの例として、ルールと基準はＸＭＬで表現することができ、ＸＭＬを使用すると、フレキシブルで好都合な拡張性と適応性が得られ、これによってガーディアンを拡張することができる。具体的には、このような拡張性は、経時的な累積的学習、および新規および／または異なるルールと基準の統合化などをサポートすることができる。
【００３５】
図示し、説明している実施形態では、ガーディアン５０２は、異なるタイプのインプットを受信するように構成されている。図示し、説明している例では、ガーディアン５０２は、会話型エレメント５１０、ユーザ・プロファイル５１２および／またはインターネット・データ・ソース５１４をインプットとして受信することができる。
【００３６】
会話型エレメント５１０には、適切なタイプのものであれば、どのようなタイプの会話型エレメントも含めることができる。この例では、会話型エレメントには、テキストのほかに、他の会話型エレメントを含めることができる。具体的には、この例では、会話型エレメントには、適切に構成されたspeech-to-textプロセッサによって処理可能なＶｏＩＰ(Voice over IP)を含めることが可能であり、speech-to-textプロセッサはガーディアンの一部を構成している場合と、構成していない場合とがある。会話型エレメントは、オンライン・ダイアログ期間にユーザまたは参加者によって生成されるエレメントである。
【００３７】
ユーザ・プロファイル５１２には、種々のユーザ・プロファイルが含まれており、ユーザ・プロファイルは、ある種のユーザと関連して使用されるルールと基準をセットアップするためにルール／基準コンポーネント５０８によって使用できるパラメータと制約条件(constraints)を含んでいる。例えば、ユーザ・プロファイルの使用を通して、親は、そのあとで会話を評価するために使用される親コントロール(parental control)をセットアップすることができる。その他のユーザ・プロファイルも使用することができる。
【００３８】
インターネット・データ・ソース５１４には、種々のインターネット・データ・ソースから得られるインプットを含めることができる。この場合、これらのデータソースには、任意の適合するインプットでも含むことができる。
【００３９】
ガーディアン５０２は、インプットを受信し、そのインプットを上述したように処理したあと、そのインプットに基づいて動作し、該当する場合には、１または２以上の矯正アクションを生成することができる。ガーディアン５０２によって生成される矯正アクションには、任意の適合する矯正アクションでも含めることができる。例を挙げると、そのような矯正アクションとしては、警告（音響警告および／または可視警告など）を生成すること、他のサード・パーティまたはサード・パーティ・サービスに通知すること、および／または会話、会話部分、または保護されたパーティが会話中のエンティティ、を禁止またはブロッキングすることがあるが、これらに限定されない。
【００４０】
図６は、保護されたユーザ（ユーザＡ）が別のユーザ（ユーザＢ）との会話を持っている例示のユーザ・インターフェースを示す図である。この例では、ユーザＢは、ユーザＡのアドレスといった、なんらかの個人情報を要求されている。この例において気づかれるように、ユーザＡに対して２つの異なる警告が生成されている。第１の警告では、ガーディアン・アイコンがフラッシュを始めて、潜在的脅威をユーザＡに警告している。第２の警告では、会話テキストのとなりにダイアログが提示され、個人情報が公表される潜在的危険をユーザに警告している。当然のことであるが、これらの２警告は、生成できる警告の単なる例である。請求項に記載の主題の精神および範囲から逸脱しない限り、他の警告を生成することも可能である。
【００４１】
上述した実施形態では、エージェントまたはガーディアンは、プレゼンス・ベースのネットワーク、さらに具体的には、インスタント・メッセージング・アプリケーションのコンテキストにおいて使用されている。以上から理解されるように、エージェントまたはガーディアンは、Ｗｅｂブラウザなどの他のネットワークおよび／またはアプリケーションとの関連で使用されることも可能である。さらに、エージェントまたはガーディアンは、それが適切な方法であれば、どのような方法でも表すことができる。例えば、インスタント・メッセージング・コンテキストでは、エージェントまたはガーディアンは、連絡先リストに登場するアイコンとして表されている。インスタント・メッセージング・コンテキストの外の他のコンテキストでは、エージェントまたはガーディアンは、他のなんらかの音響的および／または可視的方法で表されることができる。例えば、通知はアプリケーションのユーザ・インターフェースの一部として表面化することが可能である（例えば、ガーディアンが問題のある会話に出会ったときレッド・ライトがフラッシュし、および／または音響ビープが鳴る）。
【００４２】
さらに、少なくとも一部の実施形態では、問題のある会話エレメントがまったくユーザに表示されないことがある。むしろ、ある会話エレメントがユーザのために表示される前に、その会話エレメントを処理することができ、問題があると分かったときは、それを除去して、そのことをユーザに通知することができる。
【００４３】
さらに、少なくとも一部の実施形態では、ガーディアンまたはエージェントは拡張可能にすることができる。例えば、学校で採用されているガーディアンまたはエージェントは、標準のエージェントまたはガーディアンによってカバーされていないシナリオをカバーするように拡張するように、政府機関によって拡張されていることがある。拡張部分（Extensions）は、ダウンロードして、適切なネットワーク全体上にインストールすることができる。
【００４４】
さらに、少なくとも一部の実施形態では、エージェントまたはガーディアンは、例えば、ユーザが一定の年齢以下であるとき、特定のユーザをモニタするように自動的に追加することができる。例えば、１６歳以下の子供がそのインスタント・メッセージング・クライアント上に連絡先リストを作成したとき、削除不能(non-delete-able)エージェントまたはガーディアンがその連絡先リストに自動的に追加され、会話が行なわれるフォーラムに関係なく、子供がその会話を通して保護されるようにすることができる。
【００４５】
例示の方法
図７は、一実施形態による方法におけるステップを記述したフロー図である。この方法は、適切であれば、どのようなハードウェア、ソフトウェア、ファームウェアまたはこれらを組み合わせたものと関連付けて実装することができる。一実施形態では、この方法はソフトウェアで実現することが可能であるが、これに限定されない。
【００４６】
ステップ７００において、エージェントまたはガーディアンがインストールされる。このステップは、適切であれば、どのような方法でも実行することができる。例えば、エージェントまたはガーディアンは、あるネットワーク・ロケーションに置かれたローカル・ユーザのマシン上にインストールしてプロキシの役割を持たせることも、および／またはインスタント・メッセージング環境を実現するために利用されているようなプレゼンス・ベースのネットワークの一部としてインストールすることもできる。ステップ７０２において、会話型エレメントが受信される。このステップはエージェントまたはガーディアンによって実行されるが、適切であれば、どのような方法でも、および適切であれば、どのような会話型エレメントと共に実行することができる。例えば、上述したように、このような会話型エレメントとして可能なものには、テキストエレメントのほかに、ＶｏＩｐエレメントのような他のエレメントなどがある。
【００４７】
ステップ７０４において、自然言語処理が会話型エレメントに適用される。これがどのように行なわれるかの一例は上述したとおりである。以上から理解されるように、広範囲にわたる種々の自然言語処理を適用することが可能であり、このことはこの分野の精通者に自明のことである。ステップ７０６において、自然言語処理を適用したことに応答して、会話に潜在的に問題があると思われるかどうかが確かめられる。会話は、いくつかの理由で潜在的に問題があると思われる可能性がある。例えば、会話が進行中の期間において、ある個人が、自分のアドレス、社会保障番号などの個人情報を公表するように要求されることがある。さらに、使用される言語が他方のユーザの年齢グループに不適切であるような事例が起ることがある。さらに、ある個人がファイルを受け取ったり、不適切であるようなある種のアクティビティを開始したりすることを要求されるような事例が起ることがある。オンライン購入を行なうためにアドレスを提供するといった合法的な事例では、会話には問題がない。悪意のＷｅｂサイトが、自身を合法的なオンライン購入サイトとして主張しているような事例では、この会話は潜在的に問題がある。
【００４８】
代替的にまたは付加的に、会話に問題があるとされる理由として、会話の進行中の期間に、会話が特定のユーザにとって不適切である方向に移動した場合がある。例えば、未成年者との会話や未成年者間の会話は、その主題がわいせつまたはみだらであるために、問題になることがある。
【００４９】
会話に潜在的に問題があると思われない場合には、ステップ７０８において、会話を継続させることができる。他方、会話に潜在的に問題があると思われる場合には、ステップ７１０において、１または２以上の矯正アクションがとられる。矯正アクションの例は上述したとおりである。
【００５０】
結論
種々の実施形態は、バーチャル（仮想）オンライン・ロボットまたはセキュリセキュリティ・エージェント可能にしている。エージェントまたはガーディアンはオンライン会話をモニタすることができ、会話のコンテンツが不適切であるか、場合によっては有害または危険のおそれがあると示す、ある種の定義可能な基準に合致していた場合に、介入する働きをすることができる。少なくとも一部の実施形態では、エージェントまたはガーディアンは自然言語処理技法を利用して、会話のコンテキストをそのスパン（期間）にまたがって評価し、および／または個々のユーザ間の会話を評価することができる。自然言語処理技法を使用すると、エージェントまたはガーディアンは、特定の会話またはその一部に問題があると判断されたとき個々のユーザに通知または警告を提示することができる。
【００５１】
以上、構造上の特徴および／または方法上のステップに特有な表現で本発明を説明してきたが、当然に理解されるように、請求項に明確化されている本発明は、上述した具体的特徴またはステップに必ずしも限定されない。むしろ、これらの具体的特徴およびステップは請求項に記載の発明を実現する好ましい形態として開示されたものである。
【図１】
2010509679.tif 000003
【図２】
2010509679.tif 000004
【図３】
2010509679.tif 000005
【図４】
2010509679.tif 000006
【図５】
2010509679.tif 000007
【図６】
2010509679.tif 000008
【図７】
2010509679.tif 000009
【国際調査報告】
2010509679.tif 000010
2010509679.tif 000011