(57)【要約】監視イベントが発生したかを決定するために、１つまたは複数のチャットルーム参加者またはインスタントメッセージ参加者のテキストベースの通信を自動的に監視するための方法が提供される。オンライン通信（２１０）は連続的に監視され、好まれるものとして並列に動作している複数のパターン認識モジュール（２３０）に入力される。周知のパターン認識技術を使用することにより、各パターン認識モジュールは特定のアルゴリズムを実施することによって通信の様相を分析することができ、必要に応じて、オンライン通信の規定された属性または特徴を記述する状態変数の値を設定、増大、または減少させる。このような状態変数は、例えば、感情のレベル、参加者の参加の頻度、疑わしいワードパターンの使用、及びオンライン通信に関連する他の測定基準を反映することができる。状態パターン認識モジュールからの状態変数出力は同時に、１つまたは複数の決定アルゴリズムを開始する決定モジュール（２４０）に入力することができる。決定モジュールは次に、決定アルゴリズムによって決定される、予め決められた１つまたは複数のアクション（２８０）または動作を出力することができる。
2005531072.tif 000002
【特許請求の範囲】
【請求項１】
電子通信を監視するための方法であって：
チャットルーム参加者及びインスタントメッセージ参加者の１人からの通信を評価すること；
少なくとも１つのパターン認識技術を使用して前記通信の内容を分析すること；
前記分析の結果及び予め決められたルールの組に基づいて監視イベントが発生したかを決定すること；及び、
前記監視イベントへの応答で少なくとも１つの予め決められたアクションを実施することを含む方法。
【請求項２】
前記評価、分析、決定、及びアクションの実施が自動的に実施される、請求項１に記載の方法。
【請求項３】
前記予め決められたルールがデータベースに格納されている、請求項１に記載の方法。
【請求項４】
前記データベースがＳＱＬデータベースを含む、請求項３に記載の方法。
【請求項５】
前記予め決められたルールがチャットルーム参加者及びインスタントメッセージ参加者の１人との対話に基づいたルールを含む、請求項３に記載の方法。
【請求項６】
前記予め決められたルールがチャットルームの非チャットルーム参加者の間の対話に基づいたルールを含む、請求項３に記載の方法。
【請求項７】
前記評価、分析、及び決定に関連した前記アクションが前記チャットルーム参加者及びインスタントメッセージ参加者に対して呈示されない、請求項１に記載の方法。
【請求項８】
少なくとも１つの前記予め決められたアクションがチャットルーム参加者及びインスタントメッセージ参加者にルール違反を知らせること、チャットルーム参加者及びインスタントメッセージ参加者に潜在的に危険な状況を知らせること、チャットルーム参加者及びインスタントメッセージ参加者の両親または保護者に違反を報告すること、ＩＳＰに違反または潜在的な違反を報告すること、及びチャットルーム通信及びインスタントメッセージ通信の１つを阻止することのうちの少なくとも１つを含む、請求項１に記載の方法。
【請求項９】
前記報告が無線通信、電子メール通信、及び音声通信のうちの１つを介して達成される、請求項８に記載の方法。
【請求項１０】
前記無線通信が携帯電話方式及びポケットベルシステムのうちの１つを含む、請求項９に記載の方法。
【請求項１１】
前記監視イベントがチャットルールの違反、特定の会話の内容パターンの発生、及び予め決められた会話の挙動パターンの発生のうちの１つを含む、請求項１に記載の方法。
【請求項１２】
電子通信を監視するためのコンピューター実行可能コードを格納するための記憶媒体であって：
媒体中に記憶されたコンピュータープログラム可能手段を有するコンピューターによって使用可能な媒体であって、前記コンピュータープログラム可能手段が：
チャットルーム参加者及びインスタントメッセージ参加者の１人からの通信を評価すること；
少なくとも１つのパターン認識技術を使用して前記通信の内容を分析すること；
前記分析の結果及び予め決められたルールの組に基づいて監視イベントが発生したかを決定すること；及び、
前記監視イベントの発生への応答で少なくとも１つの予め決められたアクションを実施することを含む、コンピューターによって使用可能な媒体を備える記憶媒体。
【請求項１３】
前記評価、分析、決定、及びアクションの実施が自動的に実施される、請求項１２に記載の記憶媒体。
【請求項１４】
前記予め決められたルールがデータベースに格納されている、請求項１２に記載の記憶媒体。
【請求項１５】
前記予め決められたルールがチャットルーム参加者またはインスタントメッセージ参加者の１人との対話に基づいたルールを含む、請求項１２に記載の記憶媒体。
【請求項１６】
前記予め決められたルールがチャットルームの非チャットルーム参加者の間の対話に基づいたルールを含む、請求項１２に記載の記憶媒体。
【請求項１７】
前記評価、分析、及び決定に関連した前記アクションが前記チャットルーム参加者またはインスタントメッセージ参加者に対して呈示されない、請求項１２に記載の記憶媒体。
【請求項１８】
前記予め決められたアクションがチャットルーム参加者及びインスタントメッセージ参加者にルール違反を知らせること、チャットルーム参加者またはインスタントメッセージ参加者に潜在的に危険な状況を知らせること、チャットルーム参加者またはインスタントメッセージ参加者の両親または保護者に違反を報告すること、ＩＳＰに違反を報告すること、及びチャットルーム通信及びインスタントメッセージ通信の１つを阻止することのうちの少なくとも１つを含む、請求項１２に記載の記憶媒体。
【請求項１９】
前記報告が無線通信、電子メール通信、及び音声通信のうちの１つを介して達成される、請求項１８に記載の記憶媒体。
【請求項２０】
前記監視イベントがチャットルールの違反、予め決められた会話の内容パターンの発生、及び予め決められた会話の挙動パターンの発生のうちの１つを含む、請求項１２に記載の記憶媒体。
【請求項２１】
インターネット通信のオンライン監視のためのシステムであって：
システムバス；
前記システムバスに接続された中央処理ユニット；
前記システムバスに接続されたメモリー；及び、
前記システムバスに接続されたＩ／Ｏインターフェースを備え、
前記メモリーが前記中央処理ユニットによって処理される実行可能コードを含み、前記中央処理ユニットが：
チャットルーム参加者及びインスタントメッセージ参加者のうちの１つからの１つまたは複数の通信を評価し、
パターン認識技術を使用して前記通信の内容を分析し；
前記分析の結果及び予め決められたルールの組に基づいて監視イベントが発生したかを決定し；さらに、
前記監視イベントへの応答で少なくとも１つの予め決められたアクションを実施することを含むシステム。
【請求項２２】
前記システムバス、中央処理ユニット、メモリー、及びＩ／Ｏインターフェースがサーバーコンピューター、デスクトップコンピューター、及びラップトップコンピューターのうちの１つを形成する、請求項２１に記載のシステム。
【請求項２３】
前記メモリーがリードオンリーメモリー及びランダムアクセスメモリーのうちの１つを含む、請求項２１に記載のシステム。
【請求項２４】
前記システムバスに接続された第２の記憶装置をさらに備える、請求項２１に記載のシステム。
【請求項２５】
前記第２記憶装置が直接アクセス記憶装置を含む、請求項２４に記載のシステム。
【請求項２６】
前記メモリーがルールモジュール、履歴モジュール、ユーザー履歴モジュール、及びレポートモジュールを含む、請求項２１に記載のシステム。
【請求項２７】
前記方法がソフトウェア実施、ハードウェア実施、ファームウェア実施、及び（または）ソフトウェアとハードウェアの組合せによる実施のうちの１つで実施される、請求項１に記載の方法。
【請求項２８】
コンピューターリード可能プログラムコード手段を備えたコンピューター使用可能媒体を備えるコンピュータープログラム製品であって、前記コンピュータープログラム製品の前記コンピューターリード可能プログラムコード手段がコンピューターに：
チャットルーム参加者またはインスタントメッセージ参加者のうちの１つからの１つまたは複数の通信を評価し、
パターン認識技術を使用して前記通信の内容を分析し；
前記分析の結果及び予め決められたルールの組に基づいて監視イベントが発生したかを決定し；さらに、
前記監視イベントへの応答で少なくとも１つの予め決められたアクションを実施することを生じさせるコンピュータープログラム製品。
【請求項２９】
前記分析が並列に動作する複数のパターン認識技術によって達成される、請求項１に記載の方法。
【請求項３０】
前記複数のパターン認識技術からの前記分析結果が前記決定において同時に考慮される、請求項２９に記載の方法。
【請求項３１】
前記パターン認識技術及び（または）前記予め決められたルールの組が動的に更新される、請求項１に記載の方法。
【請求項３２】
前記動的な更新が手作業、半自動化、または全自動化のうちの１つを介して発生する、請求項３１に記載の方法。
【請求項３３】
前記電子通信がインターネット通信を含む、請求項１に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本願はコンピューター通信ネットワークの自動化された監視に関する。詳細に述べると、本願はオンラインチャットルーム、インスタントメッセージ環境、及び関連する電子通信の活動場所での参加者の行為及びメッセージの内容を監視するためのシステム及び方法に関する。
【０００２】
（関連出願への相互参照）
本願は２００２年６月２５日に出願された米国特許No.60/391,527の優先権を主張し、それは本願にも参照として組み込まれる。
【背景技術】
【０００３】
インターネットは社会全体に広まりつつある。（通常、ワールドワイドウェブまたは「ウェブ」上で見つかる「ウェブページ」を介して）多くの人々がインターネットにアクセスするようになった。ＤＳＬ、衛星及びケーブルモデム、５６.５Ｋｂｐｓダイアルアップモデムの使用の増加、及び通常「ｗｉ−ｆｉ」として知られる８０２.１１（ａ），（ｂ）及び（ｇ）標準の到来とともに、コンピューターユーザー間のインターネット接続性は標準的なものになりつつある。データの送信及び受信レートの速度は迅速なテキスト、音声、及び映像通信を可能にしつつある。これらの速度及び接続性の有効性はインターネットが商業上及び家庭の大部分の人々によって使用される時代をもたらしつつある。インターネットによって支持され、ウェブ上で有効な人気のある通信アプリケーションはチャットルームとインスタントメッセージである。チャットルームは、例えば、AOL/Time Warner、The Microsoft Network、または個々のウェブサイト等のインターネットサービスプロバイダー（ＩＳＰ）によって提供されてもよい。チャットルームは本質的に、「ポスト（または、掲示）」またはメッセージ（例えば、簡単な意見を含んだテキストの数行）が実質的にリアルタイムでチャットルームの全ての人によって読まれることが可能である、電子公報板である。したがって、チャットルームで（通常チャットルームの名前に反映されている）特定のトピックに興味のある参加者はテキストメッセージを送信及び受信することによってチャットの他の参加者と電子的に「チャット」することができる。多くの例において、チャットルームの参加者は通常、参加者の身分、年令、または成熟度に関係ないスクリーンネーム（または、偽名）を使用する。
【０００４】
この本質的な匿名性の結果、チャットルームは不適当な会話のために悪用される可能性がある。例えば、子供が（例えば、子供の年令を示さないスクリーンネームを使用することによって）性的行為や薬物等の、不適当な話題に関連した「チャット」に参加したり、あるいは参加に勧誘されたりするかもしれない。さらに、子供がチャットルームに参加し、そのチャットの行為または内容に基づいて、会合や特定の個人等の、チャットルーム外の行為を行うように誘惑されるかもしれない。このような環境は子供に重大な危険性を与えるので、彼らのチャット参加者としての行動は特定の危険性を伴うと言えるだろう。
【０００５】
このような危険性に対処するために、チャット参加者のオンライン上の振る舞いまたは挙動を監視するためのシステムが開発されている。しかしながら、これらの従来のシステムはチャット参加者に動的（または、積極的）に相互作用または干渉し、潜在的に危険な状況を事前に識別し、問題のある振る舞いまたは挙動の報告を与える能力において有効でない。例えば、Net Nanny、 CYBERsitter、 Child Safe、及び他のシステム等の、いくつかの従来のシステムは悪意を示すと思われるキーワードのリストの発生をスキャン（または、走査）する。しかしながら、この手法は、多くの（悪意のある）ユーザーが明白な「悪い」キーワードの使用を避けるために、あまり有効ではない。このような従来のシステムは特定のキーワードの識別に焦点を当てており、特定のキーワードの使用が存在しない不適当な振る舞いまたは挙動を識別することができない。その上、チャットのテキストのログを取るだけの手法は（例えば、疑わしい略奪者またはその被害者等の）チャット参加者とのリアルタイムの相互作用、または、（例えば、両親または適当な権威者等の）指定された組織への自動的なリアルタイムの通知を与えない。さらに、チャットのログの遅延した解析に基づいた行動または対処は結果として手遅れとなる場合が多い。
【発明の開示】
【発明が解決しようとする課題】
【０００６】
したがって、この分野で望まれることは、子供等の特定のチャットルーム参加者をチャットルームの不適当な対話または干渉から保護するために、彼らの行動を監視するシステム及び（または）方法を提供することである。さらに、不適当な対話または干渉を認識した後すぐに、自動的にチャットルーム参加者、及び（または）、両親、保護者またはチャットルームの管理者等の第３者に警告を与えるシステム及び（または）方法を提供することが望まれている。
【課題を解決するための手段】
【０００７】
本発明のインターネット通信のオンライン監視のためのシステム及び方法は監視イベントが発生したかを決定するために１人または複数のチャットルームまたはインスタントメッセージの参加者の、テキストベースの通信を自動的に監視することを含む。監視イベントは、例えば、特定の交換の参加者、内容、最近の履歴、及び（または）調子または雰囲気等に関連した、特定の交換に関係する定義された特定の因子の組合せの存在等であってもよい。監視イベントの存在はシステムによって実施される、１つまたは複数の予め決められたアクションまたは行動を生じさせてもよい。
【０００８】
本発明の例としての実施例において、オンライン通信は連続的に監視され、好まれるものとして並列で動作している複数のパターン認識モジュールに入力される。周知のパターン認識技術を使用することにより、各パターン認識モジュールは特定のアルゴリズムを実施し、必要に応じて、オンライン通信の１つまたは複数の定義された属性または特徴に対する記述的な、または描写的な１つまたは複数の変数を設定、増大、または減少させることによって、このような通信の様相を分析することができる。このような状態変数は、例えば、感情のレベル、参加者の参加または入れ替えの頻度、疑わしい言葉のパターンの使用、及びオンライン通信に関する他の測定基準を反映することができる。状態パターン認識モジュールからの状態変数出力は、１つまたは複数の決定アルゴリズムを開始することができる決定モジュールに同時に入力されることができる。決定モジュールは次に、決定アルゴリズムによって決定される、予め決められた１つまたは複数のアクションまたは動作を出力することができる。
【発明を実施するための最良の形態】
【０００９】
本発明は（例えば、インターネット等の）電子通信のオンライン監視のための方法及びシステムに関する。詳細に述べると、本発明は、監視イベントが発生したかを決定するために、１人または複数のチャットルームまたはインスタントメッセージの参加者のテキストベースの通信を自動的に監視するための「シャペロン（または、付添い）」の使用に関する。監視イベントは、例えば、チャットルームまたはインスタントメッセージ交換、交換の参加者、並びに、通信の内容、脈略（または、文脈）、及び（または）、調子（または、雰囲気）に関連した多様な因子のいかなる存在であってもよい。監視イベントの存在は、監視イベントに関連する第３者への通知や電子通信の中断等の、システムによってとられる１つまたは複数の予め決められたアクションまたは動作を生じさせてもよい。
【００１０】
本発明の例としての実施例において、オンライン通信は連続的に監視され、並列に動作している複数のパターン認識モジュールに入力される。各パターン認識モジュールは特定のアルゴリズムを実施し、必要に応じて、オンライン通信の１つまたは複数の定義された属性または特徴に対する記述的な、または描写的な１つまたは複数の変数を設定、増大、または減少させることによって、通信の１つまたは複数の様相を分析することができる。このような状態変数は、例えば、感情のレベル、参加者の参加または入れ替えの頻度、疑わしい言葉のパターンの使用、及びオンライン通信に関する他の測定基準を反映することができる。状態パターン認識モジュールからの状態変数出力は同時に、１つまたは複数の決定アルゴリズムを開始する決定モジュールに入力されることができる。決定モジュールは次に、決定アルゴリズムによって決定される、予め決められた１つまたは複数のアクションまたは動作を出力することができる。
【００１１】
本発明の説明を明確にするために、コンピューター通信ネットワーク及び、それらによって可能にされるオンライン通信の全体像について以下に簡単に説明する。しかしながら、以下の一般的なシステム及び特徴の説明は本発明を制限するためのものではない。
【００１２】
オンラインチャット及びインスタントメッセージ
インターネットへの容易なアクセスの結果として、多くの人々が、例えば、チャットルームやインスタントメッセージのプラットホームを介した素早いリアルタイムの記述式の通信のためにインターネットを利用するようになりつつある。これらのプラットホームは「ホスト（または、主催者）」によって提供される。これらの状況におけるホストまたは主催者はＩＳＰ、または従業員や加入者にサービスを提供するために独自のネットワークを構築した組織であり、それらは前記ネットワークへのアクセスを認可された人員に限定する。十代の若者や子供はチャットルームやインスタントメッセージの積極的なユーザーであり、このような使用は急速なペースで増大している。
【００１３】
インターネットのユーザーが１人または複数の他のユーザーと通信するための一般的な方法はチャットセッションでのテキストメッセージを介した方法である。チャットセッションにおいて、ユーザーの名前は、そのときに存在する他の全てのユーザーにメッセージを送信することができるようにチャットルームのリストに加えられる。ユーザーはまた、チャットセッションの他の全てのメンバーによって送信されたメッセージを見ることができる。
【００１４】
典型的なチャットセッションにおいて、ユーザーは、彼らが入力しているメッセージ及び他の参加者によって掲示されたメッセージを見ることができる単一のウィンドウを見る。ウィンドウには時刻順に並べられた多様なメッセージが存在する。参加者は彼らが実際のルーム（すなわち、部屋）に存在するかのように対話するので、これらのグラフィカルな表記、ウィンドウ、及びテキスト画像は「ルーム」と呼ばれる場合が多い。「チャットルーム」及びそれらの全てのメッセージはインターネットサービスプロバイダーまたは他のチャットルームのホストまたは主催者によって管理されている。
【００１５】
また、ユーザーはインスタントメッセージ（「ＩＭ」）と呼ばれる対話または相互作用の方法を介して、チャットルームの全ての参加者ではないが、チャットルームの他の１人または複数のメンバーと（または、特定のチャットルームに存在しない他のユーザーと）メッセージを送受信することができる。ＩＭは「これまで最も人気のあるインターネット上のサービス」とされている（http://www.uscomputinginc.com）。インスタントメッセージはユーザーがもう１人のユーザーと即座にメッセージの送受信ができるサービスである。現在のところヤフー、ＭＳＮ、ＩＣＱ等を含む複数の仮想ＩＭワールドがインターネット上に存在する。さらに、１つのＩＭによってサポートされているユーザーが他のＩＭワールドのユーザーと通信することを可能にするChatterfish（http://www.uscomputinginc.com参照）等が存在し、ＩＭの使用はさらに普及しつつある。ＩＭは視覚的なテキストベースの電話または「テレテキスト（teletext）」の電子等価物である。
【００１６】
ＩＭにおいて、参加者は通常、ユーザー及び相手のメッセージだけが表示される複数のペイン（または、画面の１区画）を見る。ユーザーがＩＭをもう１人のユーザーに送信したい場合、受信側のユーザーに、だれかがメッセージを交換したいことを知らせるウィンドウが開く。この場合、ユーザーの識別子またはスクリーンネームがＩＭ参加者のリストに加えられてもよい。例えば、America Onlineの環境では、ＩＭ参加者のリストは「バディーリスト（または、親友リスト）」として知られている。ユーザーがＩＭシステムから立ち去る場合、彼らのスクリーンネームはこのようなバディーリストから消え去る。他のユーザーが、他のＩＭ交換に従事しているユーザーとＩＭ交換でメッセージを交換したい場合、この交換は別個のウィンドウで発生する。チャットセッションの期間中、２人のメンバーがチャットルームの他のメンバーに内緒で互いに通信したい場合、彼らはＩＭを使用することによりチャットルーム内で通信することができる。
【００１７】
チャットルーム及びＩＭワールド、並びに、それらを実施するためのウィンドウ及びペイン（または、画面の１区画）はメッセージの発信源を分類し、それらを目的のディスティネーションに差し向けるタスクに対処するように設計されたコンピューターのオペレーションの結果である。すなわち、これらのコンピューターはこの分野で周知であり、ルーター、サーバー、及びハブ等の標準的な通信システムを含む。技術的な理由により、チャットルームの参加者の数は特定のユーザーの数に限定されている。ユーザーが満員状態のセッションに加わろうとした場合、ユーザーは通常、システム管理者によってセッションが満員状態であり、チャットに加われないことを通知される。多くの場合、このようなユーザーは同様な話題で会話している他の進行中のチャットに加わることを勧められる。いくつかの「インタビュー」チャットセッションでは、司会者ともう１人のユーザーだけがメッセージを交換することを許可され、他の参加者は受動的な視聴者となる。いくつかの例の場合、ユーザーはこのようなセッションの前に質問を提出することができ、司会者がインタビューされる回答者にこれらの質問を質問するように決められているものもある。
【００１８】
上述されたチャットルーム及びＩＭシステムは説明のためのものであり、一般的な実施の基本的な説明である。これらの例としての特徴及びインターフェースには多様な変更が可能であり、本発明の方法及びシステムが本質的に全てのチャットルームまたはＩＭの実施に対して実施可能であることは理解されなければならない。したがって、以下の説明はチャットまたはチャットルーム及びそれの参加者の観点からなされているが、用語「チャット」はＩＭ参加者及び他のオンライン通信を含む広義に解釈されなければならない。
【００１９】
例えば、チャットルームまたはＩＭ等の、コンピューター通信アプリケーションにおいて、以下に説明するように、そこにおいて実施される多様な通信は本発明の多様な実施例に従って監視及び制御される。説明される多様な実施例はチャットルーム通信を監視することを想定しているが、これらは単なる例示に過ぎない。同様な原理及び機能が本発明の他の実施例においてＩＭ通信の監視に適用できることは理解されなければならない。
【００２０】
自動化シャペロン
図１は本発明の実施例に従った、チャットのオンライン監視のための例としてのシステムを図示している。図１に示されているように、ＩＳＰまたは他のプロバイダー等は、この分野で周知なように、チャットサーバー１２０によって管理されるチャットルーム１１０へのアクセスを提供する。チャットサーバー１２０はチャット参加者１３０によってアクセスされる。チャット参加者は通常、ＩＳＰの加入者または専用のウェブサイトで認可された他のユーザーである。チャットルームでの特定のチャットは、例えば、チャット参加者が彼らのＩＳＰに（ユーザーネーム及びパスワードを与えることによって）ログインし、チャットサーバー１２０によって管理されている特定のチャットルームに入ること等の、従来の様式でアクセスされる。チャットルーム１１０に入った後、チャット参加者１３０は、例えば、もう１人のチャット参加者１３０とのチャットに従事したり、他のチャット参加者１３０のチャットを単に監視したり（読んだり）、またはそれら２つの動作の組合せを行ったりする。
【００２１】
本発明の例としての実施例に従うと、チャット参加者１３０がチャットルームに入った後、チャット監視処理が自動的に開始されてもよい。例えば、チャット監視はチャット参加者が彼のＩＳＰにログインするたびに自動的に開始されるように選択されてもよい。または、例えば、両親が子供のアカウントに対してこの機能を始動してもよい。必要な場合、監視の初期化及び開始は、例えば、任意のチャット参加者１３０に対してトランスペアレント（または、透明）であってもよい。これは子供のインターネット及びチャットルームでの自発的な振る舞いを監視したいと考えている両親や保護者にとって特に有効である。
【００２２】
本願中において「シャペロン（または、付添い）」と呼ばれる、本発明の例としての実施例に従ったオンライン監視処理はＩＳＰまたはチャット参加者１３０によって使用される通信システムの提供者の一部、または、それらと同じ場所に配置されてもよいシャペロンサーバー１５０等によって管理されるシャペロン１４０を使用して実施することができる。本発明の代替的な例としての実施例において、シャペロン１４０は、例えば、チャット参加者１３０のコンピューターに格納されて起動されたり、または、アプレット（applet）として格納され、チャット参加者１３０のウェブブラウザーを介して起動されたりすることもできる。
【００２３】
ＩＳＰの一部であるサーバー上または通信システム基礎構造（インフラストラクチャー）で起動しているシャペロン１４０は、例えば、America Onlineの加入者等の、共同体にサービスを提供することができる。したがって、シャペロン１４０はオンライン上で何が起きているかをより詳しく見ることができ、振る舞いまたは挙動が疑わしいチャット参加者のブラウジングの履歴や実際の情報（年令、性別、住所等）にアクセスすることができる。クライアントの装置上で起動している場合、シャペロン１４０はシステムを起動している装置のユーザーにのみサービスを提供することができる。
【００２４】
ここで説明されているシャペロン１４０は、処理が開始または誘発された後にさらなる介入を必要とせずにチャット監視のタスクを実施するためにソフトウェアコード、専用のハードウェア、及び（または）ハードウェアとソフトウェアの組合せによって容易に実施することができる。さらに、ソフトウェアによって実施されたシャペロンの機能は１つまたは複数のソフトウェアモジュールを起動している、多様なコンピューターまたは他のデータ処理装置に分配または配布することができる。
【００２５】
シャペロン１４０をＩＳＰまたは共同体のシステム基礎構造の一部であるサーバー上で起動している場合の長所は、子供や他のユーザー等の、保護されるチャット参加者がシステムを上書きすることが困難であることである。さらに、シャペロン１４０は保護される参加者が彼らのＩＳＰアカウントにいかなる場所からログインした場合でも開始することができ、リアルタイムで監視、検出、及び報告を行うことができるだけでなく、後で説明されるように、リアルタイムでデータベースを更新（すなわち、学習）することができる。すなわち、シャペロン１４０はユーザーが新規のリリース（または、新規のバージョン）を購入したときにのみ更新されるクライアント上に存在する特定のＡＩモジュールを含んだ受動的なコードではなく、動的に更新可能な優れたシステムである。さらに、シャペロン１４０はサーバー上に存在することができるので、それはより詳細な情報を取り出すために、発見されるべき疑わしい対話または相互作用を潜在的に動作している他の分析モジュールに送信することができる。すなわち、例としてのシステムは、例えば、自然言語処理（ＮＬＰ）VS.ベイズフィルタリング（Bayesian Filtering）や神経回路網VS.非否定サンプリング（Non-Negative Sampling）等の単一の手法に囚われない。
【００２６】
本発明の例としての実施例において、シャペロン１４０はパターン認識及び意思決定の能力を含む、人口知能（ＡＩ）の能力を含むことができる。このような能力は、例えば、シャペロン１４０が（ｉ）（例えば、間断なく複数のチャットルームメンバーと不適当な内容または会話を行う等の）予め定義及び設定されたチャットの振る舞いまたは挙動の特定の種類を認識すること、及び（ii）次に、そのような認識された振る舞いまたは挙動に対して、例えば、（ａ）チャットを中断すること、（ｂ）チャット参加者に定義されたチャットルームの行為のルールに対する認識された違反を知らせること、及び（または）（ｃ）特定の予め定義された認識アルゴリズム及び決定ルールに基づいて（例えば、子供の保護者やＩＳＰ等の）第３者に違反を知らせること等の決定をすることを可能にする。このようなアルゴリズム及びルールは実際のチャットの内容の脈絡または文脈を入力として使用することができる。さらに、入力は、例えば、違反者の既知の履歴、参加者のウェブブラウジングの履歴、１人または複数のチャット参加者に対する個人的なデータ、及び（または）不適当な振る舞いまたは挙動を示すもの、またはそれに関連したシャペロンシステムに供給される他の情報を含むことができる。
【００２７】
シャペロン１４０またはそれの全ての機能モジュールはこの分野で周知の技術を使用して、例えば、ＪＡＶＡコードまたは、ＬＩＳＰ、ＰＲＯＬＯＧまたはＳＭＡＬＬＴＡＬＫ等の他の適当なプログラム言語で記述することができる。
【００２８】
シャペロン１４０がどのようにオンライン通信にアクセスし、多様な分析を実施し、これらの分析に基づいて決定を下し、さらにこれらの決定の結果としてアクションまたは動作を起こすかは、図２への参照とともに後で説明されるパターン認識装置及び意思決定のシステムの説明で詳細に説明される。
【００２９】
図１を再び参照すると、シャペロン１４０は、例えば、チャットの会話を監視及び評価するために使用することができるチャットルール１６１とともにチャット参加者１３０に対するプロフィール情報１６２を含むことができる直接アクセス記憶装置１６０等と相互作用することができる。したがって、記憶装置１６０は本発明の例としての実施例で使用されている、複数の異なったデータベースを格納することができる。例えば、記憶装置１６０は、チャットからのパーズされた（または、構文解析された）テキストを評価するためにシャペロン１４０によって使用される予め決められたルールを格納しているチャットルールデータベース１６１を含んでもよい。予め決められたルールはキーワード、キーフレーズを含むことができ、チャット参加者による、またはチャット参加者へのそれらのワードまたはフレーズの使用をチャットルール違反として識別することができる。
【００３０】
キーワードの検索に加え、本発明の例としての実施例において、シャペロン１４０はチャットルーム参加者の意図の複数の予測を生成するために、周知のパターン認識技術の組を利用することができる。パターン認識技術は、例えば、チャットメッセージの内容、会話のテキストの（または、原文の）履歴、並びに、以前の会話の参加者、ユーザーがチャットルームに参加した時間、及び参加者の事前の違反の履歴等の非テキスト的な他の情報に基づいて動作することができる。このような周知のパターン認識技術は、例えば、自然言語処理（ＮＬＱ及びＮＬＰ）、ベイズフィルタリング（Bayesian Filtering）、神経回路網、及び他の統計的及び分析的技術を含んでもよい。
【００３１】
本発明の例としての実施例において、これらの複数のパターン認識技術は並列処理によって同時に利用され、それらの結果の全ては、それらの結果に異なった重み付けをし、例えば、違反または疑わしい状態が発生しているか等の決定をすることが可能なシャペロン１４０の意思決定モジュールに入力することができる。このような例としての実施例において、複数の予測はチャット参加者に対するアクションまたは行動が即座にとられるようにリアルタイムでなされてもよい。例えば、シャペロン１４０は参加者に特定の振る舞いまたは挙動を中止するように警告してもよいし、権威者に知らせてもよいし、または、特定のチャット参加者またはチャットルーム全体の通信を阻止してもよい。
【００３２】
さらに、周知のＡＩ技術を使用することにより、シャペロン１４０は、例えば、示された挙動パターン（または、振る舞いのパターン）と特定の周知のチャットルームの挙動ルール（または、振る舞いのルール）に対する違反との相関関係等に基づいた、特定のチャットルームの挙動ルール違反の指標として使用することができる挙動パターンを学習することができる。このような学習の１つの例は、前後関係を考えないときに特定の言語の組自体が特別に意味を持たないような場合でも、チャットルーム違反を示す特定の言語の組を識別することを可能にする。すなわち、言語パターン自体は、その言語パターンを含む会話全体の前後関係を考えないときに、挙動ルール違反を示さなくてもよい。これは、例えば、「レーダー領域の下を飛行する」ことができ、彼らの意図や意味を変えることなく、絶え間なく彼らの語彙を変えることができる程度に抜け目のないチャット参加者によって利用される、婉曲な言い回しを捕らえることを可能にする。
【００３３】
あるいは、潜在的な「婉曲語（code word）」の検出は、「婉曲語」または婉曲フレーズが新規のチャットルールに含まれるべきかを決定するために、シャペロン１４０によって生成されたレポートとして、指定された第３者に送られてもよい。この場合、チャット参加者のプロフィール及びチャットルールのデータベースが適当に更新されてもよい。したがって、周知のＡＩ技術を使用することにより、シャペロン１４０は特定のチャット参加者の特定のテキストの挙動パターンを学習し、その後のチャットテキストを評価するために、この学習した挙動情報を使用することができる。この学習した挙動はまた、既存のチャットルールを動的に更新するために、または、新規のチャットルールを作成するために使用することができる。この様式において、例えば、婉曲語の使用は、婉曲語自体が挙動を学習したシャペロン１４０が存在しない場合に、チャットルールデータベースのキーワードフィルターやキーフレーズフィルターを通り抜ける場合であっても、それらの婉曲語を突き止める（または、識別する）ことができる。
【００３４】
記憶装置１６０はまた、例えば、参加者のプロフィール１６２を格納することができる。参加者プロフィール１６２は本発明の方法及びシステムによって保護されるチャット参加者１３０に関するデータを格納してもよい。
【００３５】
例えば、シャペロン１４０に対する適当なユーザーインターフェースを使用することにより、保護されるチャット参加者に対するプロフィールが確立され、それによって、確立されるべき許可される挙動及び禁止される挙動に対する基準（例えば、年令、性別、禁止される話題、禁止されるキーワード、禁止されるスクリーンネーム、または他の禁止基準等の設定）を可能にする。これらの基準は、保護されるチャット参加者１３０のオンラインの動作または行為によってどのチャットルールが違反されたかを決定するためにチャットルールと相互に作用する。参加者のプロフィール１６２はまた、本発明の例としての実施例に従って監視される特定のチャット参加者と対話する他のチャット参加者１３０についてのデータを格納することもできる。例えば、シャペロン１４０によって監視されるチャット参加者１３０と対話する（他のチャット参加者等の）個人は参加者プロフィール（新規のチャット参加者との最初の対話で作製されるプロフィール）に加えられることができ、それによって、その後のチャットがシャペロン１４０によって監視される全てのプロフィールを使用及び更新することができる。この様式において、これはスクリーンネームを意図的に変えたが、異なったスクリーンネームで参加者プロフィール１６２に格納されるテキストに同様な特質または特徴を呈示するチャット参加者１３０を（同一人物であると）識別することを可能にするだろう。このようなケースにおいて、システムはチャット参加者１３０または指定された第３者に他のチャット参加者に関する疑わしい同一人物性（または、疑わしい身分証明）及び関連する問題についての注意を促す警告を発することができる。
【００３６】
本発明の例としての実施例において、記憶装置１６０はまた、監視されたチャットの全てのテキストを記録するチャットログデータベースを格納することができる。このようなチャットログデータベースは膨大な量のデータを格納するので、履歴的なデータを（例えば、テープバックアップ、光学ディスク配列等の）比較的安価なフォーマットに格納するために、それらとの関連でバックアップ記憶装置を使用することができる。
【００３７】
本発明の例としての実施例において、シャペロンサーバー１５０はまた、例えば、メモリーに、または、記憶装置１６０のデータベースとして格納されるレポートモジュール１５１を含むことができる。レポートモジュール１５１はチャット参加者１３０及び（または）指定された第３者への送信のための、チャットルール違反に基づいたレポートを作成することができる。指定された第３者は、例えば、チャット参加者１３０の両親または法的な保護者、またはチャットルール違反が発生したチャットルームの管理者を含むことができる。周知の技術を使用することにより、レポートモジュール１５１は、例えば、電子メール通信、ボイスメール通信、ポケットベル通信、または郵送または速達を介して送られるハードコピーレポートによる送信のためのレポートを準備することができる。
【００３８】
図２は本発明の実施例に従ったチャットのオンライン監視のための例としての処理を図示している。図２の処理は図１に図示されているシャペロン１４０の例としてのモジュールまたは構成要素を図示している。以下に説明されるように、２１０において、シャペロン処理が開始される。２２０において、シャペロン１４０はチャットルーム１２１での特定のチャット参加者から、または特定の参加者への通信、他のチャット参加者間の通信、または、チャット参加者全員の通信の各々に対する複製（または、コピー）を受信する。例えば、チャット参加者からの、またはチャット参加者への全てのテキスト通信の複製がチャット参加者１４０によって受信されてもよい。テキストはチャットサーバー１２０に送信されるデータの連続的なデータストリームとしてシャペロン１４０に供給されることができ、そして、この分野で周知の送信及びバッファリング法を使用して、さらなる処理のためにシャペロン１４０によってバッファリング（または、一時的に記憶）されてもよい。
【００３９】
入力されたテキストは、例えば、キーワード検索、自然言語クエリー（ＮＬＱ）検索、及び（または）自然言語処理（ＮＬＰ）検索等を含む、この分野で周知のパターン認識ソフトウェア技術等を使用して並列に処理される複数のパターン認識装置２３０を使用してパーズ（または、構文解析）される。本発明の例としての実施例に従うと、パターン認識装置２３０はパーズされたテキストに対して特定のキーワード（例えば、不適当なワードまたはフレーズ）を検索することができるだけでなく、チャットルールに違反するテキスト中のパターンを識別するために周知のＮＬＱ及びＮＬＰ処理を介してテキスト中のパターンを識別するためにＡＩ法を使用することができる。例えば、通信システム２２０はチャット参加者からの、またはチャット参加者への通信の一部を受信することができ、ＮＬＰ処理を使用して通信のその部分をパーズ（または、構文解析）し、それにより、ＮＬＱ技術を使用するさらなる処理のために通信をフォーマットすることができる。例えば、通信が子供をポルノ等に誘惑することを禁止するルール等の、ルールデータベース内に格納されたルールに違反したかを決定するために、周知のＮＬＱ技術をパターン認識装置２３０によってパーズされた通信に適用することができる。
【００４０】
決定システム２４０は、後で説明されるような周知の意思決定技術を使用して、例えば、パターン認識装置２３０によって生成された文脈情報のコーパス（テキストの集積）が（例えば、上述の記憶装置１６０に記憶されている）チャットルームルール１６１によって定義されているルールに違反しているかを決定する。分析されたチャットテキストが定義されたチャットルームの行為に対する、１つまたは複数のルールに違反していると思われる場合、チャットルーム違反が発生したことを示す記録が生成され、違反記録データベース２５０に記録される。
【００４１】
決定システム２４０はとるべきアクションまたは行為を決定するために、チャットルール違反の全てを含むパターン認識装置２３０の出力を評価する。本発明の例としての実施例において、決定システム２４０はパターン認識装置２３０によって実施された分析の関数として（または、分析の結果として）とるべきアクションを定義する決定ルールを含むことができる。このような分析は、例えば、パターン認識装置により設定及び変更される状態変数の組によって定量化されてもよく、決定ルールは状態変数の値の関数として出力を規定（または、決定）してもよい。
【００４２】
決定システム２４０によって決定されたアクションはチャットサーバー１２０へのインターフェース２８０を介してアクションシステム２６０によって実施される。例えば、特定のチャットルール違反に応じて、シャペロンによって制御されるフィルターが（例えば、特定の種類の情報を阻止するために）即座に更新されたり、チャット参加者への、またはチャット参加者からの特定の通信をブロックしたり、チャット参加者に警告または命令を発したり、または、シャペロンがチャットを即座に中断したりすることができる。シャペロンはレポートデータベース２７０を介して、チャットルール違反に対するレポートを作成することができ、作成されたレポートはインターフェース２９０を介してシャペロン環境の外部にあるレポートモジュール１５１に送信されることができる。シャペロン１４０によって生成される全てのレポートの「レポートサーバー」として動作するレポートモジュール１５１は次に、例えば、ワイヤレス、有線、光学的手段、または他の適当な通信手段を介して、例えば、電子メール、ボイスメール、ポケットベル、またはハードコピー等によって、関係のあるチャット参加者及び（または）指定された第３者に分配されることができる。例えば、周知のレポート作成装置を使用することにより、チャットルール違反はテキストまたは音声メッセージにフォーマット（または、変換）され、シャペロン１４０の外部への送信のためにキュー（または、待ち行列）に入れられてもよい。
【００４３】
図２に図示されているシャペロンの例としてのモジュールまたは構成要素は論理的なものであり、説明のためだけに組織されており、図示されたシステムは本発明の例としての実施例で示されている特定のシャペロンの構成を限定するためのものではない。モジュールまたは構成要素は設計事項やスペックに応じて、拡張、分配、及び再構成することができる。
【００４４】
すなわち、本発明の例としての実施例において、例えば、記憶装置１６０は他の構成要素に結び付けられた、特化したデータベースに分配されてもよい。例えば、パターン認識装置２３０は、子供をチャットルーム外に呼び出すように誘惑している成人を示す会話の特定のパターンを検索してもよい。すなわち、このような種類の振る舞いまたは挙動を識別するために特化した性的略奪者シノニム（または、性的略奪者同義語）データベースがパターン認識装置に関連付けられてもよい（または、接続されてもよい）。例えば、この分野で周知なように、このような性的略奪者の基本的な手法が変わらないにもかかわらず、子供によって使用される語彙（したがって、目的とする被害者と同等のオンライン上の人格を呈するために性的略奪者が使用する用語）は、例えば、地域、社会環境、及び年令等とともに変化する可能性がある。
【００４５】
したがって、本発明の例としての実施例において、パターン認識装置２３０は多くのチャットルームの専門語や「リンゴー（lingo）」で使用されない一般的なキー用語を使用して、このような語彙に依存しない特定の会話のパターンを検索してもよく、上述したように、パターン認識装置に関連した（または、接続した）データベース上にシノニム表（または、同義語表）を作成してもよい。パターン認識装置２３０へのオンライン会話のテキスト入力は最初に、シノニム表を介して関連のある場所及び文化的な環境の口語表現用語からパターン認識装置によって使用される一般的な用語に「翻訳」され、それにより、パターン認識装置２３０が起動するたびに多様な口語的「婉曲用語」を検索する必要性を排除する。このような機能はパターン認識装置２３０がリアルタイムの意思決定のために最適化されることを可能にする。
【００４６】
さらに、決定システム２４０がアクションシステム２６０によって実施されるアクションとなる最終的な決定に到達する前の、任意の処理スレッドにおいて、パターン認識装置２３０、決定システム２４０、及び通信システム２２０の間には複数の繰り返し（または、反復）またはフィードバックが存在してもよい。すなわち、決定システム２４０は入力として、パターン認識装置２３０の出力だけではなく、決定システム２４０に含まれる他のルールの結果を使用してもよい。さらに、特定の決定ルールは通信システム２２０からの元の入力テキストに対する何らかのオペレーション、または元の入力テキストの分析を要求し、その後に、さらなる分析のために、変換された（または、処理された）テキストのパターン認識装置への再入力を要求してもよい。このような例としての反復ルールをサポートするために、必要であれば、オンライン通信２２０からの入力テキストはバッファリングされ、（パターン認識装置２３０による最初の処理の結果としての）それの中間のバージョンが決定ルールまたは（他の処理の反復のために）他のパターン認識装置２３０への入力として使用されるために格納されてもよい。このような要件を実施するために、本発明の例としての実施例において、入力テキスト及びそれの中間のバージョンをバッファリング及び格納するために、メモリーまたは他の記憶装置が通信システム２２０に関連付けられてもよい（または、接続されてもよい）。さらに、多数の決定ルールが複数の決定ルールレイヤーを介して予備的な結果の反復を要求する場合、決定システム２４０はそれ自体を分配し、複数のパターン認識装置からの入力に基づいて中間結果を計算するシステムと、これらの中間結果及び決定ルールの最初の段階の結果を「最終的」決定ルールへの入力に含める他のシステムとの、予備的な決定システムと最終的な決定システムとに分離されてもよい。
【００４７】
以下に、パターン認識装置及び、パターン認識装置の出力を基礎にして動作する決定モジュールがどのように実施され、最適化されるかを説明する。
【００４８】
パターン認識装置の実施
本発明の実施例に従った例としてのシャペロンシステムにおいて、パターン認識装置２３０はオンライン会話中にパターンを検出するために一般的な分析法を実施することができる。パターン認識装置２３０には複数の入力が有効であるが、各パターン認識装置は少なくとも１つの入力：処理されるべきチャットメッセージを受信するだろう。さらに、パターン認識装置２３０はまた、入力として、（ｉ）（例えば、掲示された最後の１０個のメッセージ等の）会話からの履歴情報、（ii）（例えば、ユーザーの特定のチャットルール違反の履歴等の）会話のメンバーに関する履歴情報、及び（iii）以前のシャペロンのサイクル中に更新された会話の状態情報（ここで、サイクルは複数のサイクルが同時に発生してもよいシャペロンを介した単一のメッセージ処理として定義される）を受信してもよい。パターン認識装置２３０は出力として、例えば、パターン認識装置内でローカルに定義される、または、シャペロン１４０内でグローバルに定義される、各会話に特有の複数の状態変数を設定することができる。これらの状態変数はシャペロン１４０の決定システム２４０に対して利用可能となるように、そして、パターン認識装置２３０への入力として使用するために、シャペロン１４０の後のサイクルに対して利用可能となるように生成される。状態変数は本質的に、各パターン認識装置によって見つけられた情報の要約である。
【００４９】
例えば、パターン認識装置２３０は格納された言葉の辞書を使用する、一般的なワード検出を実施してもよい。このキーワード認識装置は１サイクル当たり１つのメッセージを処理し、キーワードがいくつ見つかったかを示す、メッセージに対する状態変数を設定する。キーワード認識装置はまた、どのワードが検出されたかを示す情報、及び、それのワードの辞書に格納されているこれらのワードに関連した他の情報を示すことができる。
【００５０】
また、自然言語パーサー（Natural Language Parser）がパターン認識装置２３０として実施されてもよい。このようなＮＬＰ（自然言語パーサー）の目的はフレーズ認識、ワード意味明確化（word sense disambiguation）、または文法的機能割当て（grammatical function assignment）を実施することであってもよい。このようなパーサー（または、構文解析プログラム）は１９９２年にApplied Natural Language Processing, tags speech using rules-based methodsの第３回会議の議事録にて、Brillによって発行されたA Simple Rule-Based Part Of Speech Tagger（１９９２）に概要が示されている方法に従ってもよい。ＮＬＰ認識装置はまた、推計学的タガー（stochastic tagger）を使用してもよい。このようなタガーは、例えば、Applied Natural Language Processingの第３回会議の議事録にて、Xerox PARCのCutting、Kupicec、Pederson、及びSibunによって、発行されたA Practical Part-of-Speech Tagger（１９９２）に概要が示されており、それは隠れマルコフモデルに基づいたスピーチタガー（speech tagger）及び他の推計学的分析法を使用している。ＮＬＰ認識装置は主体、客体、及び特定のフレーズまたは文のアクションを示す状態変数を設定し、これらの変形をこれらのワードの基本形に設定する（例えば、過去形の動詞「fixed（固定した）」はアクション「to fix（固定する）」として識別されてもよい）。
【００５１】
これらの方法は両方とも信頼性があり、少ない処理リソースで動作することができる。すなわち、交換（オンライン会話）は「リアルタイム」で分析されることができ、シャペロンのチャット参加者、両親、権威者、ＩＳＰまたはチャットの管理者等への動的な作用または干渉を促進する。各方法は監視されている特定のチャットサーバーのルール及び要件に基づいて利用されることができる。９５％以上の精度を達成するため、実施方策及び最適化が高速動作を得るために利用されてもよい。このような方策を実施するための詳細は上述のBrill及びKupicecらの文献に記載されており、それらは本願に参照として取り込まれる。
【００５２】
パターン認識装置２３０の出力は次に、リアルタイム処理とは非同期に神経回路網に入力されてもよい。このような神経回路網は、例えば、連続的非負データサンプリング法（Continuous Nonnegative Data Sampling method）を利用することができる。このような技術の例はhttp://www.princeton.edu/-obdowns/generalexam.pdfでオンライン上で取得可能なOlly Downs、Learning Models for Continuous Nonnegative Data、Slides from General Exam Presentation（プリンストン大学２０００年４月１８日）に記載されている。さらに、神経回路網はパターン認識装置２３０によって検出された情報に基づいてパターン認識の能力を学習し、適用することができ、パターン認識装置３０に付加的な情報を入力したり、パターン認識装置２３０で使用されているアルゴリズムを変更したりすることができる。動作の後半のサイクル中、パターン認識装置２３０は神経回路網によって与えられる更新された情報に基づいて俗語、婉曲語、及びチャットルールメンバーの挙動パターンの変化等の新しい種類の情報を検出することができる。
【００５３】
シャペロンシステムの設置に対する要件に応じて、迅速な処理を達成するために、特定のパターン認識装置２３０が無効にされてもよい。パターン認識装置２３０はまた、（例えば、１つまたは複数のコンピューターが１つまたは複数のパターン認識装置２３０を起動し、シャペロンの他の構成要素を起動しないように）分配されたサーバーの組にインストールすることができ、それらの出力をシャペロンの決定システムによる処理のための会話の状態を維持している他のサーバーに与えることができる。また、入力メッセージの並列処理を可能にするために、各パターン認識装置２３０の複式のインスタンスが構成されてもよい。例えば、各パターン認識装置は複数のメッセージを並列に処理することができ、それによって、そのパターン認識装置の複式のインスタンスがそのパターン認識装置の単一のインスタンスによって処理することが可能なメッセージの数を増大することができるだろう。
【００５４】
本発明の例としての実施例において、個々のパターン認識装置２３０の設定はコンピューターシステムの設置に応じてカスタム化されてもよい。例えば、キーワード認識装置は十代の若者の俗語や金銭的情報等の、特定の語彙に対するカスタム化された辞書を使用することができる。同様に、ＮＬＰ認識装置は上述したように、特定の知識のドメイン（または、領域）とともに構成されてもよく、それによって、それは（十代、銀行、音楽ファイル共有化等の）特定のドメインに対する文の構成及びワードの使用を理解する用に構成されてもよい。
【００５５】
本発明の例としての実施例において、シャペロンはまた、会話の分離を与えるために、他の全てのパターン認識装置の前に動作する特別なパターン認識装置を含むことができる。このようなパターン認識装置は、例えば、特定の入力メッセージがどの会話に属するかを示すことができ、それによって、（挙動認識装置等の）他のパターン認識装置による後の処理がこの情報を入力として使用することができる。このような会話認識装置は、複数の会話が同時に発生し、各会話の個々のメッセージが散在するチャットルームにおいて特に有効である。このような会話認識装置の例はDana Spiegelによる主論理「Coterie: A Visualization of the Conversational Dynamics Within IRC」（２００１年、Massachusetts Institute of Technology）（「Coterie」）に記載されており、それは本願に参照として取り込まれる。本発明の例としての実施例で使用される例としての会話認識装置はCoterieに記載されたものと同様な様式で動作してもよく、メッセージがどの会話に属するかを示す、各メッセージに対する状態変数を設定してもよい。
【００５６】
例としてのシャペロン１４０はまた、Coterieに記載されているのと同様な挙動認識装置を含むことができる。このような挙動認識装置はチャットルーム内の、特定の予め決められた会話上の振る舞いまたは挙動を認識する。例えば、チャットルームのメンバーが一対一の様式でチャットルームの各メンバーと複数の会話に従事し、これらの会話の各々が簡潔である場合、例としての挙動認識装置は、該メンバーが「総当り的挙動（round-robin behavior）」を呈していることを示すことができる。この挙動状態は多様な決定ルールへの入力として決定システムによって使用されることができる。挙動認識装置がそれについて知ることができ、認識のために検索する特定の挙動は、一般に、（例えば、法の執行者、十代の若者、及び社会学者等の）情報を持っている第３者に対する調査及びインタビューによって決定される。
【００５７】
他のパターン認識装置２３０は本発明の例としての実施例の、以下の動作を含んでもよい。そのようなＡＩアルゴリズムの実施はこの分野で周知である。
【００５８】
ベイズフィルター（Bayesian filter）：事前に確立された善及び悪の会話のデータベースに基づいて、得点（可能性）を計算するためにテキストの最後の数行を使用する。この計算は、この分野で周知なように、ベイズのルールに基づいている。ベイズフィルタリングの適当な説明はhttp://www.paulgraham.com/spam.htmlに記載されている。
【００５９】
神経回路網フィルター：神経回路網に基づいて、得点（可能性）を計算するためにテキストの最後の数行を使用する。回路網の重み付け（神経回路網の神経間のシナプスの強度）はベイズのアルゴリズムと同様に、善及び悪の会話の大きなデータベースを使用して、別個の（毎夜の）フェーズで（または、期間に）訓練することができるだろう。オンライン動作中、訓練された回路網は単に、その時の重み付け及びテキスト入力に基づいて数値を出力する。
【００６０】
感情フィルター：ワードの使用及び文の構成に基づいてメッセージの感情的な内容（例えば、強度、動揺、怒り、ばかばかしさ等）のレベルを決定する。この種のパターン認識の一般的な実施はhttp://www.eudora.com/presskit/pdf/FlamingWhitePaper.pdfで詳細に記載されているQualcomm's Eudora email productで使用されている。
【００６１】
決定システムの実施
上述したように、本発明の例としての実施例において、シャペロンの決定システム（「ＤＳ」）はこの分野で周知なように、ルールを基礎にしたシステムである。ＤＳ（決定システム）のルールは入力として、パターン認識装置の組によって出力されるメッセージまたは会話の状態変数を使用することができる。ＤＳの役割はルールの組を受信し、（ユーザーの履歴及び会話の履歴等の他の入力とともに）会話またはメッセージの状態情報に基づいて、規定されたルールが違反されたかを評価することである。ルールが違反されていることが見つかった場合、ＤＳはアクションシステム（「ＡＳ」）が処理可能な他の状態変数を設定するとともに、その違反を報告するために使用される情報の組を更新することができる。
【００６２】
ＤＳは、例えば、訪問者による潜在的に危険な接触を検出するためにサーバーの管理者によって指定されたルールを参照することができる。１つの例として、オンラインチャットルームのこれらのルールは通常、性的に露骨な対話及び未成年の誘惑を禁止するだろう。本発明の例としての実施例において、シャペロンはまた、それが管理しているユーザーの、年令、性別、地域等についての情報のデータベースを参照することができる。
【００６３】
ルールを作成するために、システム管理者は最初に、例としての会話のテキストを収集するか、（十代の若者や法の執行者へのインタビュー等の）手作業による調査を行ってもよい。例としての会話のテキストを使用した場合、管理者は例としてのテキストのコーパス（テキストの集積）に対してパターン認識装置の組を起動し、パターン認識装置によって生成された状態情報を見ることができる。状態情報を使用することにより、管理者は次に、規定されたチャットルームのルールを実施するＤＳルールを巧みに生成するために、例えば、ガイドライン及び経験に基づいて取るに足らない状態情報をフィルタリングし、便利な状態情報のみを使用することができる。この手法はＤＳルールを生成するための「ボトムアップ手法」と呼ばれる。
【００６４】
手作業による調査を行う場合、管理者はＤＳルールを生成するためにインタビューから蓄積された情報を使用することができる。例えば、法の執行者は男女関係の脈略または文脈において用語「フックアップ」が関係する２つの人物またはパーティのうちの一方が他の人物またはパーティと性的関係を持ちたいと考えていることを示すことを知っているだろう。この情報を使用することにより、本発明の例としての実施例において、システムの管理者は、例えば、ＮＬＰ認識装置が用語「フックアップ」、及び、問題となっている会話が２人のメンバーを含むことを見つけ出した場合、会話が誘惑に関する対話を含んでいる可能性が高いとマーク付けするようなルールを巧みに作成することができるだろう。そのような対話がチャットルームで許可されてない場合、管理者のルールは、例えば、メッセージを阻止する、またはメッセージを掲示したメンバーに警告を出す等を示してもよい。この手法はＤＳルールを生成するための「トップダウン手法」と呼ばれる。
【００６５】
トップダウン手法を使用することにより、ＤＳは、例えば、以下に説明されるような、一般的なシナリオを検出することができる。犯罪者は孤独で熱狂的な、または、無防備な子供を探し出し、彼らの人物像を描くためにチャットルームを訪問する。通常、このような犯罪者は次に、子供の信用を得るために個人的なメッセージや電子メールに移行する。信用が確立された後、「実際の」会合が設定され、それは暴行や殺傷の結果となる場合が多い。子供のための多くのチャットルームのルールのサンプリングに基づいて、本発明の実施例に従ったシャペロンが監視を開始することができる対話の例は、訪問者がシャペロンによって監督されている子供に「ボーイフレンドと性的体験をしたことがある？」と質問したときであり、「あなたの電話番号を教えてもらえる？」、「公園で会える？」、または「あなたの電子メールのアドレスを教えて？」のうちの１つで終了してもよい。シャペロン１４０は、例えば、特定のユーザーのユーザー履歴内の、ユーザーが対話した全ての人物のリストを維持することによって、保護されるチャット参加者に対して、訪問者が何者であるかを決定することができる。そのようなユーザー履歴は保護されているユーザーがインターネット通信を開始するとすぐに、例えば、高速読出しメモリー等にロードされることができ、ユーザー履歴をパターン認識装置による分析のための入力として利用することが可能となる。
【００６６】
ルールの最適化及びリアルタイム処理のためのパターン認識
意味論上の文の分析が、文または段落の全体の意味を解くために必要な処理能力及び時間の観点からみて不経済であることはこの分野で周知である。シャペロン１４０は、意味論的な（semantic）分析で使用することが要求されるワードの知識を減少させることによってパターン認識装置２３０が実行しなければならない一般的な処理を大幅に減少させる、特別な目的パターン認識装置２３０を使用することによって、メッセージの意味論的分析をリアルタイムで処理することを可能にする。
【００６７】
このような最適化は１つまたは、最大でも数個の知識ドメイン（または、知識領域）に合わせ込まれた意味論的な分析装置に帰着する。このような意味論的分析装置の出力はメッセージの根底にある意味の一部だけを回復することができ、その情報をシャペロンの決定システムに伝達する。決定システムは、意味論的分析装置が引き出すように最適化されている、会話の特定の特徴だけを必要とするので、これは問題とならない。最適化された意味論的分析装置及び決定システムは互いに協働することによって、シャペロンシステムのリアルタイムの動作を維持するために十分な速さで各メッセージを処理することができる。モジュールのオフライン処理のために、より深い分析が必要な場合、チャット会話の文の構成に関するより一般的な知識を含む、もう１つのより複雑な（しかし、処理が遅い）意味論的分析装置が最適化された意味論的分析装置と並列に起動されてもよい。
【００６８】
例としての擬似コード
以下は本発明の例としての実施例を部分的に実施するために使用することができる、例としての擬似コードである。擬似コードは図２の決定システム２４０及びアクションシステム２６０モジュールの例としての実施である、最上位レベルの決定モジュールの例を含む。付加的に、擬似コードは図２に図示されたパターン認識装置２３０に類似の、２つの認識モジュールを含む。決定モジュールは多様な状態変数に基づいて、多様な例としてのアクションを実施することができる。
【００６９】
【表１】
2005531072.tif 000003
【表２】
2005531072.tif 000004
【表３】
2005531072.tif 000005
【００７０】
例としての擬似コードから判るように、シャペロンのルールモジュールは、各々が疑わしい対話の部分とマッチ（または、一致）するように設計された３つのマッチングモジュール（または、一致モジュール）を含む。実際、例としての擬似コードは決定システムのルールを作成するためのトップダウン手法との関連で上述された例を実施する。上述したように、決定システムが検出するように設計されている一般的なシナリオは、無防備な子供を見つけ出すためにインターネットのチャットルームを訪問している略奪者である。シャペロンが監視しようとしている例としての対話は、訪問者が子供に「ボーイフレンドと性的体験をしたことがある？」と質問し、「あなたの電話番号を教えてもらえる？」、「公園で会える？」、または「あなたの電子メールのアドレスを教えて？」のうちの１つで終了する。
【００７１】
擬似コードにおける、決定システムシャペロンルールの３つのモジュールから判るように、第１のモジュールは開始の質問、すなわち、チャットルーム参加者が彼らのパートナーと性的体験をしたことがあるかと適合する。第２のモジュールは他の人物が保護している参加者に電話番号を尋ねているかを捕らえることを試みる。第３のモジュールは他の人物が保護している参加者と実際に合うことを頼んでいるかを捕らえることを試みる。マッチングは、例えば、「意味論的認識装置（semantic-recognizer）」と呼ばれる意味論的認識装置の出力を含む一連の試験を介して実施される。意味論的認識装置は入力テキストに対して意味論的分析を実施するパターン認識装置であり、入力テキストからの値を意味論的変数「アクション（action）」、「客体（object）」、及び「主体（subject）」に割当てる。これらの変数は次に、テキストが上述の潜在的な性的略奪者のシナリオを反映しているかを決定するために、決定システムシャペロンルールの３つのマッチングモジュールによって使用される。
【００７２】
擬似コードのシャペロンルールの３つのモジュールはまた（本願においてコードが示されていない）パターン認識装置である、感情認識装置を利用することができる。感情認識装置はオンライン通信の感情的な内容を検出することを試みる一種のパターン認識装置であり、それの出力は、例えば、「暖かい（warm）」、「激しい（hot）」、及び「冷めている（cold）」等の値を含む感情変数「強度（intensity）」であってもよい。
【００７３】
これらの入力が与えられたとき、シャペロンルールの第１モジュールは意味論的変数「アクション（action）」、「客体（object）」及び「主体（subject）」と値「性別（sex）」、「あなた（you）」及び「パートナー（partner）」とのマッチを探す。意味論的認識装置によって抽出された意味論的変数の値がこれらの値にマッチすることが判明した場合、シャペロンルールの第１モジュールは、感情認識装置が感情変数「強度（intensity）」を少なくとも「暖かい（warm）」の値に設定しているかを試験する。この結果が真である場合、決定モジュールは会話変数の「状態（state）」を「疑わしい（questionable）」に設定する。
【００７４】
同様な様式により、シャペロンルールの第２モジュールは意味論的変数「アクション（action）」、「客体（object）」及び「主体（subject）」と「与える（give）」、「電話番号（telephone number）」及び「あなた（you）」との間のマッチを探す。これらの意味論的値が実際にマッチした場合、シャペロンルールの第２モジュールは、会話の値「状態（state）」が少なくとも「疑わしい（questionable）」であるかを試験する。この結果が真である場合、モジュールは挙動変数の「種類（type）」が「一対一（one-on-one）」であるかを試験する。この結果が真である場合、モジュールは最終的に、感情の値「強度（intensity）」が少なくとも「激しい（hot）」であるかを試験する。これらのマッチが全て真である場合、シャペロンルールは会話の値の「状態（state）」を「警告（warning）」に設定する。
【００７５】
ここで、会話の値「状態（state）」が、上述したように、潜在的な性的略奪者の特徴的な開始の行「パートナーと性的体験をしたことがありますか」を検出した第１モジュールによって「疑わしい（questionable）」に設定されていることに注意しなければならない。開始行が検出された後、第２及び第３のモジュールは、性的略奪者が電話番号を要求したかを、そして、それが成功した場合（これは、上述したように、被害者が性的略奪者を信頼し始めたことを示す）、最終的に被害者が性的略奪者に実際に会うように要求されたかを調べる、引き続きの段階に対して試験を実施することができる。この状況はシャペロンルールの第３モジュールで対応される。さらに、シャペロンルールは挙動変数「種類（type）」の値を述べるために、パターン認識装置「挙動認識装置（Behavior-recognizer）」の出力を使用する。
【００７６】
第３モジュールにおいて、シャペロンルールは、性的略奪者が保護されているオンライン参加者に会合を要求している状況を捕らえること試みる。これは「アクション（action）」、「客体（object）」及び「主体（subject）」の３つの意味論的変数を試験値「会う（meet）」、「公園（park）」、及び「あなた（you）」とマッチすることによって成し遂げられる。実際の言語がどのようなものであってもパターン認識装置である意味論的認識装置がこれらのキー意味論的要素を引き出すだろうことに注意しなければならない。さらに、上述したように、実施に使用された多様な口語的用語をシャペロンルールがマッチすることを試みる多様な意味論的変数値に翻訳することができる別個のシノニムデータベース（または、同義語データベース）をパターン認識装置である意味論的認識装置に関連付ける（または、接続する）ことができる。
【００７７】
ここでシャペロンルールの第３モジュールに戻ると、要求された会合を検出する３つの意味論的値がマッチした後、プログラムは、挙動変数「種類（type）」がまだ値「一対一（one-on-one）」を有しているかをもう１度試験する。これが真である場合、プログラムは最終的に、交換の感情的満足度が増大しているかを試験する。これは感情変数「強度（intensity）」が少なくとも「激しい（hot）」を有しているかを試験することによってなされる。これが真である場合、決定システムは会話変数「状態（state）」を「警戒（alert）」に設定する。ここで、図２の例としてのアクションシステムモジュール２６０に対して擬似コードが準備されていないが、本発明の例としての実施例において、アクションシステムが入力として、会話変数「状態（state）」を受信するだろうことは明白であるだろう。それが「警告（warning）」または「警戒（alert）」の値を有する場合、アクションシステムは、例えば、保護されたチャット参加者に警告を出す、ＩＳＰプロバイダー、管理者、または保護されたチャット参加者の両親に警告を出す等のアクションをとるだろう。会話変数「状態（state）」が「警戒（alert）」に設定されている場合、本発明の例としての実施例において、アクションシステム２６０は、例えば、保護された参加者と疑わしい性的略奪者の間の全てのオンライン通信を阻止する等のアクションを実施する。
【００７８】
擬似コードの残りの部分は２つのパターン認識装置「キーワード認識装置（Key-word-recognizer）」及び「挙動認識装置（Behavior-recognizer）」を実施する。最初に「キーワード認識装置」はワードが警戒ワードリスト中で見つかるかを調べるために、入力されるテキストのコーパス中の各ワードを検索する。結果が真である場合、「警戒ワード発生（alert-words-occurrences）」と呼ばれる変数を増大する。同様な機能は「警告ワードリスト」のワードに対しても実施される。
【００７９】
最終的に、挙動認識装置は上述した総当り挙動（round-robin behavior）がオンライン通信で発生しているかを決定することを試みる。総当り挙動は、誰かが短い時間の間にオンライン上の、複数の異なった人物にメッセージを送信している状況のことである。これを測定するために、最後のオンライン通信のアドレスが誰かを決定する「最後のメッセージ：宛先（last-message: to）」と呼ばれる変数が存在する。その時のオンライン通信のアドレスが同一でない場合、すなわち、変数「最後のメッセージ：宛先（last-message: to）」が変数「現在のメッセージ：宛先（current message: to）」と等しくない場合、現在の通信の受信者が最後の人物と同一でないことになる。３秒前以内に変更が起きた場合、コードの第２行は最後のメッセージが最後のメッセージになった時間を秒で表す「最後のメッセージ：時間（last-message: time）」変数を試験することによって、すなわち、アドレスの変更が３秒以内に起きたかを試験することによって、その状態を検出する。これが真であり、さらに、最後の５分以内に５回以上の会話が存在した場合、それはコード「（５分以内）会話：回数＞５（conversations: number (within 5 minutes) > five）」によって試験され、パターン認識装置である挙動認識装置は７０％以上の確かさで総当り挙動が存在する、すなわち、会話が総当り形式である確率が０.７であると結論付ける。状態変数「総当り挙動：確かさ（round-robin behavior: confidence）」は、シャペロンルールのための例としての擬似コードで記述されていない複数のルールで使用されてもよい。同様に、状態変数「警戒ワード発生（alert-words-occurrences）」及び「警告ワード発生（warning- words-occurrences）」も簡潔性のために擬似コードに記述されていない、決定システムレベルの他のルールによって使用されてもよい。
【００８０】
当業者による本発明の実施例の改良及び変更は付随する請求の範囲によってのみ規定される本発明の範囲に入るとみなされる。
【図面の簡単な説明】
【００８１】
【図１】本発明の実施例に従ったチャットのオンライン監視のための例としてのシステムを図示している。
【図２】本発明の実施例に従ったチャットのオンライン監視のための例としての処理を図示している。
【符号の説明】
【００８２】
１１０  チャットルーム
１２０  チャットサーバー
１２１  チャットルーム
１３０  チャット参加者
１４０  シャペロン
１５０  シャペロンサーバー
１５１  レポートモジュール
１６０  記憶装置
１６１  チャットルームルール
１６２  参加者プロフィール
１６３  ユーザー履歴
２１０  オンライン通信
２２０  通信システム
２３０  パターン認識装置
２４０  決定システム
２５０  違反記録
２６０  アクションシステム
２７０  レポートデータベース
２８０  インターフェース（アクション）
２９０  インターフェース
【図１】
2005531072.tif 000006
【図２】
2005531072.tif 000007
【国際調査報告】
2005531072.tif 000008
2005531072.tif 000009