(57)【要約】良いメッセージ、バルクピリオディカル、またはスパムなどのメッセージをダイナミックにフィルタリングおよび分類する方法である。通常の表現認識子および事前に調整された神経回路網を備える。神経回路網は「良いであろう」から「スパムであろう」を区別し、また、３つのカテゴリー間で区別する、さらなる識別力のあるレベルにて動作する。ダイナミックなホワイトリストおよびブラックリストを含む。送信アドレスは集められ、それらのメッセージの数が、その送信者が良いかスパマーかを示す。通常の表現のダイナミックに選択されたセットが神経回路網に入力される。
2007511813.tif 000002
【特許請求の範囲】
【請求項１】
メッセージを分類する方法であって、該方法は、
メッセージにおける言葉および言葉の群を含むパターンを認識するステップと、
該メッセージを分類するために、該認識されたパターンに応じた複数の機械学習技術を適用するステップと
を包含する、方法。
【請求項２】
前記機械学習技術が、神経回路網を含む、請求項１に記載の方法。
【請求項３】
前記神経回路網が、前記メッセージを、良いメッセージ、バルクメッセージ、またはスパムメッセージに分類するように、事前に調整されている、請求項２に記載の方法。
【請求項４】
前記神経回路網が、神経回路網の少なくとも二つのレベルをさらに備える、請求項２に記載の方法。
【請求項５】
前記神経回路網の二つのレベルは、前記メッセージが良いであろうか、スパムであろうかを決定する第１のレベルと、良いであろうメッセージが良いか、およびスパムであろうメッセージがスパムであるかを決定する第２のレベルとを含む、請求項４に記載の方法。
【請求項６】
前記神経回路網の二つのレベルは、前記メッセージが良いであろうか、スパムであろうかを決定する第１のレベルと、良いであろうメッセージが良いかまたはバルクであるか、およびスパムであろうメッセージがスパムであるかまたはバルクであるかを決定する第２のレベルとを含む、請求項４に記載の方法。
【請求項７】
前記分類のうちの少なくとも一つに対して、前記神経回路網が３つの分類のうちの一つに前記メッセージを分類し、該神経回路網を介する一つ以上の経路が、その分類に達成するために、該メッセージに対して存在する、請求項４に記載の方法。
【請求項８】
前記メッセージの分類に応じた前記神経回路網をダイナミックに維持するステップをさらに包含する、請求項１に記載の方法。
【請求項９】
前記メッセージを分類するのを助けるために、ルールを該メッセージに適用するステップをさらに包含する、請求項１に記載の方法。
【請求項１０】
前記メッセージが前記ルールによって分類される場合、前記神経回路網を適用するステップがスキップされる、請求項９に記載の方法。
【請求項１１】
前記ルールが、ホワイトリスト、ブラックリスト、または該ホワイトリストおよび該ブラックリストの両方を活用する、請求項９に記載の方法。
【請求項１２】
前記メッセージの分類に対応した、前記ホワイトリスト、前記ブラックリスト、または該ホワイトリストおよび該ブラックリストの両方をダイナミックに維持するステップをさらに包含する、請求項１１に記載の方法。
【請求項１３】
表現を認識するステップが、認識される通常の表現のセットを選択するために、ジェネティックアルゴリズムを適用するステップをさらに包含する、請求項１１に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、例えばメッセージの内容に応じて、インカミングメッセージをフィルタリングすることなどの、ダイナミック・メッセージ・フィルタリングに関する。一実施形態において、メッセージは、ダイナミック・フィルタリングに応じて、送達され得るか、または他のアクションを起こし得る。
【背景技術】
【０００２】
コンピュータ通信ネットワークにおいて、連絡、情報の配布、およびリクエストに応答するなどの目的で、ユーザ間でメッセージを送受信するのが普通である。これをするための一つの方法は、ｅメールとして知られる電子メールである。技術的に生じている一つの問題は、一部のメッセージが望まれていないということである。さらに、広告主や他のメッセージ送信者が、多数のｅメールアドレスを集め、それらのｅメールアドレスの受信者に、頼んでもいない大量の広告を送りつけるようになっている。そのような、頼んでもいない大量のｅメールの数が相対的に大きい場合、受信者がそれらを削除する時間と労力は相当なものとなり得る。また、受信者は、ｅメールの受信箱に蓄積された相対的に膨大な数の重要でないメッセージのために、相対的に重要なメッセージを無くしてしまう可能性がある。そのような、頼んでもいない大量のｅメールは、口語的な言葉で、「スパム」として、しばしば知られ、そのようなメッセージの送信者は、しばしば、「スパマー（ｓｐａｍｍｅｒ）」と呼ばれる。
【０００３】
スパムを検出する第１の既知の方法は、いわゆる「ホワイトリスト（ｗｈｉｔｅｌｉｓｔ）」および「ブラックリスト（ｂｌａｃｋｌｉｓｔ）」を含み、それぞれのメッセージの送信者は、フィルタにより、「良い（ｇｏｏｄ）」（スパマーではない送信者）、または、「悪い（ｂａｄ）」（スパマーとして認識される送信者）として識別される。これらの方法は、一般には、メッセージをフィルタする目的を達成する一方で、それらは、ユーザがホワイトリストまたはブラックリストを管理することに関与するという点で不利であり、さらには、スパマーはしばしば、新しいスパムを送るための、新しく、独自の送信アドレスを選ぶという点で不利である。
【０００４】
スパムを検出する第２の既知の方法は、メッセージの内容から、それがスパムであるのかないのかを判断することを含む。既知の判断技術は、（ａ）スパマーによって宣伝される既知の製品を識別する言葉などのような、一般的にスパムを示す既知のキーワードのメッセージを検索すること、および（ｂ）そのような「悪い」キーワードの数と、スパムメッセージにおいて相対的に使用される可能性の低い言葉などの「良い」キーワードとを比較することによって、メッセージを評価すること、を含む。後者の方法の一つの例は、Ｐａｕｌ  Ｇｒａｈａｍの「Ａ  Ｐｌａｎ  ｆｏｒ  Ｓｐａｍ」で提案されたベイズフィルタであり、「Ｍｏｚｉｌｌａ」のｅメールクライアントの一部の実施によって実行される。これらの方法が一般に、メッセージをフィルタする目的を達成する一方で、それらは、ユーザが通常受け取るメッセージのタイプに特定の、「悪い」キーワードおよび「良い」キーワードを認識するための実施を、ユーザが調整しなければならない点で不利であり、さらには、スパマーはしばしば、宣伝すべき、新しい、独自の製品、または、それらを識別する言葉（しばしばスペルミスである）を選択するという点で不利である。
【０００５】
したがって、ダイナミック・メッセージ・フィルタリングの改良された技術を提供することが有利な点である。
【発明の開示】
【課題を解決するための手段】
【０００６】
本発明は、インカミングメッセージをダイナミックにフィルタリングすることが可能であり、３つのカテゴリ（良いメッセージ、バルクメッセージ、およびスパム）のうちの少なくとも１つに、それらのメッセージを分類する。「バルクピリオディカル（ｂｕｌｋ  ｐｅｒｉｏｄｉｃａｌ）」の中間のカテゴリは、個々の受信者に明確に向けられたものではないメッセージに対して保留されるが、受信者は、すでに使用している製品の更新に関する情報、または、ユーザが明らかに興味を示す製品やサービスに関連する情報などのレビューを望み得る。
【０００７】
第１の局面において、システムは、それぞれのメッセージの標準に基づいた（ｍｅａｓｕｒｅｄ）意図に基づいて、メッセージを分類するＩＤエンジンを含む。一実施形態において、エンジンは、メッセージを分類するために、通常の表現認識子（ｒｅｇｕｌａｒ  ｅｘｐｒｅｓｓｉｏｎ  ｒｅｃｏｇｎｉｚｅｒ）、および事前に調整された（ｐｒｅ−ｔｒａｉｎｅｄ）人工神経回路網（ａｒｔｉｆｉｃｉａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）のセットを含む。通常の表現の認識子は、スペルミスの言葉、さもなくば害のない言葉（例えば、「ＭＡＫＥ  ＭＯＮＥＹ  ＦＡＳＴ」など）から成るスパムであろうフレーズ、および、典型的にスパムであることを指示する既知のキーワードによる検出を巧みに逃れようとするスパマーの他の共通する企て、を検出するのに適している。人工神経回路網は、メッセージを「良いであろう（ｌｉｋｅｌｙ  ｇｏｏｄ）」と「スパムであろう（ｌｉｋｅｌｙ  ｓｐａｍ）」とに分け、その情報を用いて、良いメッセージ、バルクピリオディカル、およびスパムの間を区別する、より詳細で、区別可能なレベルにて動作する。初期に「良いであろう」と考えられたメッセージは、最終的に、良いメッセージまたはバルクピリオディカルとして識別され得る。同様に、初期に「スパムであろう」と考えられたメッセージは、最終的に、バルクピリオディカルまたは悪いメッセージとして識別され得る。この局面は、決定における不明瞭さの原因となっており、相当の数をバルクピリオディカルとして識別することによってスパムとして誤って識別されるメッセージの数を低減させ、相対的に有害ではないとユーザによって考えられる。
【０００８】
第２の局面において、システムは、送信アドレスが収集されるダイナミックなホワイトリストおよびブラックリストを含み、それらの送信アドレスからのメッセージの数が、その送信者が良いであろうか、スパマーであろうかを指示するときに、送信アドレスが収集される。一実施形態において、良いメッセージとしてのメッセージ通過の少なくとも閾値（好ましくは４つ）が、既知の良い送信者のホワイトリストに自動的に追加され、その結果、それらの送信者からのメッセージは、他の送信者らと十全に照合される必要はない。
【０００９】
第３の局面において、システムは、通常の表現のセットを含み、その検出は人工神経回路網に入力される。導入前に選択された一実施形態において、人工神経回路網はさらに迅速に調整され（ｔｒａｉｎｅｄ）、通常のユーザによって受信されるｅメールにおける変化に、さらに迅速に正確に応じる。一実施形態において、２，０００個の有用な通常表現（言葉またはフレーズを識別する）のサブセットは、７０，０００個の使用され得る通常の英語の言葉およびフレーズの中から、ジェネティックアルゴリズムを用いて、選択される。これはまた、人工神経回路網がより小さくされ得（つまり、より少ない入力ノードおよびより少ない隠しノードを用いて）、および、相対的に少ないメインメモリにおいて直接に実行されることが可能であり、その結果、そのような実行は相対的に、より迅速になる。
【００１０】
本発明はｅメールメッセージに限定されるものではなく、例えば、ウェブページまたはウェブページのキャッシュ、「ポップアップ」広告、およびウェブページのＪａｖａ（登録商標）Ｓｃｒｉｐｔ、「インスタントメッセージ」、ＨＴＴＰトンネルを用いたメッセージプロトコルなどの、他のタイプのメッセージまたはデータに応用可能であり、ならびに、適切な受信者へのｅメールの自動ルート、レビューのための自動優先順位付け（または、ポケットベル、または、無線のｅメール受信箱に転送するため）、メッセージのダイジェストへのメッセージ群の自動収集、第２のレビューまたは法的責任のためのメッセージの自動フラグ、ならびに、ウィルスを含んだ送信メッセージの自動検出などの、他のタイプのフィルタリングにも応用可能である。
【発明を実施するための最良の形態】
【００１１】
ここにおける記載において、最良の処理ステップおよびデータ構成を含む本発明の最良の形態が説明される。当業者は、本出願の通読後、本発明の実施形態が、過度の実験またはさらなる発明なしに、特別に記載はされていないが多様な技術を用いて実施され得ること、ならびに、そのような他の技術が本発明の範囲内および精神内であることを理解される。
【００１２】
辞書編集
後述の用語のそれぞれの一般的な意味は、例証的なものであり、限定されるものではない。
【００１３】
「ｅメール」、「メッセージ」という用語、および、「電子メール」、「電子メッセージ」というフレーズは、情報が送信者から受信者へ届けられる（または、届けられるであろうと思われる）任意の技術を一般的に示し、その技術が、非同期的か同期的であるか、回路スイッチかパケットスイッチであるか、人間が可読か否か、個人受信者向けか否か、ブロードキャスト、マルチキャスト、ユニキャストか否かに関らず、示される。ここにおいて用いられるように、「メッセージ」という用語は故意的に適用範囲が広い。記載されるように、メッセージが、純粋なテキストまたは本来はテキストであらなければならないという特別な要求はない。
【００１４】
「所望しないｅメール」、「所望しないメッセージ」というフレーズ、および、「スパム」という用語は、任意のメッセージを一般的に示し、それら任意のメッセージは、実際の受信者またはその受信者になり得る受信者によって特に所望されず、それら受信者にとって不愉快である、またはそれら受信者の時間の無駄であるものである。ここに記載されるように、要求されず、バルクで送信され、しばしば広告を含むメッセージに通常適用されるが、「スパム」という用語は、故意的に適用範囲が広い。
【００１５】
メッセージに適用される際、「バルクピリオディカル」というフレーズは、明らかに個人受信者向けのメッセージではないが、例えば、ユーザがすでに使用している商品の更新に関する情報、または、ユーザが明らかに興味のある商品またはサービスに関する情報のような受信者が目を通すことを望み得るメッセージを一般的に示す。
【００１６】
「比較的、重要なメッセージ」というフレーズは、「スパム」とは考慮されない任意のメッセージ、および受信者が興味のあるピリオディカルまたは広告のような所望のバルクメッセージとは考慮されない任意のメッセージを一般的に示す。本発明は、入ってくるメッセージをダイナミックにフィルタリング可能な方法およびシステムを提供し、それは、良いメッセージ、バルクピリオディカル、そしてスパムの少なくとも３つのカテゴリの１つにそれらのメッセージを分類する効果を伴なう。始めのものは、比較的重要なメッセージであり、最後のものは、比較的所望でないメッセージであり、そして、真ん中のもの（バルクピリオディカル）は、ユーザにとって所望であり得るメッセージ、または所望でないメッセージであり得る。
【００１７】
メッセージに適用される際、「ブロッキング」および「フィルタリング」という用語は、任意の技術を一般的に示し、その技術によって、メッセージが、例えば、そのメッセージにスパムであるか否かの評価のタグを付けるために、その評価に応答してアクションを起こすために、または、その評価に応答してそれらメッセージを整理するまたは優先順位をつけるために、ユーザに代わってアクションをマーク付けされる。例えば、決してそれらに偏りはしないが、その評価に応答して「アクションを起こす」は、メッセージの一部または全メッセージを無線受信者へ転送すること、より永続的なログにメッセージをコピーすること、メッセージを他のユーザに再配信すること、または（例えば、スパマーＩＳＰ，スパマー送信アドレス共通ブラックリスト、または政府機関等の）アンチスパム実施者へメッセージの送信者を報告することを含み得る。
【００１８】
メッセージに適用される際、「誤ったポジティブ」というフレーズは、比較的重要であるメッセージが、そうでないものとして間違って識別された任意のメッセージを一般的に示す。
【００１９】
本発明のこれら用語および概念の拡張を含む他のアプリケーション、ならびに、さらなるアプリケーションは、本出願の習得後、当業者には明確になるであろう。これら他のアプリケーション、およびさらなるアプリケーションは、本発明の範囲および精神の一部であり、さらなる発明または不適切な実験なしに当業者にとって、明らかである。
【００２０】
本発明の範囲および精神は、いかなるこれらの定義、またはここにおいて記述される特定の実施例に限定されるものではなく、これらおよび他の用語によって実施される最も一般的な概念を含むものである。
【００２１】
一般化されたシステム要素
図１は、ダイナミック・メッセージ・フィルタリングの一般化されたシステムのブロック図である。
【００２２】
本発明の実施形態の一般化された概念において、システム１００は外部ネットワーク１１０に結合され、設備レベル１２０、サーバレベル１３０、およびクライアントレベル１４０を含む。
【００２３】
外部ネットワーク１１０は、ｅメールおよび他のメッセージのような入ってくるメール通信１１１を含む、メッセージ送受信の任意の技術を含み得る。一実施形態において、外部ネットワーク１１０は、例えば、インターネット・バックボーン・ネットワークに結合されたＩＳＰのようなインターネットを含む。しかしながら、本発明の内容において、外部ネットワーク１１０が通信システムの任意の特定のタイプと携わらなければならないという特定の必要性はない。代替的な実施形態において、外部ネットワーク１１０は、イントラネット、エクストラネット、ＶＰＮ、ＡＴＭネットワーク、ＰＳＴＮのような個人または公共交換網、または、これら一部の組み合わせまたはこれらの結合を含み得る。
【００２４】
一実施形態において、設備レベル１２０は、エンタープライズネットワークへのエントリーポイント１２５を含み、可能であるならば、そのネットワークは、ファイアーウォール、ルータまたはゲートウェイルータ、もしくは、より包括的な通信ネットワーク内に配置されるＶＰＮ（仮想プライベートネットワーク）のようなソフトウェア構成に携わる。設備レベル１２０は、エンタープライズネットワークへのエントリーポイントと結合され、また、残りのエンタープライズネットワークへも結合されるスパムフィルタ１２１を含む。決して限定はしないが、一実施例において、スパムフィルタ１２１は、第１のポート１２３においてファイアウォールと結合され得、第２のポート１２４において（ＬＡＮ、ＷＡＮ、ＶＬＡＮ、ＶＰＮ、または同等物を含むネットワークのような）エンタープライズネットワークに結合され得る。一実施形態において、スパムフィルタ１２１は、例えば、データベースまたは他の記憶装置のような少なくとも一部の記憶装置１２２を含み、そこにおいて、スパムフィルタ１２１は、スパムフィルタ１２１によって任意の迷惑メール（スパム）をブロック、維持、または保留し得る。
【００２５】
一実施形態において、サーバレベル１３０は、サーバ要素セットを含む。例えば、決して限定はされないが、サーバレベル１３０は、メールサーバ、ウェブサーバ、データベースサーバ、ネットワーク付属型記憶装置のためのサーバ、または印刷サーバ１３３のうちの少なくとも一つを含み得る。一実施形態において、サーバレベル１３０は、第１のポート１３２においてスパムフィルタ１２１と結合し、第２のポートにおいてクライアントレベル１４０と結合するメールサーバ１３１の少なくとも１つを含む。決して限定はしないが、例えば、メールサーバ１３１は、ワークステーションセットと結合し得、そのワークステーションにおいて、ユーザはｅメールメッセージを受信し、操作する。
【００２６】
一実施形態において、クライアントレベル１４０は、クライアント機器のセットを含む。例えば、決して限定はされないが、クライアントレベル１４０は、ワークステーションのセット、プリンタのセット、無線通信機器のセット、または、例えば「Ｂｌａｃｋｂｅｒｒｙ」または「Ｐａｌｍ  Ｐｉｌｏｔ」機器、ならびに、ＰＤＡ（個人向けデジタルアシスタント）またはパーソナルオーガナイザのようなハンドヘルド機器のセットを含み得る。一実施形態において、クライアントレベル１４０は、少なくとも一つの受信者メールボックス１４１を含む。受信者メールボックス１４１は、「良いメッセージ」メールボックス部１４２と「バルクピリオディカル」メールボックス部１４３の少なくとも２つの領域を含む。
【００２７】
後述されるように、スパムフィルタ１２１は、外部ネットワーク１１０から入ってくるメール通信１１１の少なくとも一部を受信し、メッセージをそれら入ってくるメール通信１１１からクラスのセットへ分類する。一実施形態において、クラスのこのセットは、「良いメッセージ」、「バルクピリオディカル」、および「迷惑メール」を含む。スパムフィルタ１２１は、記憶装置１２２において設備レベル１２０で迷惑メールとして分類されたメッセージを保留し、一方において、良いメッセージまたはバルクピリオディカルとして分類され、適切にマークされたメッセージをサーバレベル１３０へ転送することを許可する。サーバレベル１３０において、メールサーバ１３１は、適切にマークされた良いメッセージまたはバルクピリオディカルを受信し、良いメッセージを「良いメッセージ」メールボックス部１４２へと届け、バルクピリオディカルを「バルクピリオディカル」メールボックス部１４３へと届ける。
【００２８】
（ファイアウォールの背後における）システム要素
図２は、ファイアウォールの背後に配置された実施形態において、ダイナミック・メッセージ・フィルタリングのシステムのブロック図を示す。
【００２９】
システム２００の実施形態は、（図１の外部ネットワーク１１０に類似した）外部ネットワーク２１０、（図１の設備レベル１２０に関して記載されたファイアウォール、ルータ、またはゲートウェイルータに類似した）ファイアウォール２２０、（図１のメールサーバ１３１に類似した）メールサーバ２３０、アドミニストレータ・ウェブ・クライアント２４１、エンドユーザ・ウェブ・クライアント２４２、および（図１のスパムフィルタ１２１に類似した）スパムフィルタ２５０を含む。
【００３０】
図１の外部ネットワーク１１０に類似する外部ネットワーク２１０は、メッセージの送受信をする任意の技術を含み得る。一実施形態において、外部ネットワーク２１０は、例えば、インターネット・バックボーン・ネットワークに結合されたＩＳＰのようなインターネットを含む。しかしながら、本発明の内容において、外部ネットワーク２１０が通信システムの任意の特定のタイプと携わらなければならないという特定の必要性はない。代替的な実施形態において、外部ネットワーク２１０は、イントラネット、エクストラネット、ＶＰＮ、ＡＴＭネットワーク、ＰＳＴＮのような個人または公共交換網、または、これら一部の組み合わせまたはこれらの結合を含み得る。
【００３１】
図１の設備レベル１２０に関して記載されたファイアウォールに類似するファイアウォール２２０は、外部ネットワーク２１０からのｅメールおよび他のメッセージ２２１のようなメール通信を受信可能であり、（ファイアウォール２２０によって維持されるファイアウォール・ルール・セットの応答として）メッセージ２２１がブロックされるべきか否かを決定するためのそれらのメッセージを点検可能であり、（ブロックされなければ）メッセージ２２１をスパムフィルタ２５０へ送信可能である。
【００３２】
図１のメールサーバ１３１に類似するメールサーバ２３０は、スパムフィルタ２５０からのメッセージ２２１を受信可能であり、それらのメッセージの内容に応答して、メッセージをエンドユーザ受信者へ転送可能である。一部の実施例において、決して限定はしないが、メールサーバ２３０は、例えばＩＭＡＰ，ＰＯＰまたはＳＭＴＰのような周知のメールトランスファプロトコルを用いる周知のメールサーバを含み得る。
【００３３】
アドミニストレータ・ウェブ・クライアント２４１は、プロセッサ、プログラムおよびデータメモリ、ならびに、例えばデスクトップ・ワークステーション、ノート型コンピュータ、「Ｂｌａｃｋｂｅｒｒｙ」、「Ｐａｌｍ  Ｐｉｌｏｔ］または他のハンドヘルドコンピュータ機器、もしくは他の機器として構成される出入力機器を含む。アドミニストレータ・ウェブ・クライアント２４１は、アドミニストレータが、一般使用のためにスパムフィルタ２５０によって維持された構成情報をレビュー、編集、または削除可能である効果と共に、スパムフィルタ２５０と通信可能である。
【００３４】
エンドユーザウェブクライアント２４２は、プロセッサ、プログラムおよびデータメモリ、ならびに、例えばデスクトップ・ワークステーション、ノート型コンピュータ、「Ｂｌａｃｋｂｅｒｒｙ」、「Ｐａｌｍ  Ｐｉｌｏｔ］または他のハンドヘルドコンピュータ機器、もしくは他の機器として構成される出入力機器を含む。エンドユーザウェブクライアント２４２は、エンドユーザが、そのエンドユーザに関る使用のためにスパムフィルタ２５０によって維持された構成情報をレビュー、編集、または削除可能である効果と共に、スパムフィルタ２５０と通信可能である。
スパムフィルタ
図１のスパムフィルタ１２１に類似するスパムフィルタ２５０は、ファイアウォール２２０を介し、それによって許されたメッセージを受信可能であり、それらメッセージが良いメッセージ、バルク広告、またはスパムとして扱われるべきか否かを決定するためのメッセージ２２１を点検可能であり、その決定の結果の応答として、それらメッセージ２２１に関する一つ以上のアクションを起こすことが可能である。これらの一つ以上のアクションは、（ａ）メッセージ２２１を届けるためにメールサーバ２３０へ転送する以前に適切にメッセージにタグを付けること、（ｂ）メッセージ２２１を遅らせること、削除すること、隔離すること、または、そうでなければメッセージ２２１を処理すること、（ｃ）ユーザーへメッセージ２２１を転送すること、またはエンドユーザ以外のメッセージ２２１が本来アドレスされた他の存在物へメッセージ２２１を転送すること、（ｄ）スパムフィルタ２５０が、どのメッセージ２２１が良いメッセージ、バルク広告、またはスパムであるかを区別することが可能である効果と共に、アクションの状態を更新すること、を含み得る。
【００３５】
一実施形態において、スパムフィルタ２５０は、メール・トランスファ・エージェント２５１、データベース２５２、ＩＤエンジン２５３、アドミニストレーション・インターフェース要素２５４、エンドユーザインターフェース要素２５５、ウェブサーバ２５６、ウェブＣＧＩ層２５７、オペレーティングシステム層２５８、およびハードウェアプラットフォーム２５９を含む。
【００３６】
一実施形態において、メール・トランスファ・エージェント２５１は、ここにおいて記載される性能および機能を含むように修正された、例えば（ＩＢＭより入手可能な）バージョン１．１．１１のＰｏｓｔＦｉｘ  Ｍａｉｌ  Ｔｒａｎｓｆｅｒ  Ａｇｅｎｔを含む。メール・トランスファ・エージェント２５１は、ユーザ、または代替的にＳｅｎｄｍａｉｌをも含む。
【００３７】
メール・トランスファ・エージェント２５１は、ユーザの送信者が（ユーザエージェントを用いて）メール・トランスファ・エージェント２５１へメッセージ２２１を送信する一般的なスキーマを使用し、装置間、または複数の装置間においてメッセージ２２１をトランスファ可能であり、メール・トランスファ・エージェント２５１は一つ以上の他のメール・トランスファ・エージェントへメッセージ２２１を送信し、それら１つ以上の他のメール・トランスファ・エージェントの各々は、１つ以上のエンドユーザ受信者へメッセージ２２１を届ける。一実施形態において、メール・トランスファ・エージェント２５１は、メッセージ２２１を点検し、分類するためにデータベース２５２およびＩＤエンジン２５３と通信するように修正される。
【００３８】
一実施形態において、データベースは、統計、ならびにｅメールロギングおよびリポーティングの上に、ユーザ設定およびアドミニストレーティブ設定を記憶するために使用される。スパムと識別されたメッセージは、ユーザがそのメッセージは実際はスパムではない（つまり、誤って識別された、「誤ったポジティブ」である）と決定する場合、ファイルシステムにおいて、後の取り出しのために記憶され得もする。代替的な実施形態において、スパムと識別されたメッセージは、同様の状態の下、データベース２５２において、後の取り出しのために記憶され得もする。
【００３９】
一実施形態において、ＩＤエンジン２５３は、例えばバージョン２．４のＣｏｒｖｉｇｏ（登録商標）フィルタリングエンジンを含む。この実施形態において、フィルタリングエンジンは、メッセージの趣旨を決定するために、例えば自然言語処理を含む人工知能技術の組み合わせを使用する。そして、フィルタリングは、決定された趣旨に基づき行われる。
【００４０】
一実施形態において、アドミニストレーション・インターフェース要素２５４は、インターフェースを含む。アドミニストレータ・インターフェース要素は、アドミニストレータがスパムフィルタ２５０を構成、動作、維持することを可能にさせる。アドミニストレーション・インターフェース要素２５４は、例えばＨＴＭＬ（ハイパーテキスト・マークアップ言語）およびＰＨＰのような周知の手段を用いて構成され得る。
【００４１】
一実施形態において、エンドユーザインターフェース要素２５５は、ユーザインターフェースを含む。ユーザインターフェース要素は、ユーザが以下のオペレーションの内の一つ以上を行うことを可能にする。そのオペレーションとは、スパムフィルタリングの優先の修正をすること、メールメッセージのリポートおよびそのメールがどのように分類され取り扱われたかのリポートを見ること、ユーザが「誤ったポジティブ」（つまり、バルクピリオディカルまたはスパムとして間違って識別された良いメッセージ）を見つけ、取り出すことを可能にすること、である。エンドユーザインターフェース要素２５５は、例えばＨＴＭＬおよびＰＨＰのような周知の手段を用いて構成され得る。
【００４２】
一実施形態において、ウェブサーバ２５６は、Ａｐａｃｈｅ  ＨＴＴＰサーバライセンス１．０のようなオープンソースサーバを含む。この実施形態において、ウェブサーバは、ウェブＣＧＩ層２５７のようなウェブＣＧＩ層を生成するために用いられる機能およびインターフェースを提供する。
【００４３】
一実施形態において、ウェブＣＧＩ層２５７は、ユーザおよびアドミニストレータがＷｏｒｌｄ  Ｗｉｄｅ  ＷｅｂのようなＨＴＭＬ動作可能なネットワーク上において、スパムフィルタ２５０との相互通信を可能にするＰＨＰ（Ｈｙｐｅｒｔｅｘｔ  Ｐｒｅｐｒｏｃｅｓｓｏｒ）に基づくインターフェースを含む。
【００４４】
第１の最良の実施形態において、ハードウェアプラットフォーム２５９およびオペレーティングシステム層２５８は、Ｌｉｎｕｘオペレーティングシステムバージョン（または、Ｕｎｉｘ（登録商標）バージョン、Ｍａｃｈマイクロカーネルを含むオペレーティングシステムのような同様のオペレーティングシステム）の制御下において動作するＩｎｔｅｌ−ａｒｃｈｉｔｅｃｔｕｒｅプロセッサ（または、それに機能的に均等する物）を含む。第２の最良の実施形態において、ハードウェアプラットフォーム２５９およびオペレーティングシステム層２５８は、Ｓｏｌａｒｉｓオペレーティングシステムバージョン（または、
（登録商標）バージョンのような同様のオペレーティングシステム）の制御下において動作するＳｕｎ  ＳＰＡＲＣステーションプロセッサ（または、それに機能的に均等する物）を含む。
【００４５】
後述されるように、一実施形態において、スパムフィルタ２５０にあるメール・トランスファ・エージェント２５１は、可能性としては例えばファイアウォール２２０を用いて、外部ネットワーク２１０からのメッセージ２２１の少なくとも一部を受信する。メッセージ２２１は、ＩＤエンジン２５３によって決定されるように、それぞれのメッセージの趣旨に基いた分類のためにＩＤエンジン２５３へ伝送される。
【００４６】
一実施形態において、エンジンは、通常表現認識子およびメッセージを分類するように前もって調整された人工神経回路網のセットを含む。通常表現認識子は、間違ったつづり、（例えば、「ＭＡＫＥ  ＭＯＮＥＹ  ＦＡＳＴ」のような）無害な言葉の構成ではあるがよくあるスパムフレーズ、スパムを通常暗示する周知のキーワードによる検出を回避するようなスパマーにる他の共通する試みを検出するのに適切である。人工神経回路網は、メッセージを「良いであろう」と「スパムであろう」に分け、その情報と共に、良いメッセージとバルクピリオディカルとスパムを区別するために、より詳細かつより区別化するレベルにおいて動作する。
【００４７】
始めに「良いであろう」と考慮されたメッセージは、良いメッセージまたはバルクピリオディカルとして最終的に識別され得る。同様に、始めに「スパムであろう」と考慮されたメッセージは、バルクピリオディカルまたはスパムとして最終的に識別され得る。
【００４８】
一実施形態において、スパムと識別されたメッセージは、間違って識別された（つまり、それらは「誤ったポジティブ」である）時のために、記憶のためにファイルシステムへ送信される。代替的な実施形態において、スパムと識別されたメッセージは、後の識別または他の処理のために、データベース２５２へと任意的に送信され得る。適切にマークされた良いメッセージおよびバルクピリオディカルは、エンドユーザ受信者のメールボックス部へ届けるために、メール・トランスファ・エージェント２５１からメールサーバ２３０へと送信される。
【００４９】
多様なメッセージを取り扱う異なった方法も可能である。１つの実施例として、決して限定はしないが、スパムフィルタ２５０は、バルクメッセージをそれがスパムかの如く取り扱うように構成されても良い。
【００５０】
（サーバとして構成される）システム要素
本出願を読んだ後、当業者は、ダイナミック・メッセージ・フィルタリングのシステムが、サーバとして配置される一実施形態において代替的に使用構成され得ることを認識するであろう。そのような実施形態において、サーバは、図１のメールサーバ１３１とスパムフィルタ１２１との組み合わせに一般的に同様であり得る。これは、サーバが、メッセージを受信すること、スパムおよび可能であるならばバルクピリオディカルメッセージをフィルタリングすること、および、それらの内容に応答して良いメッセージをエンドユーザ受信者へ転送することが可能であるという効果を有する。一部の実施形態において、決して限定はしないが、サーバは、例えばＩＭＡＰ、ＰＯＰまたはＳＭＴＰのような周知のメール・トランスファ・プロトコルを用いて機能し得る。
ＩＤエンジン
図４は、本発明の一局面に従うＩＤエンジンの一実施形態のブロック図である。
【００５１】
ＩＤエンジン２５０または３５０として使用するために適するＩＤエンジン４００の一実施形態は、語彙アナライザ４１０、入力ベクトル生成部４２０、ルール４３０および神経回路網ヒエラルキー４４０を含む。
【００５２】
一実施形態において、語彙アナライザ４１０は、インターネット規格に従ってメッセージを復号し、構文解析する。メッセージは、ヘッダー部と主体部へと分解される。ヘッダー部は、個別のヘッダーへとさらに分解する。主体部は、必要であるならば復号され、相応しくないマークアップを取り除く。この実施形態において、複数のＭＩＭＥ部分およびそれらのサブ構成要素が取り扱われる。
【００５３】
一実施形態において、入力ベクトル生成部４２０は、神経回路網ヒエラルキー４４０によって使用されるのに適する出力ベクトルを生成するために、題目（ｓｕｂｊｅｃｔ）ヘッダーおよびテキストの主体部を利用する通常表現認識子を含む。これは、入力ベクトル位置に対して言葉およびフレーズの多数対一マップ（ｍａｎｙ−ｔｏ−ｏｎｅ  ｍａｐ）を用いることによって達成される。一実施形態において、マップは、使用され得る可能な７０，０００の最も一般的な英単語の中から、ジェネティック・アルゴリズムを使用し、前もって選択された２，０００の最も有用な通常表現（識別語、または識別表現）のサブセットを含む。
【００５４】
一実施形態において、入力ベクトル生成部４２０は、各々のメッセージのテキストの文字をスキャンし、そのメッセージに表れる各々の単語またはフレーズ（長さは４単語まで）は、マップにおいてその値をチェックされる。単語またはフレーズに対応するエントリーがマップ内に表れる場合、入力ベクトルの適切な値が増加する。システムを迂回しようと工夫し、そのように構成されたメッセージにおいてですらも、単語を認識するように注意が為されている。
【００５５】
一実施形態において、ルール４３０は、可能であるならば、効率良く分類を決定するために、メッセージに基本的なルールを適用する。そのようなルールの可能性のある一つのセットは、以下に列挙される。この実施形態において、分類が任意のルールによってポジティブに一旦決定されると、それ以上の処理は発生しない。
（１）メッセージの送信者が、その受信者に既知の送信者リストに存在する場合、メッセージは分類される。
（２）メッセージを送信したクライアントのＩＰアドレスが、アドミニストレータによって既知のＩＰアドレスのリストに存在する場合、メッセージは分類される。リストは、クライアントＩＰアドレス、および所望の分類を含む。
（３）メッセージの送信者が、アドミニストレータに既知の送信者リストに存在する場合、メッセージは分類される。リストは、送信者のアドレスおよび所望の分類を含む。
（４）送信者のアドレスのドメイン部分が、アドミニストレータに既知のドメインのリストに存在する場合、メッセージは分類される。リストは、送信者のアドレスのドメインおよび所望の分類を含む。
（５）題目がデリミターに続き文字列の「ａｄｖ」（または、他の選択された文字列）を含む場合、メッセージは迷惑として分類される。そのような文字列は、メッセージが広告宣伝または他のバルクｅメールであることをエンドユーザへ警告するために、広告側によって時折、使用される。
（６）米英語メッセージにおいて通常使用されない文字セット（もしくは、他の選択された文字セットまたは他の選択された言語）が使用された場合、メッセージは分類され得る。分類は、システム構成の応答に対して起こり得る。
（７）題目が、分類の応答に対して、通常の表現、検索文字列、および関連する分類を含むテーブルにある任意の検索文字列とマッチする場合、メッセージは分類される。
（８）主体部が検索文字列および分類を含むテーブルにある任意の検索文字列とマッチする場合、メッセージは分類される。
（９）ヘッダーのいずれかが、検索文字列および分類を含むテーブルにある任意の検索文字列とマッチする場合、メッセージは分類される。
（１０）メールの読み手が新しいウェブブラウザウィンドウを自動的に作成させられるようなコードを含む場合、メッセージは迷惑として分類される。
（１１）受信者のアドレスが、受信者アドレスリストを含む（例えば、「Ｔｏ」および「ＣＣ」のような）規格メッセージヘッダーのいずれかに表れない場合、メッセージは分類される。分類は、システム構成に基いて起こり得る。
（１２）メッセージのヘッダーにある受信者のリストに、同じ文字で始まるアドレスが大部分含まれる場合、メッセージは迷惑として分類される。
（１３）十分でない入力が、メッセージに対して、入力ベクトル生成部４２０によって生成される場合、「良いメッセージ」として分類される。
【００５６】
他の実施形態において、先行の実施例の一部、全部を含む、または全く含まない異なったルール４３０が使用され得る。
【００５７】
ルールによって利用される多様なリストに対し、一実施形態において、これらのリストは、良いメッセージの識別子を含む「ホワイトリスト」とスパムメッセージの識別子を含む「ブラックリスト」とに区別される。限定はされないが、識別子の例は、送信者の名前、アドレス、ドメイン名、またはＩＰアドレスを含む。
【００５８】
一実施形態において、ホワイトリストおよびブラックリストは、それら識別子に関連するメッセージの分類に基づき、ダイナミックに維持される。例えば、良いメッセージとして少なくとも閾値数（好ましくは４）をパスしたメッセージの任意の送信者は、既知の良い送信者のホワイトリストへ自動的に加えられる。そうすることで、それらの送信者からのメッセージが、他の送信者からのメッセージのように丁寧にチェックされる必要性がなくなる。同様に、スパムとして少なくとも閾値数（好ましくは４）拒絶されたメッセージの任意の送信者は、既知のスパマーのブラックリストへ自動的に加えられる。そうすることで、それらの送信者からのメッセージが、他の送信者からのメッセージのように丁寧にチェックされる必要性がなくなる。これらの分類は、スパムフィルタまたはスパムフィルタリングサーバの全体的な動作、ユーザのメッセージのレビュー、または一部の他のソースに起因する。リストのダイナミックな更新の異なった閾値および技術もまた利用される。
【００５９】
ルール４３０がメッセージをどこにもポジティブに分類しない場合、一実施形態において、入力ベクトル生成部によって形成されたベクトルは、図３に関連してさらに記載される神経回路網ヒエラルキー４４０によって処理される。神経回路網は、生成された入力ベクトルによって示されたメッセージの趣旨を見ることによってメッセージをフィルタする人工知能エンジンを組み入れる。神経回路網ヒエラルキーの一実施形態は、メッセージに何の単語が用いられたかを分析し、そして、それらの単語のそれぞれがどのように独立し、および関係するのかを分析し、また、（ｃ）この分析および他のメッセージの知識に基き、メッセージの分類を考慮する。
【００６０】
ヒエラルキー４４０の一実施形態は、少なくとも２つの神経回路網を含む。第１の神経回路網は、メッセージがより正当なものでありえる、または迷惑でありえるのかを決定し、「良いであろう」と「スパムであろう」にメッセージを区分する。
【００６１】
始めの分類に基づき、第２の神経回路網は、そのメッセージがバルクメールであるのかを決定するために入力ベクトルを処理する。この実施形態において、迷惑メールからバルクメッセージを分類する神経回路網と、正当なメッセージからバルクメッセージを分類する神経回路網は別個のものである。始めに「良いであろう」と考慮されたメッセージは、良いメッセージまたはバルクピリオディカルとして最終的に識別され得る。同様に、始めに「スパムであるだろう」と考慮されたメッセージは、バルクピリオディカルまたはスパムとして最終的に識別され得る。
【００６２】
代替的な実施形態において、神経回路網は、スパムの送信者によって利用されたアンチフィルタリング戦略の開発に適応するために、処理されたメッセージから学習する。
【００６３】
異なった数および目的の神経回路網を伴なう異なったヒエラルキーが、本発明の他の実施形態において使用される。
【００６４】
神経回路網
図３は、本発明の一局面に従う神経回路網のセットの一実施形態のブロック図である。
【００６５】
神経回路網３１０Ａ，３１０Ｂおよび３１０Ｃのシステム３００は、入力ノード３１１のセット、神経回路網主体部３１２、および出力ノード３１３を有する第１の神経回路網３１０Ａを少なくとも含む。一実施形態において、各入力ノード３１１は、対応する一つの通常表現認識子３１４と結合される。
【００６６】
メッセージからの入力語３１５のセットは、通常表現認識子３１４のセットと結合される。各通常表現認識子３１４は、入力語３１５のセットの応答として、通常表現によって示されるような、関連するパターンの不在または存在を示す値（０または１）を生成する。一実施形態において、通常表現認識子３１４は、前もって選択される。しかしながら、代替的な実施形態において、通常表現認識子３１４は、特定の１つ以上のメッセージが適確に識別されたか否かに関するユーザのフィードバックに対応して変更され得る。
【００６７】
本出願を読んだ後、当業者は、通常表現認識子３１４が通常の表現を用いること、または入力語３１５に対して０または１の不連続な値を提供する事を必要としないことを認識するであろう。第１の実施例において、決して限定はしないが、通常表現認識子３１４は、他のタイプのパターンマッチまたはマシーン学習技術によって置き換えられ得、またはそれらによって支援され得る。第２の実施例において、決して限定はしないが、通常表現認識子３１４は、ファジーロジックを使用し得、またはそうでなければ、０から１の間の実質的に連続的な値（または、不連続な値の一セット）を提供し得る。
【００６８】
通常表現認識子３１４からの出力のセットは、対応する入力ノード３１１と結合される。入力ノード３１１の各々は、通常表現認識子３１４によって識別され、入力ノード３１１と関連する通常表現の数のカウントに応じて、加重値を与えられる。これは、特定の通常表現が二度識別される場合、その入力ノード３１１の入力は、その特定の通常表現が一度識別された場合の値の単なる１ではなく、値の２に相当するという効果を有する。
【００６９】
一実施形態において、識別された各通常表現の数が、識別された通常表現の全数で割られる。これによって、入力ノード３１１の値が全トータルが１となるように実質的に規格化される効果を有する。一実施例において、決して限定はされないが、４つの入力ノード３１１Ａ，３１１Ｂ，３１１Ｃおよび３１１Ｄがあり、それぞれが３，３，６，３（従って、合計は１５）の識別された通常表現の数を有する場合、規格化されたそれぞれの値は、３／１５、３／１５、６／１５、および３／１５、（従って、合計は１．０）である。
一実施形態において、それぞれの実質的に規格化された値が、最小でもゼロでない値に調節される。これによって、入力ノード３１１の値は、識別された通常表現の前もって規格化された数が正確にゼロである場合にのみ、ゼロであるという効果を有する。識別された通常表現の前もって規格化された数がゼロ以上ではあるが、その規格化された値が（例えば、０．０２のように）非常に小さいという他のケースにおいて、その規格化された値は、最小の量、好ましくは０．１に切り上げされる。代替的な実施形態において、同様のプロセスが、最高値に対しても行われ得る。
【００７０】
入力ノード３１１からの出力のセットは、完全に接続された神経回路網３１２に結合され、一実施形態において、完全に接続された神経回路網３１２は予め選択された閾値および加重を有する。しかしながら、代替的な実施形態において、神経回路網３１２の閾値、または加重、もしくはその両方は、ユーザのフィードバックに応じて調整され得る。
【００７１】
完全に接続された神経回路網３１２からの出力は、出力ノード３１３と結合される。これによって、出力ノード３１３は０と１との間の値を示すという効果を有する。神経回路網３１０Ａ、３１０Ｂまたは３１０Ｃの内の一つの結果が、その神経回路網３１０Ａ、３１０Ｂまたは３１０Ｃに関する（例えば、０．９という好ましい閾値のような）閾値に対して反応する。これは、閾値を超えた場合、メッセージが第２の神経回路網３１０Ｂによって再評価されるという効果、または、閾値を越えない場合、メッセージが第３の神経回路網３１０Ｃによって再評価されるという効果を、第１の神経回路網３１０Ａに対して有する。これは、また、閾値を超えた場合、メッセージがスパムであると決定されるという効果、または、閾値を超えない場合、メッセージが、興味の可能性のあるバルクｅメールとして決定されるという効果を、第２の神経回路網３１０Ｂに対して有する。同様に、これは、また、閾値を超えた場合、メッセージが興味の可能性のあるバルクｅメールとして決定されるという効果、または、閾値を超えない場合、メッセージが、「良いメッセージ」として決定されるという効果を、第３の神経回路網３１０Ｃに対して有する。
オペレーション方法
図５は、ダイナミック・メッセージ・フィルタリングの方法のフロー図を示す。
【００７２】
通して記載されるが、方法５００のフローポイントおよび方法ステップは、パイプライン方式において、ないしは他の方法において、非同期的であるか同期的であるかに関らず、続発的に、または並行的に、個別の要素によって行われる。本発明の内容において、明確に提言されない限り、この記載がフローポイントまたは方法ステップをリストする同様の順序において方法を行わなければならないという特別な要求はない。
【００７３】
ステップ５０１において、メッセージ３２１は受信される。
【００７４】
ステップ５０２において、メッセージ３２１は、例えば図４のＩＤエンジン４００のようなＩＤエンジンへ送信される。
【００７５】
ステップ５０３において、例えば図４の語彙アナライザ４１０のような語彙アナライザは、例えば周知のインターネット規格のような周知の規格に従い、メッセージを復号、および構文解析する。メッセージは、ヘッダー部と主体部へと分解される。ヘッダー部は、個別のヘッダーへとさらに分解される。主体部は、必要であるならば復号され、相応しくないマークアップを取り除く。この実施形態において、複数のＭＩＭＥ部分およびそれらのサブ構成要素が取り扱われる。
【００７６】
ステップ５０４において、図４の入力ベクトル生成部４２０のような入力ベクトル生成部は、テキストのヘッダー部および主体部の単語、およびフレーズを認識する。入力ベクトル生成部は、入力ベクトルを生成するために、認識された単語およびフレーズを利用する。ベクトルは、入力ベクトル位置に対して言葉およびフレーズの多数対一マップを用いて生成される。一実施形態において、マップは、使用され得る可能な７０，０００の最も一般的な英単語の中から、ジェネティック・アルゴリズムを使用し、前もって選択された２，０００の最も有用な通常表現（識別語、または識別表現）のサブセットを含む。
【００７７】
一実施形態において、入力ベクトル生成部は、各々のメッセージのテキストをスキャンし、そのメッセージに表れる各々の単語またはフレーズ（長さは４単語まで）は、マップにおいてその値をチェックされる。単語またはフレーズに対応するエントリーがマップ内に表れる場合、入力ベクトルの適切な値が増加する。システムを迂回しようと工夫し、そのように構成されたメッセージにおいてですらも、単語を認識するように注意が為されている。
【００７８】
ステップ５０５において、図４のルール４３０のようなルールが、メッセージに適用される。一実施形態において、可能であるならば、効率良く分類を決定するために、メッセージに基本的なルールを適用する。
【００７９】
ルールがメッセージを成功のうちに分類した場合、フローはステップ５０６からステップ５０７へと進む。ステップ５０７において、スパムフィルタまたはスパムフィルタリングサーバは、分類に基いてメッセージに対して動作する。可能性のある分類およびアクションの一実施形態は、ステップ５１１から５１３にかけて以下により詳細に説明される。
【００８０】
ルールがメッセージを成功のうちに分類しない場合、フローはステップ５０６からステップ５０８、そしてステップ５１０へと進む。これらのステップにおいて、メッセージは図４のヒエラルキー４４０のような神経回路網ヒエラルキーによって分析される。
【００８１】
神経回路網は、ステップ５０４において生成された入力ベクトルによって示されたメッセージの趣旨を見ることによってメッセージをフィルタする。神経回路網ヒエラルキーの一実施形態は、メッセージに何の単語が用いられたかを分析し、そして、それらの単語のそれぞれがどのように独立し、および関係するのかを分析し、また、この分析および他のメッセージの知識に基づき、メッセージの分類を考慮する。
【００８２】
さらなる記載として、ステップ５０８において、第１のレベルの神経回路網は、メッセージがより正当なものでありえる、または迷惑でありえるのかを決定する。このステップは、良いとバルクメッセージとの両方を含む「良いであろう」および、バルクとスパムメッセージを含む「スパムであろう」にメッセージを区分する。
【００８３】
ステップ５０９において、良いであろうとされるメッセージは、それらが良いメッセージまたはバルクメッセージであるかを決定するために、第２のレベルの神経回路網によって分析される。同様にステップ５１０において、スパムであろうとされるメッセージは、それらがバルクメッセージまたはスパムメッセージであるかを決定するために、他の第２のレベルの神経回路網によって分析される。
【００８４】
一実施形態において、神経回路網は、処理されたメッセージ（および、エンドユーザからのフィードバック）から、「学習」する（つまり、例えばバック伝達のような、神経回路網学習の周知の技術を用いて調整される）。これによって、神経回路網は、スパムの送信者によって利用されたアンチフィルタリング戦略の開発に適応するという効果を有する。
【００８５】
良いメッセージは、ステップ５１１において扱われる。これらのメッセージは、エンドユーザ受信者、またはエンドユーザ受信者のメールボックスへ送信される。
【００８６】
バルクメッセージは、ステップ５１２において扱われる。一実施形態において、バルクメッセージは、例えば、題目ヘッダーを修正することによってタグを付けられ、エンドユーザ受信者、またはエンドユーザ受信者のメールボックスへ送信される。代替的に、スパムフィルタまたはスパム・フィルタリング・サーバは、バルクメッセージを良いメッセージとして、またはスパムメッセージとして扱うように、アドミニストレータまたはユーザによって構成される。これは、図５の点線によって示される。
【００８７】
スパムメッセージは、ステップ５１３において扱われる。一実施形態において、これらのメッセージは、ブロックされる（つまり、エンドユーザへ送信されない）。メッセージは、後のレビューのために、および、可能性としては、バルクまたは良いメッセージがスパムとして間違って識別された際の取り出しのために、例えば、データベース内に記憶される。一実施形態において、任意の誤った識別（つまり、「誤ったポジティブ」）は、この先に同様の誤った識別の回避に役立たせるために、（上記のように）神経回路網をさらに調整するため利用される。
【００８８】
各ステップ５１１、５１２および５１３において、ルールおよび神経回路網のヒエラルキーは、メッセージの分類および特性（例えば、テキストおよび生成された入力ベクトル）の結果に基いてダイナミックに更新され、維持される。
【００８９】
異なったカテゴリおよびアクションが、本発明の異なった実施形態において用いられる。
【００９０】
代替的な実施形態
最良の実施形態がここにおいて記載されるが、多様な変形が、本発明の概念、範囲および精神内に留まり可能である。本出願の通読後、このような変形が当業者にとって明確になるであろう。
【００９１】
本発明のアプリケーションは、本来テキストであるテキストメッセージまたはメッセージのみが検査された実施形態に限定するものではない。発明は、（例えば、静止写真、または動写真のような）写真または（符号化された音声のような）音声、（ＨＴＭＬ、ＤＨＴＭＬ、Ｊａｖａ（登録商標）、ＪａｖｅＳｃｒｉｐｔ、およびそれらの均等物のような）符号フラグメント、およびメッセージの他の要素を含む他のデータタイプがメッセージを検査する際、考慮される実施形態を含む。
【００９２】
本発明のアプリケーションは、メッセージのヘッダー部または主体部の内容が検査される実施形態に限定されない。本発明は、記載の局面に追加して、またはそれらの代わりに、メッセージの送信または受信時刻、サイズ、方法または（例えば、同じエンタープライズ内、または論理的に遠方にある位置から、のような）送信路、（例えば、ＰＯＰ、ＩＭＡＰ、ＳＭＴＰメール、またはそれらの変形のような）送信プロトコル、および、メッセージが添付を含むか否か（そうである場合、その添付の内容、サイズ、またはデータタイプ）を含むメッセージについての他のデータが検査される実施形態を含む。
【００９３】
本発明のアプリケーションは、ｅメールメッセージのみが検査される実施形態に限定されない。発明は、（例えば、ＨＴＴＰ、ＨＴＴＰＳ、ＦＴＰ、またはＵＤＰのような）他のプロトコルを利用し、受信されたウェブページまたはファイル、または、（例えば、「インスタント・メッセージ」、ピア・ツー・ピアプロトコルを用いるメッセージ、ＨＴＴＰトンネリングを用いるメッセージ、またはｗｗｗ．ｎｅｏｐｅｔｓ．ｃｏｍの「ネオメール」のようなアプリケーション特定型のメッセージのような）全く異なったタイプのメッセージを含む他のタイプのメッセージが検査される実施形態を含む。例えば、決して限定はしないが、発明は、（１）ウェブページに挿入される広告を含む、（２）ウェブページの「ポップアップ」または「ポップアンダー」を含む、または（３）子供にとって不適切な内容、特定の場所または仕事場において不適切な内容、特定のユーザにとって攻撃的な内容、または、特定のユーザによって単に所望されない内容を含む、ウェブページまたはその一部をブロックするように構成され得る。
【００９４】
本発明のアプリケーションは、人間可読メッセージのみが検査される実施形態に限定されない。発明は、ＣＲＭまたはＥＲＰシステムメッセージ、または、複数のプロセッサ間の通信の他の形を含む他のタイプのメッセージが検査される実施形態を含む。例えば、決して限定はされないが、発明は、オンラインオークションまたは他の売買システムにおける付け値、または注文が、エラー、虚偽、詐欺、または（例えば、極度の市場激高のような）他の要素に対して検査される実施形態を含む。
【００９５】
本発明のアプリケーションは、メッセージが単にブロックまたはフィルタされる実施形態に限定されない。発明は、メッセージの転送、メッセージの優先に従ってのランキング、より永続的な記憶部へのメッセージの複写、無線通信を用いてのメッセージの急送、（または、例えばページまたは電話通話の送信のような関連技術）を含む他のタイプのアクションを起こす実施形態を含む。例えば、本発明は、無線受信者に、全メッセージを転送するか、または任意の添付を省略するかを決定する実施形態を含む。
【００９６】
本発明の他のアプリケーションは、無線機器へ転送するメッセージまたは第２のレビューのメッセージを自動的に優先付ける機能、前もってロードするウェブページまたはメモリに保存するウェブページを決定する機能、悪意のある「ポップアップ」広告またはウェブページＪａｖａ（登録商標）Ｓｃｒｉｐｔを検出する機能、所望しない「インスタント・メッセージ」および他のメッセージタイプを検出する機能、メッセージ群をメッセージダイジェストへ自動的に収集する機能、および、ウィルス含有の外に出るメッセージの自動検出機能を含む。
【００９７】
本出願の通読後、当業者は、これら代替的な実施形態が例証的なものであり、限定されないことを認識するであろう。
【図面の簡単な説明】
【００９８】
【図１】ダイナミック・メッセージ・フィルタリングのための一般化されたシステムのブロック図を示す。
【図２】ファイアウォールの後ろに配置された実施形態における、ダイナミック・メッセージ・フィルタリングのシステムのブロック図を示す。
【図３】サーバとして配置された実施形態における、ダイナミック・メッセージ・フィルタリングのシステムのブロック図を示す。
【図４】ＩＤエンジンの一つの実施形態のブロック図を示す。
【図５】ダイナミック・メッセージ・フィルタリングの方法のフロー図を示す。
【図１】
2007511813.tif 000003
【図２】
2007511813.tif 000004
【図３】
2007511813.tif 000005
【図４】
2007511813.tif 000006
【図５】
2007511813.tif 000007
【国際調査報告】
2007511813.tif 000008
2007511813.tif 000009