(57)【要約】電子的又はデジタル的形式で提供される自然言語テキストの自動的意味ラベリングのためのシステム及び方法は、テキストの基礎言語解析を実行するセマンティックプロセッサを含み、テキストの意味関係におけるもの（オブジェクト）の種類、及び／又はもの（オブジェクト）のクラス、事実、及び因果関係を認識し、言語解析済みのテキストを、ターゲット意味関係の特定の例を一般化することにより生成荒れたターゲット意味関係パターンと照合し、言語解析済みのテキストとその照合とに基づき、意味関係ラベルを生成する。【選択図】図１
2012520528.tif 000002
【特許請求の範囲】
【請求項１】
自然言語テキストの自動ラベリングのための方法であって、少なくとも一つの一時的でない記憶媒体に接続された少なくとも一つのコンピュータプロセッサを設けるステップを含み、当該少なくとも一つのコンピュータプロセッサは、
少なくとも一つの電子的形態の自然言語文書からテキストを受け取るステップと、
当該テキストの基礎言語解析を実行するステップと、
言語解析済みのテキストを、格納されたターゲット意味関係パターン群と照合するステップと、
前記言語解析済みのテキストと、前記言語解析済みのテキストと前記ターゲット意味関係パターン群との照合結果と、に基づき意味関係ラベルを生成することにより、意味ラベリングされたテキストを生成するステップであって、前記意味関係ラベルは、前記テキスト内の文からの単語又は句と関連づけられているとともに、あらかじめ定められた種類の意味関係の構成要素を示すところのステップと、
前記意味ラベリングされたテキストをデータベースに格納するステップと、
を含む方法、を実行することを特徴とする方法。
【請求項２】
請求項１に記載の方法であって、
前記テキストの少なくとも一つの部分に対して品詞タグを付与することにより前記テキストのタグ付与済みの複数の部分を生成するステップと、
前記テキストのタグ付与済みの複数の部分を構文解析することにより、前記テキストの構文解析済み且つタグ付与済みの複数の部分を生成するステップと、
前記テキストの構文解析済み且つタグ付与済みの複数の部分を意味解析することにより、前記テキストの意味解析済み、構文解析済み且つタグ付与済みの複数の部分を生成するステップと、
を更に含む方法。
【請求項３】
請求項２に記載の方法であって、
前記品詞タグを付与するステップは、前記テキストの事前フォーマット済みの複数の部分に対して実行され、前記テキストの事前フォーマット済みの複数の部分は自然言語でないシンボルが除去されたテキストを含む、
ことを特徴とする方法。
【請求項４】
請求項２に記載の方法であって、
前記テキストの構文解析済み且つタグ付与済みの複数の部分を意味解析するステップは、
前記テキスト内の少なくとも一つの拡張された主語−アクション−目的語（ｅＳＡＯ）セットの形態の、一以上の事実を認識するステップであって、各ｅＳＡＯセットは少なくとも一つのｅＳＡＯ構成要素を含むところのステップと、
前記テキスト内で、前記少なくとも一つのｅＳＡＯセットにおける因果関係を含む形式の、知識ドメイン及び少なくとも一つの外部ドメインの規則性を反映するルールの集合を認識するステップであって、前記複数の因果関係のうちの少なくとも一つの因果関係は、原因ｅＳＡＯと結果ｅＳＡＯを含むところのステップと、
を含む、方法。
【請求項５】
請求項４に記載の方法であって、前記少なくとも一つのｅＳＡＯ構成要素は、主語、目的語、アクション、形容詞、前置詞、間接目的語、及び副詞からなるグループの中から選ばれた一以上の要素に関係するテキストを含むことを特徴とする方法。
【請求項６】
請求項４に記載の方法であって、前記テキスト内の一以上の拡張された主語−アクション−目的語（ｅＳＡＯ）セットを認識するステップでは、前記テキストの少なくとも一つの文の中の一以上の主語、目的語、アクション、形容詞、前置詞、間接目的語、及び副詞を認識する、ことを特徴とする方法。
【請求項７】
請求項４に記載の方法であって、前記テキスト内の一以上の拡張された主語−アクション−目的語（ｅＳＡＯ）セット及び複数の因果関係を認識する処理では、ｅＳＡＯ及び因果構成要素を規定する複数のパターンを含むデータベースを有する言語知識ベースにアクセスする、ことを特徴とする方法。
【請求項８】
請求項４に記載の方法であって、前記原因ｅＳＡＯは、前記少なくとも一つのｅＳＡＯセットのうちの少なくとも一つのｅＳＡＯ構成要素を含み、前記結果ｅＳＡＯは、前記少なくとも一つのｅＳＡＯセットのうちの少なくとも一つの他のｅＳＡＯ構成要素を含む、ことを特徴とする方法。
【請求項９】
請求項８に記載の方法であって、前記少なくとも一つの因果関係は、前記原因ｅＳＡＯの前記少なくとも一つのｅＳＡＯ構成要素を前記結果ｅＳＡＯの前記少なくとも一つの他のｅＳＡＯ構成要素に対して語彙的、文法的、及び／又は意味的言語手段により関係づける順次演算子を含む、ことを特徴とする方法。
【請求項１０】
クレーム１に記載の方法であって、前記言語解析されたテキストを前記ターゲット意味関係パターン群と照合するステップでは、更に、
言語知識データベースの一部であるパターンデータベースにアクセスし、
前記パターンデータベースは、
テキスト文書群のコーパスの基礎言語解析を実行し、
言語解析済みのコーパスにおいてターゲット意味関係の特定の例を認識し、
語彙的言語単位とそれら語彙的言語単位の意味クラス、品詞及び統語タグ、前記ターゲット意味関係の特定の例から認識されたｅＳＡＯ及び因果ラベルを用いて、前記ターゲット意味関係の特定の例を言語パターンへと一般化し、
前記言語パターンを格納する、
ことにより生成されることを特徴とする方法。
【請求項１１】
請求項１０に記載の方法であって、
前記ターゲット意味関係の特定の例を言語パターンへと一般化する処理では、
ｅＳＡＯ形式をコンテキストとして用い、
前記ターゲット意味関係の特定の例の構成要素を、前記基礎言語解析によりそれら構成要素について求められた語彙的、文法的、ｅＳＡＯ、及び因果ラベルを用いて前記言語解析済みのテキスト文書群のコーパス内をサーチすることにより、一般化する、
ことを特徴とする方法。
【請求項１２】
請求項１に記載の方法であって、
前記言語解析済みのテキストを前記ターゲット意味関係パターン群と照合するステップでは、単語、品詞タグ、統語タグ、ｅＳＡＯ、及び因果セットを照合し、前記意味関係ラベルを生成する処理ではｅＳＡＯ及び因果のラベルを生成する、
ことを特徴とする方法。
【請求項１３】
少なくとも一つのプロセッサにより実行されたときに自然言語テキストの意味ラベリングのための方法を実行する、コンピュータが実行可能な命令群を有するコンピュータ読み取り可能な媒体を含んだコンピュータプログラム製品であって、前記方法は、
少なくとも一つの自然言語文書からテキストを受け取るステップと、
前記テキストの基礎言語解析を実行するステップと、
前記言語解析済みのテキストを格納されたターゲット意味関係パターンと照合するステップと、
前記言語解析済みのテキストと、当該言語解析済みのテキストと前記対象意味パターンとの照合結果と、に基づいて意味関係ラベルを生成することにより意味ラベリングされたテキストを生成するステップであって、前記意味関係ラベルが、前記テキスト内の文からの単語及び句と関連づけられており、あらかじめ定められた種類の意味関係の構成要素を示すところのステップと、
前記意味ラベリングされたテキストをデータベースに格納するステップと、
を含む、コンピュータプログラム製品。
【請求項１４】
電子的又はデジタル的形式の自然言語テキストの自動的意味ラベリングのためのセマンティックプロセッサであって、
受け取った電子テキストを事前フォーマットする事前フォーマット部と、
前記事前フォーマット済みのテキストの基礎言語解析を実行する言語解析部と、
前記言語解析済みのテキストを、格納されたターゲット意味関係パターンと照合して、意味ラベリングされたテキストを生成するラベリング部であって、前記意味ラベリングされたテキストが、テキスト内の文からの単語及び句と関連づけられた意味関係ラベルであってあらかじめ定められた種類の意味関係の構成要素を示す意味関係ラベル、を含むところのラベリング部と、
を有するセマンティックプロセッサ。
【請求項１５】
請求項１４に記載のセマンティックプロセッサであって、
前記言語解析部は、意味解析されたテキストを生成する意味解析部を含み、
前記意味解析部は、
前記テキスト内の拡張された主語−アクション−目的語（ｅＳＡＯ）セットを認識する主語−アクション−目的語（ｅＳＡＯ）認識部と、
因果関係を認識する因果関係（Ｃ−Ｅ）認識部と、
を有し、
ｅＳＡＯ及びＣ−Ｅの認識は、言語知識ベース内に格納された言語パターンに基づく、ことを特徴とするセマンティックプロセッサ。
【請求項１６】
請求項１５に記載のセマンティックプロセッサであって、前記ラベリング部により生成される前記意味関係ラベルは、ｅＳＡＯラベル及び因果ラベルを含む、ことを特徴とするセマンティックプロセッサ。
【請求項１７】
請求項１５に記載のセマンティックプロセッサであって、前記ｅＳＡＯ因果関係は、原因ｅＳＡＯ、結果ｅＳＡＯ、及び前記原因ｅＳＡＯを前記結果ｅＳＡＯに関係づける少なくとも一つの順次演算子を含むことを特徴とするセマンティックプロセッサ。
【請求項１８】
請求項１７に記載のセマンティックプロセッサであって、各ｅＳＡＯセットは、複数のｅＳＡＯ構成要素を含み、前記原因ｅＳＡＯは前記複数のｅＳＡＯ構成要素のうちの少なくとも一つのｅＳＡＯ構成要素を含み、前記結果ｅＳＡＯは前記複数のｅＳＡＯ構成要素のうちの少なくとも一つのｅＳＡＯ構成要素であって前記原因ｅＳＡＯの前記少なくとも一つのｅＳＡＯ構成要素とは異なるｅＳＡＯ構成要素を含む、ことを特徴とするセマンティックプロセッサ。
【請求項１９】
請求項１４に記載のセマンティックプロセッサであって、前記ｅＳＡＯ構成要素は、主語、目的語、アクション、形容詞、前置詞、間接目的語、及び副詞からなるグループの中から選ばれた一以上の要素に関係するテキストを含む、ことを特徴とするセマンティックプロセッサ。
【請求項２０】
請求項１５に記載のセマンティックプロセッサであって、前記言語解析部は、
事前フォーマットされたテキストを受け取って品詞（ＰＯＳ）タグ付与済みのテキストを生成する品詞タグ付与部と、
ＰＯＳタグ付与済みのテキストを受け取って構文解析済みのテキストを作成し、前記意味解析部に構文解析済みのテキスト提供する構文解析部と、
を有し、前記品詞タグ付与部及び前記構文解析部は前記言語知識ベース内に格納されたデータを用いて処理を行う、ことを特徴とするセマンティックプロセッサ。
【請求項２１】
請求項１４に記載のセマンティックプロセッサであって、前記事前フォーマット部は、前記テキストの電子的又はデジタル的な表現の中の、自然言語テキストの部分を構成しないシンボルを除去すること、前記テキスト内の食い違いや誤りを検出及び修正すること、及び前記文書を文及び単語の構造へ分割すること、のうちの少なくとも一つを実行する、ことを特徴とするセマンティックプロセッサ。
【請求項２２】
請求項１４に記載のセマンティックプロセッサであって、前記ターゲット意味関係パターンはパターン生成部により生成され、前記パターン生成部は、
テキスト文書群のコーパスの基礎言語解析を実行するコーパス言語解析部と、
品詞タグ、統語タグ、ｅＳＡＯラベル、及び因果ラベルを有するラベル付与済みテキストコーパスを生成するラベル付与済みテキストコーパス生成部と、
前記ラベル付与済みテキストコーパス内からターゲット意味関係の特定の例を認識する関係生成部と、
ラベルを用いて意味関係の特定の例を一般化することにより、より一般化された言語パターンを生成するパターン生成部であって、前記ラベルが語彙的言語単位、それら単位の意味クラス、品詞及び統語タグ、ｅＳＡＯ及び因果ラベルを含むところのパターン生成部と、
前記パターン生成部により一般化された言語パターンをテストするパターンテスト部と、を有するセマンティックプロセッサ。
【請求項２３】
請求項２２に記載のセマンティックプロセッサであって、前記ターゲット意味関係の特定の例を言語パターンへと一般化する場合、前記パターン生成部は、ｅＳＡＯ形式をコンテキストとして用いて、
基礎言語解析のレベルで構成要素について求めた品詞、統語、ｅＳＡＯ及び因果ラベルを用いて、言語解析済みのテキスト文書群のコーパス内のサーチの結果として構成要素を一般化する、
ことを特徴とするセマンティックプロセッサ。
【請求項２４】
請求項１４に記載のセマンティックプロセッサであって、前記ラベル付与部は、単語、品詞タグ、統語タグ、ｅＳＡＯ及び因果セットを照合することにより、前記言語解析されたテキストをターゲット意味関係パターンと、照合する、ことを特徴とするセマンティックプロセッサ。
【発明の詳細な説明】
【技術分野】
【０００１】
本出願は、「自然言語テキストの自動的意味ラベリングのためのシステム及び方法」(“System And Method For Automatic Semantic Labeling Of Natural Language Texts”)と題される２００９年３月１３日に出願された米国仮出願第６１／１５９，９７２号、及び「ユーザ質問及びテキスト文書の意味ラベリングに基づく質問応答システム及び方法」(“Question-Answering System And Method Based On Semantic Labeling Of Text Documents And User Questions”)と題される２００９年３月１３日に出願された米国仮出願第６１／１５９，９５９号に対する優先権を主張し、それら出願の各々を全体として参照のためにこの明細書に組み込む。
【０００２】
本出願は、「主語−アクション−目的語(SAO)構造を利用する知識創造能力を備える文書意味解析／選択」（“Document semantic analysis/selection with knowledge creativity capability utilizing subject-action-object (SAO) structures”）と題されるツォリコフら（Tsourikov et al.）に対する２０００年１２月２６日に発行された米国特許第６，１６７，３７０号、及び「コンピュータを用いた自然言語文書の要約処理」（“Computer based summarization of natural language documents”）と題されるバチロら（Batchilo et al.）に対する２００７年７月３１日に発行された米国特許第７，２５１，７８１号に関連しており、それら各々を全体として参照のためにこの明細書に組み込む。
【０００３】
本出願は、自然言語テキストの自動的意味ラベリングのためのシステム及び方法、並びにこのラベリングを実行するための基礎を提供する言語パターンの生成に関係する技術に関連する。
【背景技術】
【０００４】
以下の米国特許文書は、本出願に関連する分野の説明を提供する。イトウ（Ito）に対して１９９５年５月に発行された米国特許第５，４１８，８８９号(以下「イトウ」)、ヒタチ（Hitachi）に対して１９９７年１２月に発行された米国特許第５，６９６，９１６号(以下「ヒタチ」)、リディ（Liddy）に対して２０００年２月に発行された米国特許第６，０２６，３８８号（以下「リディ」）、ボグラエフら（Boguraev et al.）に対して２００１年２月に発行された米国特許第６，１８５，５９２号（以下「ボグラエフ１」）、ボグラエフに対して２００１年４月に発行された米国特許第６，２１２，４９４号（以下「ボグラエフ２」）、メサーリーら（Messerly et al.）に対して２００１年６月に発行された米国特許第６，２４６，９７７号（以下「メサーリー」）、パイクら（Paik et al.）に対して２００１年７月に発行された米国特許第６，２６３，３３５号（以下「パイク」）、及びレイナー（Reynar）に対して２００８年９月に発行された米国特許第７，４２１，６４６号（以下「レイナー」）。
【０００５】
自動的なテキスト処理は、例えば情報検索、知識工学、機械翻訳、要約処理等のタスクを含んでいるが、ある程度の言語解析の実行を必要とする。
【０００６】
この解析は、特に解析の深さ及び複雑さが最初の語彙レベルから意味レベルへと増大するにつれて、例えば語彙、形態論等の言語についての伝統的な知識、及び、いわゆる認識言語モデル又はパターン（recognizing linguistic models or patterns）に基づくものとなる。認識言語モデル又はパターンは、テキスト理解を実行する人間の認知機能をある程度までモデル化することができると共に、言語の具体的な語彙単位（lexical units）をそれら語彙単位の品詞分類や統語的及び意味的な関係の要素と共に用いる。上述した二つの種類の知識は、統計的手法と共に用いることにより、テキスト内の様々な意味的な構成要素、関係及びそれらの属性、例えばキーワード、目的語及びそれらのパラメータ、エージェント、アクション、事実、因果関係等、についての自動認識のアルゴリズムのための基礎を提供する。言い換えれば、それらは、例えばテキストの意味的ラベリングの列（semantically labeling strings of text）等の、以前に特定された分類辞に応じた、自然言語テキストの自動意味ラベリングを可能とする。後者は、さらには、テキスト処理の最終目的に基づいて画定される。
【０００７】
いくつかの既存の方法は、厳格な構造を有するデータベースを目標としており、人手でまとめられているか、又は厳格に規定された分野を持つテキストを対象としている。通常、テキストの表層言語解析（shallow linguistic analysis）が実行されるが、これはあまり精度が高くない。特に、テキストの文字列の意味ラベリング（意味的な標識付け）は、結局のところ、いくつかの特別な種類の意味的な構成要素や関係のみの認識になってしまう。このように、レイナーは、ユーザが文書を作成する間にテキスト文字列を意味カテゴリ又は意味リストによりラベリングするためのアプリケーション・プログラム・インタフェースを提供すると共に、そのカテゴリ又はリストに基づいてユーザのｅコマース（電子商取引）の行為を可能にする。リストは，例えば、「人の名前」又は「マイクロソフトの従業員」という種類ラベルを含んでいてもよい。
【０００８】
ヒタチには、あらかじめ定められた概念辞書を、概念間の高低関係、すなわち「is-a」関係と「部分−全体」関係と共に用いるシステムが説明されている。
【０００９】
リディは，情報サーチシステムにおけるユーザクエリの拡張のために類似の技術を用いている。
【００１０】
イトウには、因果モデルベースとデバイスモデルベースを含む知識ベースの利用が説明されている。デバイスモデルベースは、対象マシンのデバイス群の階層構造を記述するデバイス知識の集合を有する。因果モデルベースは、デバイスモデルベースに基づき形成され、対象マシンの故障事象間の因果関係の集合を有している。このように、デバイスの各要素における故障の原因としてあり得ることが、当該要素のそのデバイスの他の要素との構造的なつながりについての情報に基づき推測される。通常、もっとも「よくつながっている」要素が存在しており、それが原因と判定される。
【００１１】
ボグラエフ１には、深層テキスト解析（deep text analysis）の性能について説明されている。深層テキスト解析では、テキストの各部分について、もっとも重要な名詞グループが、重み付けされた各意味役割におけるそれら名詞グループの頻度に基づいて、印付けされる。
【００１２】
ボグラエフ２では、各技術分野におけるキー・ターム（キー用語）のカタログを生成し、技術的機能（動詞−目的語）の実行者（解決者）を求めるための、コンピュータを介した言語解析について記載されている。
【００１３】
パイクには、ドメイン非依存であり、自分自身の主語（主題）知識ベースを自動的に構築する情報抽出システムが説明されている。この知識ベースの基礎は、概念−関係−概念のトリプル（三つ組）（ＣＲＣ）から構成されており、ＣＲＣにおいて最初の概念は一般には固有名詞である。これは、単一の概念に関連づけられている単項関係と概念とのペアを組み合わせる二項関係の認識に依拠する、かなり深層の意味的テキストラベリングの一例である。システムは、事前に品詞タグを付され統語論的に構文解析されたテキストから、特殊な概念種類といくつかの前置詞、句読点、又は特殊なフレーズなどの言語的な手がかりとを探すことにより、意味関係を抽出する。
【００１４】
もちろん、意味ラベリングの処理は、この例では、ＣＲＣ関係の枠組みによって制限される。例えば、因果関係の認識は、ある種の動詞と共に現れる目的語についてのみ実行することができる。そのような認識にはしばしばより広い文脈が必要となるが、一般的なケースでは、それは、いわゆる事実という、テキスト内で自動認識された意味構成要素の集合に基づいているべきであることがわかる。例えば、そのような事実の構成要素群のうちの１つは、単なる「動詞」とは対照的に、「アクション（行為・動作）」の意味概念である。課されたＣＲＣ関係の枠組みに内在する制約を考慮すると、このケースでの意味ラベリングには、非常に多大な労力を要する、多数のパターンの作成が必要である。最終的には、そのような意味ラベリングは、実際にはテキストの話題（トピック）内容のみを取り扱うものであって、テキストの論理的な内容を考慮に入れていない。
【００１５】
メサーリーは、論理形式「深層主語−動詞−深層目的語」（“deep subject-verb-deep object”）でのテキストの意味ラベリングを実行する。しかし、上述の論理形式は純粋に文法的な概念である。「深層主語」と「深層目的語」はそれぞれ「名詞」でしかなく、「動詞」は「本動詞」（“principle verb”）にすぎない。
【先行技術文献】
【特許文献】
【００１６】
【特許文献１】米国特許出願公開第２００６００４１４２４号明細書
【特許文献２】米国特許出願公開第２００８０３１９７３５号明細書
【特許文献３】米国特許出願公開第２００８０２９４６３７号明細書
【特許文献４】米国特許出願公開第２００２０１６９５９８号明細書
【特許文献５】米国特許出願公開第２００４０００１０９９号明細書
【非特許文献】
【００１７】
【非特許文献１】GIRJU, ET AL, "Automatic Discovery of Part-Whole Relations", Association for Computational Linguistics, 2006年3月, 83-135頁, Vol. 32, No.1, MIT Press, アメリカ合衆国マサチューセッツ州ケンブリッジ
【非特許文献２】Davidov, et al."Classification of Semantic Relationships between Nominals Using Pattern Clusters" In:Proc of ACL-08:HTL, アメリカ合衆国オハイオ州コロンバス, 227-235頁, 2008年６月３０日
【発明の概要】
【課題を解決するための手段】
【００１８】
本発明のいくつかの側面では、労働集約性が低減され、生成される結果の質が高められ、関連する意味的処理を用いる応用の範囲が広がる、独創的なセマンティック（意味）プロセッサ（ＳＰ）（意味処理装置）が提供される。このようなセマンティックプロセッサは、いくつかの普遍的な意味構造に向けられた、テキストについてのより深い基礎言語解析を実行すると共に、それら意味構造を利用しユーザの要求及び／又は入力に応じた技術的アプローチに従って意味ラベリングを実行する。
【００１９】
また本発明のいくつかの側面では、自然言語テキストの自動的意味ラベリングのためのシステム及び方法が提供される。このシステム及び方法は、テキストの基礎言語解析（basic linguistic analysis）を実行するセマンティックプロセッサを含むか、又は利用する。基礎言語解析には、事前フォーマット（プレフォーマット）、ある種の語彙的、品詞的、統語的、意味的解析を含む。そのような解析自体が、最も重要な意味構成要素及び意味関係を認識するテキストの意味ラベリングの一部である。更に、そのような解析の結果は、更なる意味ラベリングのための特殊化した言語パターンの効率的な生成のために用いることもできる。これらのパターンは、指示されたテキスト処理の目的に応じたものである。
【００２０】
セマンティックプロセッサにより実行されるテキストの言語解析の深さは、意味ラベリングの目標を達成するという点でそれが提供すべきものによって決定される。これらの目標から、一組の基準を求めることができる。それら基準には以下のものが含まれる。
ａ）基礎言語解析中に抽出される意味構成要素及び意味関係の普遍性
ｂ）最大限実現可能な、解析されたテキストの「カバレッジ」（範囲）
ｃ）テキストの話題（トピックス）内容のみならず、その論理的内容についての意味ラベリングが可能であること
ｄ）最大限実現可能な、更なる意味ラベリングのための言語パターンの一般化
ｅ）意味ラベリングのアルゴリズムの、主語ドメイン（定義域）からの、及びある程度は自然言語（ＮＬ:natural language）からの、独立性。
【００２１】
本発明のいくつかの側面に従うセマンティックプロセッサは、オブジェクト群／オブジェクト群のクラス群、事実、外側の世界及び／又は因果関係形式の知識ドメインなどの外部ドメインの規則性を反映するルールのセット、などのような、基本的な知識の種類のあるレベルを有するような深さを達成する。この言語解析の深層レベルは、上述した基準を満足する。
【００２２】
したがって、セマンティックプロセッサによる基本言語処理の段階での入力テキストのラベリングによれば、（ａ）オブジェクト／オブジェクトのクラスの自動認識、（ｂ）複数のオブジェクトにまたがる事実、すなわち、Ｓ−Ａ−Ｏ（subject-action-object：主語−アクション−目的語）タイプの関係及びこれらの関係の構成要素の属性、の更なる認識、（ｃ）複数の事実にまたがる因果関係の更なる認識、がもたらされる。そのような関係、及びそれら関係の構成要素及び属性が、品詞及び統語（構文）タグと一緒になることで、セマンティックプロセッサにより割り当てることができる一組のラベルを構成することができる。合計すれば、これらラベルは、実用的には、基礎言語解析の段階で処理される入力テキストのすべての語彙単位をカバーする。これらラベルは、また、例えば特定の応用目的に要件に依存する更なるテキスト意味ラベリングのための言語パターンの効率的な技術的生成を保証することができる。
【００２３】
本発明のいくつかの側面では、基礎言語解析・処理の段階で処理される入力テキスト内で、専門家（エキスパート）がいったん、注目する新たな意味関係（関係とも呼ぶ）の特定の例、例えば「全体−部分」、「場所」、「時刻」などを見つけると、専門家は、即座に、ＮＬのすべての重要なレベルにおけるすべての構成要素のラベルを、すなわち品詞及び統語タグから意味ラベルまでを、見ることができる。このように、専門家は、最大限実現可能な一般化の程度で、テキストの中である例の形式で見つかる新たな意味関係の自動認識のための言語パターンのプロトタイプを、同じセマンティックプロセッサを用いて構築することができる。
【００２４】
いくつかの実施形態では、言語パターンの一般化は、セマンティックプロセッサとの対話処理を通して専門家により人手で実行することもでき、また、セマンティックプロセッサにより自動的に実行することもできる。これらの目的のための効率的なコンテキスト（文脈情報）を提供するテキストの基礎言語解析により、それらのことが可能となる。テスト段階を通過したそれら言語パターンのプロトタイプはパターンデータベースに格納することができ、このパターンデータベースはセマンティックプロセッサにより使用される言語知識ベースの一部になり得る。
【００２５】
発明概念の一側面では、自然言語テキストの自動ラベリングの方法が提供される。この方法は、少なくとも一つの一時的でない記憶媒体に接続された少なくとも一つのコンピュータプロセッサを設けるステップを含む。当該少なくとも一つのコンピュータプロセッサは、その方法を実行する。この方法は、少なくとも一つの電子的形態の自然言語文書からテキストを受け取るステップと、当該テキストの基礎言語解析を実行するステップと、言語解析されたテキストを格納されたターゲット（目標とする）意味関係パターン群と照合するステップと、前記言語解析されたテキストと、前記言語解析されたテキストと前記ターゲット意味関係パターン群との照合結果と、に基づき意味関係ラベルを生成することにより、意味ラベリングされた（意味標識を付与された）テキストを生成するステップであって、前記意味関係ラベルは、前記テキスト内の文からの単語又は句（フレーズ）と関連づけられているとともに、あらかじめ定められた種類の意味関係の構成要素を示すところのステップと、前記意味ラベリングされたテキストをデータベースに格納するステップと、を含む。
【００２６】
この方法は、前記テキストの少なくとも一つの部分に対して品詞タグを付与することにより前記テキストのタグ付けされた複数の部分を生成するステップと、前記テキストのタグ付けされた複数の部分を構文解析することにより、前記テキストの構文解析され且つタグ付けされた複数の部分を生成するステップと、前記テキストの構文解析され且つタグ付けされた複数の部分を意味解析することにより、前記テキストの意味解析され、構文解析され且つタグ付けされた複数の部分を生成するステップと、を更に含んでいてもよい。
【００２７】
品詞タグの付与は、前記テキストの事前フォーマット（プレフォーマット）された複数の部分について実行してもよく、前記テキストの事前フォーマットされた複数の部分は、自然言語でないシンボルが除去されたテキストを含む。
【００２８】
前記テキストの構文解析され且つタグ付けされた複数の部分の意味解析は、前記テキスト内の少なくとも一つの拡張された主語−アクション−目的語（ｅＳＡＯ：expanded Subject-Action-Object）セットの形態の、一以上の事実を認識するステップであって、各ｅＳＡＯセットは少なくとも一つのｅＳＡＯ構成要素を含むところのステップと、前記テキスト内から、知識ドメイン及び外部ドメインの少なくとも一つの規則性を反映するルール群を前記少なくとも一つのｅＳＡＯセットにおける複数の因果関係の形式で認識するステップであって、前記複数の因果関係のうちの少なくとも一つの因果関係は、原因ｅＳＡＯと結果ｅＳＡＯを含むところのステップと、を含んでいてもよい。
【００２９】
前記少なくとも一つのｅＳＡＯ構成要素は、主語、目的語、アクション（行為）、形容詞、前置詞、間接目的語、及び副詞からなるグループの中から選ばれた一以上の要素に関係するテキストを含んでいてもよい。
【００３０】
前記テキスト内の一以上の拡張された主語−アクション−目的語（ｅＳＡＯ）セットを認識する処理では、前記テキストの少なくとも一つの文の中の一以上の主語、目的語、アクション（行為）、形容詞、前置詞、間接目的語、及び副詞を認識してもよい。
【００３１】
前記テキスト内の一以上の拡張された主語−アクション−目的語（ｅＳＡＯ）セット及び複数の因果関係を認識する処理では、ｅＳＡＯ及び原因-結果（因果）の構成要素を規定する複数のパターンを含むデータベースを有する言語知識ベースにアクセスしてもよい。
【００３２】
原因ｅＳＡＯは、前記少なくとも一つのｅＳＡＯセットのうちの少なくとも一つのｅＳＡＯ構成要素を含んでいてもよく、結果ｅＳＡＯは、前記少なくとも一つのｅＳＡＯセットのうちの少なくとも一つの他のｅＳＡＯ構成要素を含んでいてもよい。
【００３３】
前記少なくとも一つの因果関係は、前記原因ｅＳＡＯの前記少なくとも一つのｅＳＡＯ構成要素を、前記結果ｅＳＡＯの前記少なくとも一つの他のｅＳＡＯ構成要素に対して、語彙的、文法的、及び／又は意味的言語手段により関係づける順次演算子（sequential operator）を含んでいてもよい。
【００３４】
前記言語解析されたテキストを前記ターゲット意味関係パターン群と照合するステップでは、更に、言語知識データベースの一部であるパターンデータベースにアクセスしてもよく、このパターンデータベースは、テキスト文書群のコーパスの基礎言語解析を実行する処理、言語解析済みのコーパスにおいてターゲット意味関係の特定の例を認識する処理、語彙的言語単位とそれらの意味クラス、品詞及び統語タグ、前記ターゲット意味関係の特定の例から認識されたｅＳＡＯ及び因果ラベルを用いて、前記ターゲット意味関係の特定の例を言語パターンへと一般化する処理、及び言語パターンを格納する処理により生成される。
【００３５】
前記ターゲット意味関係の特定の例を言語パターンへと一般化する処理では、ｅＳＡＯ形式をコンテキスト（文脈情報）として用いてもよく、前記ターゲット意味関係の特定の例の構成要素を一般化する処理を含んでいてもよく、この一般化処理は、前記基礎言語解析によりそれら構成要素について求められた語彙的、文法的、ｅＳＡＯ、及び因果ラベルを用いて前記言語解析されたテキスト文書群のコーパスをサーチすることにより行ってもよい。
【００３６】
前記言語解析されたテキストを前記ターゲット意味関係パターン群と照合するステップでは、単語、品詞タグ、統語（構文）タグ、ｅＳＡＯ、及び因果セットを照合する処理を行ってもよく、ここで意味関係ラベルを生成する処理ではｅＳＡＯ及び因果のラベルを生成してもよい。
【００３７】
本発明の他の側面では、少なくとも一つのプロセッサにより実行されたときに自然言語テキストの意味ラベリングのための方法を実行する、コンピュータが実行可能な命令群を有するコンピュータ読み取り可能な媒体を含んだコンピュータプログラム製品が提供される。この方法は、少なくとも一つの自然言語文書からテキストを受け取るステップと、前記テキストの基礎言語解析を実行するステップと、前記言語解析されたテキストを格納されたターゲット意味関係パターンと照合するステップと、前記言語解析されたテキストと、当該言語解析されたテキストと前記対象意味パターンとの照合結果とに基づいて意味関係ラベルを生成することにより意味ラベリングされたテキストを生成するステップであって、前記意味関係ラベルが、前記テキスト内の文からの単語又は句と関連づけられており、あらかじめ定められた種類の意味関係の構成要素を示すところのステップと、前記意味ラベリングされたテキストをデータベースに格納するステップと、を含む。
【００３８】
本発明の他の側面では、電子的又はデジタル的形式の自然言語テキストの自動的意味ラベリングのためのセマンティックプロセッサを提供する。このセマンティックプロセッサは、受け取った電子テキストを事前フォーマット（プレフォーマット）する事前フォーマット部と、前記事前フォーマットされたテキストの基礎言語解析を実行する言語解析部と、前記言語解析済みのテキストを格納されたターゲット意味関係パターンと照合することで、意味ラベリングされたテキストを生成するラベリング部であって、前記意味ラベリングされたテキストが、テキスト内の文からの単語及び句と関連づけられた意味関係ラベルであってあらかじめ定められた種類の意味関係の構成要素を示す意味関係ラベルを含むところのラベリング部と、を有する。
【００３９】
言語解析部は、意味解析されたテキストを生成する意味解析部を含んでいてもよい。意味解析部は、前記テキスト内の拡張された主語−アクション−目的語（ｅＳＡＯ）セットを認識する主語−アクション−目的語（ｅＳＡＯ）認識部と、因果関係を認識する因果関係（Ｃ−Ｅ）認識部とを有していてもよい。ここで、ｅＳＡＯ及びＣ−Ｅの認識は、言語知識ベース内に格納された言語パターンに基づく。
【００４０】
前記ラベリング部により生成される意味関係ラベルは、ｅＳＡＯラベル及び因果ラベルを含んでいてもよい。
【００４１】
ｅＳＡＯ因果関係は、原因ｅＳＡＯ、結果ｅＳＡＯ、及び前記原因ｅＳＡＯを前記結果ｅＳＡＯに関係づける少なくとも一つの順次演算子を有していてもよい。
【００４２】
各ｅＳＡＯセットは、複数のｅＳＡＯ構成要素を含んでいてもよく、前記原因ｅＳＡＯは前記複数のｅＳＡＯ構成要素のうちの少なくとも一つのｅＳＡＯ構成要素を含んでいてもよく、前記結果ｅＳＡＯは前記複数のｅＳＡＯ構成要素のうちの少なくとも一つのｅＳＡＯ構成要素であって前記原因ｅＳＡＯの前記少なくとも一つのｅＳＡＯ構成要素とは異なるｅＳＡＯ構成要素を含んでいてもよい。
【００４３】
ｅＳＡＯ構成要素は、主語、目的語、アクション、形容詞、前置詞、間接目的語、及び副詞からなるグループの中から選ばれた一以上の要素に関係するテキストを含んでいてもよい。
【００４４】
前記言語解析部は、事前フォーマットされたテキストを受け取って品詞（ＰＯＳ：part-ｏｆ−ｓｐｅｅｃｈ）タグ付与済みのテキストを生成する品詞タグ付与部と、ＰＯＳタグ付与済みのテキストを受け取って構文解析済みのテキストを作成し、前記意味解析部に構文解析済みのテキスト提供する構文解析部と、を有していてもよい。ここで、品詞タグ付与部及び構文解析部は前記言語知識ベース内に格納されたデータを用いて処理を行う。
【００４５】
前記事前フォーマット部は、前記テキストの電子的又はデジタル的な表現の中の、自然言語テキストの部分を構成しないシンボルを除去すること、前記テキスト内の食い違いや誤りを検出及び修正すること、及び前記文書を文及び単語の構造へ分割すること、のうちの少なくとも一つを実行してもよい。
【００４６】
前記ターゲット意味関係パターンは、パターン生成部により生成されてもよい。パターン生成部は、テキスト文書群のコーパスの基礎言語解析を実行するコーパス言語解析部と、品詞タグ、統語タグ、ｅＳＡＯラベル、及び因果ラベルを有するラベル付与済みのテキストコーパスを生成するラベル付与済みテキストコーパス生成部と、前記ラベル付与済みのテキストコーパス内からターゲット意味関係の特定の例を認識する関係生成部と、意味関係のラベルを用いて意味関係の特定の例を一般化することにより、より一般化された言語パターンを生成するパターン生成部であって、前記ラベルが語彙的言語単位、それら単位の意味クラス、品詞及び統語タグ、ｅＳＡＯ及び因果ラベルを含むところのパターン生成部と、前記パターン生成部による一般化された言語パターンをテストするパターンテスト部と、を有する。
【００４７】
ターゲット意味関係の特定の例を言語パターンへと一般化する場合、前記パターン生成部は、ｅＳＡＯ形式をコンテキスト（文脈情報）として用いることで、前記言語解析されたテキスト文書群のコーパス内のサーチの結果としての構成要素を、基礎言語解析のレベルでそれら構成要素について求めた品詞、統語、ｅＳＡＯ及び因果ラベルを用いて一般化することができる。
【００４８】
前記ラベル付与部は、単語、品詞タグ、統語タグ、ｅＳＡＯ及び因果セットを照合することにより、前記言語解析されたテキストをターゲット意味関係パターンと照合してもよい。
【図面の簡単な説明】
【００４９】
図面は、好適な実施の形態を例示のために図示するものであって、限定的なものではない。それら図面において、類似の符号は同一又は類似の要素を指し示す。それら図面は、必ずしも寸法に合ったものである必要はなく、その代わりに本発明の例示した側面を強調する。
【図１】本発明のいくつかの側面に従って、セマンティックプロセッサを構成するための、一以上のコンピュータ内に実装可能な、一組の機能モジュール又はプロセッサの実施形態の高レベルアーキテクチャの図である。
【図２】本発明のいくつかの側面に従って、言語解析部を構成するための、一以上のコンピュータ内に実装可能な、一組の機能モジュール又はプロセッサの実施形態の高レベルアーキテクチャの図である。
【図３】本発明のいくつかの側面に従って、意味解析部を構成するための、一以上のコンピュータ内に実装可能な、一組の機能モジュール又はプロセッサの実施形態の高レベルアーキテクチャの図である。
【図４Ａ】二つの特定の文についてのｅＳＡＯ認識部の出力の実施形態を示す図である。
【図４Ｂ】二つの特定の文についてのｅＳＡＯ認識部の出力の例を示す図である。
【図５Ａ】単一のｅＳＡＯの内部のＣ−Ｅ関係の認識のための言語パターンの包括形式の例を示す図である。
【図５Ｂ】図５Ａに示された言語パターンを用いた、所与の文についてのＣ−Ｅ認識部の出力の例を示す図である。
【図６Ａ】二つのｅＳＡＯ間のＣ−Ｅ関係の認識の言語パターンの包括形式の例を示す図である。
【図６Ｂ】図６Ａに示された言語パターンを用いた、所与の文についてのＣ−Ｅ認識部の出力の例を示す図である。
【図７】本発明のいくつかの側面に従って、テキストの自動意味ラベリングに役立つ言語パターンの生成のための、一以上のコンピュータ内に実装可能な、一組の機能モジュール又はプロセッサの実施形態の高レベルアーキテクチャの図である。
【図８】本発明のいくつかの側面に従って、適切に構成されると、この明細書に記載される一以上の機能又は方法を実行するのに用いることができるコンピュータ実装例のアーキテクチャーの図である。
【図９】本発明が実装され得る、コンピュータ装置群のネットワークの例を示す図である。
【発明を実施するための形態】
【００５０】
以下では、本発明のいくつかの側面が、添付の図面を参照しつつ、それら側面の例示のための実施の形態を説明することにより記述される。それら実施形態を説明するに当たっては、周知の項目や機能、構成などの詳細な説明は典型的には簡潔さのために省略する。
【００５１】
了解されるように、「第１の」、「第２の」等の用語は、この明細書では、様々な要素を記述するために用いられ、それら要素はそれら用語により限定されるべきではない。これらの用語は、ある要素を別の要素から区別するのに用いられるものであり、複数の要素の間に要求される順序を示すものではない。本発明の範囲から逸脱することなく、例えば、第１の要素を第２の要素と呼ぶこともできるし、同様に、第２の要素を第１の要素と呼ぶこともできる。この明細書内で用いるように、「及び／又は」という用語は、対応するリスト内の複数の項目の一以上のものについての、いかなる組合せ、すべての組合せを含んでいる。
【００５２】
了解されるように、ある要素が他の要素に「接して」、「接続されて」、又は「結合されて」いると表現される場合、その要素は当該他の要素に直接に、接して、又は接続されて、又は結合されていてもよいし、間に介在する要素が存在していてもよい。これに対し、ある要素が他の要素に対して「直接接して」、「直接接続されて」、又は「直接結合されて」いると表現される場合、間に介在する要素は存在しない。要素間の関係を記述するのに用いられる他の語句も、同様の方式で解釈されるべきである（例えば、「（二者の）間に」と「（二者の）直接の間に」との関係、「隣り合う」と「直接隣り合う」との関係など）。
【００５３】
この明細書で用いられる用語は、特定の実施形態を説明する目的のためのものであって、本発明を限定することを意図したものではない。この明細書で用いられるように、単数形の記載（「ａ」、「ａｎ」、及び「ｔｈｅ」）は、文脈上明らかにそうでない限り、複数形をも含むことを意図している。更に了解されるように、「含む」、「含んでいる」、「包含する」、及び／又は「包含している」という用語は、この明細書で使用される場合、記載された特徴、ステップ、処理、要素、及び／又は構成要素が存在することを示すものであって、一以上の他の特徴、ステップ、処理、要素、構成要素、及び／又はそれら特徴等のグループが存在すること又はそれらを付加することを排除するものではない。
【００５４】
本発明のいくつかの側面では、労働集約性が低減され、生成される結果の質が高められ、関連する意味的処理を用いる応用の範囲が広がる、独創的なセマンティック（意味）プロセッサ（ＳＰ）（意味処理装置）が提供される。このようなセマンティックプロセッサは、いくつかの普遍的な意味構造に向けられた、テキストについてのより深い基礎言語解析を実行すると共に、それら意味構造を利用し更にユーザの要求に応じた技術的アプローチに従って意味ラベリングを実行する。
【００５５】
本発明の実施形態は、電子的形態の自然言語テキストの自動的意味ラベリングのためのシステム及び方法に関する。このシステムはセマンティックプロセッサを有し、このセマンティックプロセッサは入力テキストの基礎言語解析、複数又は単数のもの（オブジェクト）のクラスの認識、一組のもの（オブジェクト）からの事実の認識、及び一組の事実からの因果関係の認識を実行する。上述した意味関係は、主語ドメイン及び言語に依存せず、外側の世界及び／又は主語ドメインのような外部ドメインについての三つの主要な種類の知識を表現する。
【００５６】
これら意味関係は、意味関係の構成要素及び属性と一緒になることで、一組の意味ラベル（意味関係レベルとも呼ぶ）を決定する。ここで、セマンティックプロセッサは、基礎言語解析の段階の中で入力テキストについての意味テキストラベリングを実行し、これにより、特定の応用目的の必要に応じて、更なる目標の意味ラベリングのための言語パターン群を作成することを助ける。
【００５７】
本発明のいくつかの実施形態では、電子的又はデジタル的形態のテキストにラベリングするための意味処理では、テキストを事前フォーマットすること、言語解析を実行すること、及びテキストをラベリングすること、を行ってもよい。
【００５８】
図１は、本発明のいくつかの側面に従って、セマンティックプロセッサ（ＳＰ）１００とも呼ぶセマンティックラベリングプロセッサ１００を構成するための、一以上のコンピュータ内に実装可能な、一組の機能モジュール又はプロセッサの実施形態の高レベルアーキテクチャの図である。
【００５９】
セマンティックプロセッサ１００は、元（オリジナル）のテキスト１０を処理してラベル付与済みテキストデータベース５０を作成するよう構築、適合、又は構成されている。この実施形態では、セマンティックプロセッサ１００は、元テキスト１０に事前フォーマット処理を行う事前フォーマット部２０と、事前フォーマット済みのテキストに対して言語解析を実行する言語解析部３０と、言語解析済みのテキストに対して意味ラベリングを実行してラベル付与済みテキストデータベース５０を作成するラベル付与部４０と、を含む。この実施形態では、意味ラベル付与部とも呼ぶラベル付与部４０は、意味解析済みのテキストを、言語知識ベース６０に格納されるか又は言語知識ベース６０によりアクセス可能なターゲット意味関係パターン（又は言語パターン）と照合又は比較して、意味解析済みのテキストと上述の照合の結果とに基づいて意味関係ラベルを生成する。意味ラベルは、例えば原因−結果、及び／又は、全体−部分などのような、何らかの種類の意味関係に対応する解析済みのテキスト内の単語又は句のラベルを含んでいる。
【００６０】
セマンティックプロセッサ１００の各モジュールの機能は、少なくとも一つのプロセッサにより実行可能な言語知識ベース６０内に保持されるコンピュータプログラムコードとして具現化されていてもよい。この代わりに、又はこれに加えて、この意味処理機能は、ハードウエア、ファームウエア、又はこれらの組合せとして具現化してもよく、このことはこの明細書に記載する他の機能モジュール又はプロセッサでも成り立つ。言語知識ベース６０は、辞書、分類辞（classifiers）、統計データ等の様々なデータベースと、テキストから単語への分割、名詞及び動詞の句、主語、目的語、アクション及びそれらの属性の認識、因果関係の認識等に用いられる言語モデル又は言語パターンを認識するデータベースと、を含んでいてもよい。言語解析部３０及びラベル付与部４０は、後で更に説明する。事前フォーマット部２０により実行されるテキスト事前フォーマット処理は、好適には、上述のように参照のためにこの明細書に組み込んだ米国特許第７，２５１，７８１号に記載される技術に従って実行される。好適には、この実施形態では、テキストの事前フォーマット処理にて、句読点などの非自然言語のシンボルを除去する。
【００６１】
図２は、本発明のいくつかの側面に従って、図１の言語解析部３０を構成するための、一以上のコンピュータ内に実装可能な、一組の機能モジュール又はプロセッサの実施形態の高レベルアーキテクチャの図である。他の実施形態では、言語解析部３０は、実質的に同じ機能を実行する他のコンピュータモジュールのセットを含んでいてもよい。
【００６２】
言語解析部３０は、例えば図１を参照して説明した事前フォーマット部２０のような事前フォーマット部から受け取った事前フォーマット済みのテキストを処理して、意味解析済みのテキスト１６を生成する。事前フォーマット済みテキスト１２は、品詞（ＰＯＳ）タグ付与部３２により受け取られ、品詞タグ付与部３２はその事前フォーマット済みテキスト１２に対して品詞タグを決定して付与する。次に、構文解析部３４は、意味解析部３００による処理のために、ＰＯＳタグ付与済みテキストを構文解析する。この実施形態では、ＰＯＳタグ付与部３２及び構文解析部３４により実行される機能は、好適には、米国特許第７，２５１，７８１号に記載された技術に従って実行される。
【００６３】
図３は、本発明のいくつかの側面に従って、意味解析部３００を構成するための、一以上のコンピュータ内に実装可能な、一組の機能モジュール又はプロセッサの実施形態の高レベルアーキテクチャの図である。この実施形態では、意味解析部３００は、図２に記載された意味解析部３００と類似の、又は同一のものである。
【００６４】
この実施形態では、意味解析部３００は、構文解析済みテキスト１４を構文解析部から受け取り、その構文解析済みテキスト１４から意味解析済みテキスト１６を作成する。意味解析部３００は、ｅＳＡＯ意味関係認識を実行する、拡張された主語−アクション−目的語（ｅＳＡＯ）認識部３１０と、ｅＳＡＯ内及び／又はｅＳＡＯ間の因果意味関係認識を実行するＣ−Ｅ認識部３２０とを有する。この実施形態では、主語（Ｓ）、アクション（Ａ）、目的語（Ｏ）の種類の意味要素又は意味構成要素に加え、前置詞、間接目的語、形容詞、副詞相当語句の種類の意味要素又は意味構成要素が、ｅＳＡＯとして認識される。上述のように、因果関係のような他の意味関係を認識してもよい。
【００６５】
この実施形態では、ｅＳＡＯ関係認識は、好適には米国特許第７，２５１，７８１号に記載された技術に従って実行される。また、この実施形態では、因果関係の認識は、参照のために全体的にこの明細書に組み込む米国特許出願公開第２００６００４１４２４号に記載された技術に従って実行してもよい。
【００６６】
図４Ａ及び４Ｂには、入力された文について図３のｅＳＡＯ認識部３１０により実行される、ｅＳＡＯタイプの意味関係の認識の例が例示される。特に、図４Ａ及び４Ｂには、次の二つの特定の文についてのｅＳＡＯ認識部３１０の出力の例が示される。
“A dephasing element guide completely suppresses unwanted modes”（「デフェイジング要素ガイドは望ましくないモードを抑圧する」）（図４Ａ）
“The maximum value of x is dependent of the ionic radius of the lanthanide element”（「ｘの最大値は、ランタニド元素のイオン半径に依存する」）（図４Ｂ）
【００６７】
図４Ａでは、主語、アクション、目的語、及び副詞相当語句に対応するｅＳＡＯ構成要素が、ｅＳＡＯ認識部３１０により入力文から求められている。
【００６８】
図４Ｂでは、主語、アクション、前置詞、間接目的語、及び形容詞のｅＳＡＯ構成要素が、ｅＳＡＯ認識部３１０により入力文から求められている。
【００６９】
この実施形態では、主語、目的語及び間接目的語というｅＳＡＯ構成要素は、内部構造、すなわち構成要素それ自体とその属性を有しており、これは意味関係に対応している。例えば、文から求められた主語、目的語、又は間接目的語は、全体−部分（すなわちメレオロジーの）関係のパラメータ、すなわち、そのような関係の全体又は部分に対応するものであってもよいし、他の機能的関係におけるパラメータであってもよい。
【００７０】
因果関係は、本発明によれば、原因としての一以上の完全及び／又は不完全なｅＳＡＯを、対応する結果としての他の一以上の完全及び／又は不完全なｅＳＡＯと組み合わせることを含んでいる。単一のｅＳＡＯが原因ｅＳＡＯ及び結果ｅＳＡＯの両方を生み出すことができることに留意されたい。また、知識工学及び自然言語の特殊性の観点から見れば、因果関係は個々のｅＳＡＯから見出すことができる。
【００７１】
Ｃ−Ｅ認識部３２０は、言語パターン（これらは例えば言語知識データベース６０に格納されていてもよい）を用いて、テキスト内の、単一のｅＳＡＯ内、及び異なる複数のｅＳＡＯ同士の間の因果関係を検出する。例えば、“The “cause of” construction in Subject”（「主語の中の「の原因である」構造」）という種類のパターンは、主語が意味“CAUSE_OF”を持ち、アクションが主語を目的語に対して意味“BE”により繋げるならば、単一のｅＳＡＯの内部に現れる。このパターンでは、主語の意味“CAUSE_OF”は、名詞句を示す非終端シンボルであり、これは好適には以下のパターン、すなわち、いくつかの単語と、単語“cause”又は“causes”と、後にいくつかの単語が続く前置詞“of”とからなるパターン、に適合する。
意味“CAUSE_OF”は、次の等式により表現することができる。
2012520528.tif 000003
【００７２】
好適な実施形態では、“BE”意味は、単語又は句“be | become”と少なくとも等しい。
【００７３】
図５Ａは、単一のｅＳＡＯ内のＣ−Ｅ関係の認識のための言語パターンの包括的形式の例を示している。図５Ｂは、与えられた文についての、図５Ａに示される言語パターンを用いた、Ｃ−Ｅ認識部３２０の出力を示す。
【００７４】
特に、図５Ｂには、入力文“The cause of water evaporation is heat.”（「水の蒸発の原因は熱である。」）について、ｅＳＡＯ認識部３１０により認識されるｅＳＡＯタイプの関係が例示される。上述の言語パターンに応じて、この単一のｅＳＡＯ内でＣ−Ｅ認識部３２０により認識される因果関係が示されており、ここで、結果“water evaporation”（「水の蒸発」）は原因“heat”（「熱」）を有する。それら上述の例に示されるシンボル“-”は、対応する構成要素がいかなる意味をも持ち得ること、又はシンボルがないこと、又は空であることを意味する。
【００７５】
上述の言語パターンと異なり、“Adverbial Modifier of Purpose: TO VB|DO|HV”（「目的の副詞的な修飾語：TO VB|DO|HV」）という種類のパターンは、原因と見なされる第１のｅＳＡＯが意味“ACTIVE”を持つアクションを有し、結果と見なされる第２のｅＳＡＯが意味“TO_VB|DO|HV”を有するアクションを持つならば、二つのｅＳＡＯの間に現れる。意味“ACTIVE”アクションは、能動態動詞グループから抽出されたアクションを示す非終端シンボルである。意味“TO_VB|DO|HV”アクションは、当該動詞の前に前置詞を有する不定詞形の動詞（VB）、不定詞形の“have”（HV）、又は不定詞形の“do”（ DO）を含む動詞グループから抽出されたアクションを示す非終端シンボルである。
【００７６】
図６Ａは、二つのｅＳＡＯ間のＣ−Ｅ関係の認識に役立つ言語パターンの包括的形態を例示するものである。図６Ｂは、図６Ａに示される言語パターンを用いた、特定の文についてのＣ−Ｅ認識部３２０の出力を示す。図６Ａでは、言語パターンは、主語１と目的語２が「存在する」（“exist”）ことを必要とし、すなわちこれは主語１が第１のｅＳＡＯの中にあり、目的語２が第２のｅＳＡＯの中にあることである。第１のｅＳＡＯ内のアクション１は“ACTIVE”でなければならず、第２のｅＳＡＯ内のアクション２は“TO_VB|DO|HV”の形を持たなければならない。
【００７７】
図６Ｂは、特に、図６Ａを参照して上で説明した言語パターンに従って、入力文“The register contains the proper bit pattern to begin its shift-out operation,”（「レジスタは、シフトアウト演算を開始するための固有のビットパターンを含んでいる」）内の二つのｅＳＡＯからＣ−Ｅ認識部３２０により認識される因果関係を例示している。入力文からの単語及び句は、図６Ａの言語パターンを用いて求められた、それぞれ対応する意味ラベルと共に示されている。
【００７８】
基本意味解析の間に入力テキストについてセマンティックプロセッサ１００により作成される意味ラベルは、語彙的、文法的及び統語的タグと一緒になって、実用上、入力テキストのすべての語彙単位（lexical units）をカバー（包含）する。図１参照。この実施形態では、セマンティックプロセッサ１００は、更なるテキスト意味ラベリングに役立つ言語パターンの効率的な作成を可能とする。例えば、セマンティックプロセッサ１００は、専門家に対して、言語ドメイン及び知識ドメインに依存していなくてよい、語彙的、文法的、統語的及び意味的解析などのような言語解析の互いに異なる複数のレベルについての、ラベルを有する新たなターゲット意味関係のいかなる特定の例をも「ラップする」（包み込む）能力を提供する。ユーザは、例えばコンピュータディスプレイ上のテキストの断片内の対応する単語群を強調表示することにより、新たなターゲット意味関係を指定することができる。このように、セマンティックプロセッサ１００は、一方では、テキスト内の意味関係を認識するための言語パターンの一般化のための能力、もう一方では、一般化された言語パターンに基づいてどのようなテキスト中の意味関係の自動認識をも機能的に支援する能力、を提供する。なぜなら、セマンティックプロセッサ１００は、言語パターンを用いたテキストの処理のために必要なレベル又は量のテキスト解析にアクセスすることができるからである。この認識処理は、話題（トピックス）内容のみならず、論理内容についても実行することができる。
【００７９】
図７は、本発明のいくつかの側面に従って、テキストの自動意味ラベリングに役立つ言語パターンの生成及び格納のために用いることができる、一以上のコンピュータに実装可能な、一組の機能モジュール又はプロセッサの実施形態の高レベルアーキテクチャの図である。特に、図７には、この明細書に記載する実施形態に実装してもよい、新たな言語パターンを自動生成するのに用いてもよいモジュール１８０，１９０，２００，２１０及び２２０が示されている。様々な実施形態では、図７の一以上のモジュールは、図１〜３を参照して上で説明した言語解析部３０及びラベル付与部４０のうちの少なくとも一つに含まれていてもよい。
【００８０】
図７に示すように、自然言語テキスト文書の十分に大きなコーパスであるテキストコーパス１７０は、好適には、複数の言語パターンから構成されるパターンデータベース２３０を構築及び形成するために用いられる。他の実施形態では、どのような量のテキストを用いてもよく、しかしこの場合には、テキストの大規模なコーパスを用いる場合よりも少ない言語パターンしか生成できない。コーパス言語解析部１８０は、上述のテキストコーパス１７０に対して基礎言語解析を実行する。上述のことを達成するために、図１〜３のセマンティックプロセッサ１００は、例えば、コーパス言語解析部１８０として、又はコーパス言語解析部１８０と協働して、自身の機能を実行する。ラベル付与済みテキストコーパス生成部１９０は、テキストコーパス１７０の基礎言語解析の間のコーパス言語解析部１８０（又はセマンティックプロセッサ１００）の出力に基づき、品詞タグ、統語タグ、及び意味ラベルを含んだ文のコーパスを生成する。
【００８１】
関係認識部２００は、意味関係のいくつかの特別な例（例えばＣ−Ｅ関係）の認識の処理を実行する。それら意味関係のいくつかの特別な例は、それら特別な意味関係を含むラベル付けされた文のリストの形で示されるようにしてもよい。例えば、専門家は、ラベル付与済みテキストコーパス生成部１９０から出力されたラベル付与済みの文のうち注目する意味関係を持つラベル付与済みの文を、例えばコンピュータディスプレイを介して指定することにより、注目する特定の意味関係を指定することができる。パターン生成部２１０は、意味関係の特定の例を当該例のラベルを用いて一般化することにより、より一般的（包括的）な言語パターン、すなわちターゲット意味関係パターンを生成する。パターンテスト部２２０は、それら生成されたパターンを、ラベル付与済みテキストコーパス１９０を用いてテストし、承認されたパターンをパターンデータベース２３０に入れる。
【００８２】
関係認識部２００の機能は、専門家により人手で実行することができる。すなわち、彼又は彼女が、ラベル済みテキストコーパス１９０をざっと閲覧して、ターゲット意味関係を含んだテキストの断片を見つける。または、それは、ターゲット意味関係を含んだテキストの断片のサーチに適応したコンピュータにより自動的に実行することもできる。また、それら人手の手法及び自動的手法の何らかの組合せを用いてもよい。ユーザは、例えば、ターゲット意味関係の中に明確に見出されるべきいくつかの概念を指定することができ、関係認識部２００が、ラベル付与済みテキストコーパス１９０を自動的にサーチしてそれら概念を含んだテキストの断片を求めることができる。例えば、全体−部分の意味関係に着目すれば、関係認識部２００は、ラベル付与済みテキストコーパス１９０の中で、指定された全体−部分（すなわち車−エンジン）の意味関係を含んでいる文“The engine is located inside the car.”（「エンジンは車の内側に配置されている」）を見つけ出す。この文を見つけるにあたって、コーパス言語解析部１８０は、この文について、品詞タグ付与、構文解析、及び意味解析を実行し、対応する意味ラベル群を設定する。
【００８３】
表１には、上述の文についてのこのような解析の結果が示されている。ここでは、明解さのために、短い語彙的、文法的及び統語的タグは省略されている。
【００８４】
【表１】
2012520528.tif 000004
【００８５】
関係認識部２００は、この例では、次のように判定する。
全体＝car（車）
部分＝engine（エンジン）
【００８６】
パターン生成部２１０は、全体−部分関係を生成し、パターンのレベルまで一般化する。パターン生成部２１０の機能は、一以上の専門家により人手で実行されてもよいし、適切に構成されたコンピュータにより自動的に実行されてもよい。前者の場合、適切な解析及び一般化を行う際に、言語知識ベース内に含まれる知識と共に、専門家は自分の経験や知識を考慮に入れることができる。
【００８７】
前の例に戻ると、専門家は、この例において得られる全体−部分の役割の配分は、前置詞“inside”の意味に由来するものであり、前置詞“within”は前置詞“inside”と似た意味を持ち、少なくとも動詞“situate | contain | position | dispose | fix | mount | house”は動詞“locate”の意味と似た意味を持つ、という結論に達するはずである。このように、専門家又は適切に構成されたコンピュータは、表２に表現されたような、パターンのプロトタイプの包括（一般化）形式を登録することができる。
【００８８】
【表２】
2012520528.tif 000005
【００８９】
アクションのフィールドが“POSITION”（「配置する」）の意味を持つと共に元の文の中では受動態の動詞で表現され、前置詞のフィールドが“INSIDE”（「内側に」）の意味を持つならば、このパターンが生じる。ここで、アクション“POSITION”の意味は、“locate | situate | contain | position | dispose | fix | install | mount | house”を含む単語又は句に少なくとも合致する非終端シンボルである。前置詞“INSIDE”の意味は、“inside | within”を含む単語又は句に少なくとも合致する非終端シンボルである。
【００９０】
それ自体言語パターンを一般化したものを表す非終端シンボルの値の検索は、ｅＳＡＯ形式に基づく、十分に大規模なラベル付与済みテキストコーパス１９０を用いた自動モードで実行してもよい。そのようなコーパスは、それらの目的のために十分な文脈を提供する。例えば、パターン生成部２１０は、アクション、目的語及び間接目的語の各フィールド（表１参照）の値を固定し、ラベル付与済みテキストコーパス１９０内で、対応する各フィールドがそれら固定された値と同じ値を持つｅＳＡＯを有するすべての文を自動的にサーチすることにより、非終端シンボルINSIDEのすべての値を検索する。同様に、パターン生成部２１０は、目的語、前置詞及び間接目的語の各フィールドの値を固定することにより、非終端シンボルPOSITIONのすべての値を検索する。
【００９１】
以下に示すのは、全体−部分の意味関係を含んだ文の別の例である。この関係は、技術的なプロセスを記述しており、結果として、その文から求められるｅＳＡＯの組から抽出される。
2012520528.tif 000006
【００９２】
言語解析部１８０によるこの例の処理の結果は、以下に示す表３のようになる。
【００９３】
【表３】
2012520528.tif 000007
【００９４】
関係認識部２００は、この例について、次のように判定する。
全体＝ｅＳＡＯ−１
部分＝｛ｅＳＡＯ−３，ｅＳＡＯ−４｝
【００９５】
この例に基づき、パターン生成部２１０は、上述の開示内容に従って、いかのような言語パターンを構築する。
2012520528.tif 000008
【００９６】
このパターンにおいて、アクション“PERFORM”の意味は、“follow | complete | do | perform | take”という単語又は句に少なくとも合致する非終端シンボルである。
【００９７】
テキスト文書内の全体−部分の意味関係の自動認識のための言語パターンの詳細な説明は、米国特許出願公開第２００７０１５６３９３号に示されており、これは参照のために全体的にこの明細書に組み込む。
【００９８】
他の文はPREVENTION（防止）タイプの意味関係の例を与える。すなわち、“Aluminum should be isolated in order to prevent corrosion.”（「アルミニウムは腐食を防ぐために絶縁されるべきである。」）。上述の実施形態に従って構築される、その関係の認識のための言語パターンは、因果タイプの意味ラベルを有する場合でさえ、機能する可能性がある。この場合、ｅＳＡＯ−結果のアクションが“PREVENT”の意味を持つ、すなわち単語“prevent | avoid | hamper | preclude | eliminate | inhibit”に少なくとも合致するならば、このパターン内のPREVENT（防止）意味関係のパターンの主語は、ｅＳＡＯ−原因（絶縁する−アルミニウム）であり、この関係の目的語は、ｅＳＡＯ−結果（腐食）の目的語（属性があるなら属性も含む）である。
【００９９】
パターンテスト部２２０は、パターン生成部２１０により構築されたプロトタイプの言語パターンを用いて、ラベル付与済みテキストコーパス１９０内から上述の意味関係の例を探す。専門家は、検索された例を分析し、おそらくはいくつかの修正を施して、そのパターンを承認する。コンピュータを、この作業を実行するようにプログラミング又は構成してもよい。いずれの方法でも、パターンテスト部２２０は、承認されたパターンを、この実施形態においては言語知識ベース６０の一部である、パターンデータベース２３０に入れる。
【０１００】
図１に示したラベル付与部４０は、言語解析部３０により入力テキスト内に設定されたラベルに加えて、パターン生成部２１０により生成され、パターンテスト部２２０により承認され、言語知識ベース６０内に含まれる言語パターンに従って、更なる意味テキストラベリング及び／又は意味ラベリングを施す。例えば、図１のラベル付与部４０により提供されるラベルは、（言語知識ベース６０に含まれていてもよい）パターンデータベース２３０からのパターンを、意味解析済みのテキスト１６に適用することにより求められる。ラベル付与部４０により提供されるラベルには、原因−結果（因果）意味関係や全体−部分意味関係などのように、この明細書中で説明した種類の意味関係、又はその他の種類の意味関係を示すラベルがある。
【０１０１】
システムの機能群及びデータベース群は、実際に同じ場所に設けられてもよいし、同じ場所に配置されるが互いに離れた場所にある多くのシステム群、サブシステム群、プロセッサ群、及び記憶装置群（ユーザの装置やデータ源を含む）に分散されてもよい。互いに離れた場所にある場合、様々なシステム群、サブシステム群、プロセッサ群、及び記憶装置群の間の通信は、インターネット、ＷＷＷ、ローカルエリアネットワーク、ワイドエリアネットワーク、ＶＰＮ（仮想プライベートネットワーク）等を含む様々な種類のネットワークのうちの一以上を介して、有線又は無線通信を用いて確立されるようにしてもよい。そのようなネットワークには、様々なコンピュータシステム群、サーバ群、データ記憶装置群、衛星群、携帯電話ネットワーク群、ケーブルネットワーク群、電話ネットワーク群等が含まれ得る。同様に、他の関連するエンティティの機能及びデータは、様々な記憶装置やシステムのうちのいずれにあってもよく様々なプロセッサのうちのいずれによって実行されてもいずれからアクセスされてもよいプログラムコード内に具現化されてもよい。
【０１０２】
例えば、本発明のいくつかの側面に従った実施形態は、図８に示されるコンピュータシステム８００のような、特別に構成されたコンピュータシステム内に実装されてもよい。コンピュータシステム８００は、少なくとも１つの処理要素８０１と、ディスプレイ８０３と、入力装置８０５と、上述した意味ラベリングを実現するために必要な情報を提供するデータベース８０７（又は他のコンピュータ読み取り可能な記憶媒体）へのリンクとを含んでいてもよい。
【０１０３】
様々な実施形態では、この明細書に説明したアプリケーション群、機能モジュール群、及び／又はプロセッサ群には、ハードウエア、ソフトウエア、ファームウエア、又はそれらの何らかの組合せが含まれ得る。機能群が全体的又は部分的にプログラムコード内に実現される範囲で、それらの機能は、一以上の特定のマシンとして、一緒になって本発明の概念の機能群を実行するように適応した、一以上のプロセッサにより実行される。また、様々な実施形態においてソフトウエア又はコンピュータプログラムコード又は命令群（「アプリケーション」と呼ぶこともある）が使用される範囲で、そのソフトウエアは、様々な一時的でない記憶装置又は媒体のうちのいずれに格納されてもよく、この明細書に記載したシステム又は方法の明示的な、暗黙の、及び／又は固有の機能を実現するように一以上のプロセッサやマイクロプロセッサ、マイクロコントローラ、その他の処理装置により実行されてもよい。例えば、コンピュータプログラムコードは、処理装置内のメモリ内にあってもよいし、フレキシブルディスクやハードディスク、コンパクトディスク（ＣＤ）、デジタル多用途ディスク（ＤＶＤ）、リードオンリーメモリ（ＲＯＭ）、又はその他の一時的でない記憶媒体により、処理装置に提供されてもよい。そのような記憶装置又は媒体、及びそのようなプロセッサは、論理的にせよ物理的にせよ、同じ場所に配置されてもよいし互いに離れていてもよい。例えば、本発明の概念に従ったシステムは、一以上の他のコンピュータやデータベース等に対して、インターネット（及びＷＷＷ）やイントラネット、エクストラネット、ＶＰＮ、その他のネットワーク等のうちの一以上のようなネットワークを介して、アクセスしてもよい。
【０１０４】
ことさら指示することがなければ、この明細書で用いているように、コンピュータは、少なくとも一つのプロセッサと記憶媒体とを含んだ、既知の又はこれから開発されるいかなる装置の形態をとってもよい。例えば、図９を参照すると、コンピュータ又はコンピュータシステムには、サーバ９８、ＰＤＡ（personal digital assistant）９１、ラップトップコンピュータ９２、携帯音楽装置９３、パーソナルコンピュータ９４、携帯電話９５、ワークステーション（図示省略）、メインフレーム（図示省略）等、又はそれらの何らかの組合せが含まれ得る。それらの装置は、例えばキーパッドやキーボード、マイク、ビデオカメラ、タッチスクリーン等の一以上の入力装置を備えていてもよい。またそのような装置は、更に、例えばビデオ画面（例えばコンピュータや携帯電話、ＰＤＡの画面）、タッチスクリーン、画像投影システム、スピーカー、プリンタ等の一以上の出力装置を備えていてもよい。いくつかの実施形態では、データポートを入力装置又は出力装置又はその両方と見なしてもよい。いくつかの実施形態では、様々なユーザ装置９０は、例えばインターネットを介してアクセス可能なコンピュータ９８にて実行される知識サーチ・マッピングシステム１０と協働してもよい。
【０１０５】
この明細書に記載された要素群が互いに離れている場合、それら要素同士は、ローカルエリアネットワーク、ワイドエリアネットワーク、ＶＰＮ、イントラネット、コンピュータベースのソーシャルネットワーク、ケーブルネットワーク、携帯電話ネットワーク、インターネット、ＷＷＷ、又はそれらの何らかの組合せなどの、様々な既知の、又はこれから開発されるネットワーク９６を介して情報を通信及び／又は交換してもよい。
【０１０６】
上述した例示的な好適な実施の形態の詳細な説明は、あくまで説明のために提示されるものである。この説明は、網羅性を意図したものでも、記載した厳密な形に発明を限定することを意図したものでもなく、本発明がどのようにして特定の用途又は実装に適応させられるかを当業者に理解できるようにすることを意図したものに過ぎない。この明細書を理解すれば、当業者には、改良や変形が可能であることが明らかであろう。例示の実施形態の説明は、いかなる限定をも意図しておらず、様々な公差、様々な特徴の寸法、様々な特定の動作条件、様々な技術上の仕様（工業規格）等を含んでいてもよく、実装が異なれば異なり得ると共に技術水準に応じて変化するものであり、その説明はいかなる限定も含意するものではない。
【０１０７】
この明細書は、現在の技術水準に応じて作成されたものであるが、進歩を考慮しており、将来におけるこの技術の適応はそのような進歩、すなわちその時点での技術水準、を考慮に入れてもよい。本発明の範囲は、記載した特許請求の範囲と応用上のその均等物により規定されるものである。また、この明細書の中のどの要素、どの構成要素又はどの方法・処理のステップも、それら要素、構成要素、又はステップが特許請求の範囲内に明示的に記載されているか否かによらず、一般公衆に開放することを意図してはいない。ここに記載される請求項の要素は、その要素が「〜のための手段」という言い回しを用いてはっきりと記載されない限り、米国特許法１１２条第６項の規定の下で解釈されるべきではなく、ここに記載される処理ステップは、その１つ又は複数のステップが「〜のステップを含む」という言い回しを用いてはっきりと記載されない限り、それらの規定の下で解釈されるべきではない。
【０１０８】
このように、様々な変形がなし得ること、本発明が様々な形式及び実施形態として実行し得ること、及びそれらを数多くの応用分野に適用できることが理解され、この明細書にはそのうちのいくつかのみが記載される。以下に示す各請求項は、文字通り記載されていること、及び、それら各請求項の範囲内のすべての改良及び変形を含む、そのすべての均等物を請求することを意図している。
【図１】
2012520528.tif 000009
【図２】
2012520528.tif 000010
【図３】
2012520528.tif 000011
【図４Ａ】
2012520528.tif 000012
【図４Ｂ】
2012520528.tif 000013
【図５Ａ】
2012520528.tif 000014
【図５Ｂ】
2012520528.tif 000015
【図６Ａ】
2012520528.tif 000016
【図６Ｂ】
2012520528.tif 000017
【図７】
2012520528.tif 000018
【図８】
2012520528.tif 000019
【図１２】
2012520528.tif 000020
【国際調査報告】
2012520528.tif 000021
2012520528.tif 000022