(57)【要約】【課題】文法創作プロセスを自動化するシステム及び方法を提供する。【解決手段】本発明は、分散データベースから受け付けた応答に基づく第１のタスクを示す第１のデータを受け付けるステップと、第１のタグ付けされたデータを形成するために前記第１のデータに品詞を自動的にタグ付けするステップと、前記第１のタグ付けされたデータから、繋ぎ語及びコア語を識別するステップと、第１の組の規則を使用して前記第１のタグ付けされたデータに基づく文章構造をモデル化するステップと、前記コア語の同義語を自動的に識別するステップと、前記モデル化された文章構造、第１のタグ付けされたデータ及び同義語を使用して、前記第１のタスクのための文法を創作するステップと、を有する、前記第１のタスクに関連付けられた文法を自動的に生成するためのコンピュータベースのシステム又は方法を含む。【選択図】図３
2009521718.tif 000002
【特許請求の範囲】
【請求項１】
第１のタスクに関連付けられた文法を自動的に生成するためのコンピュータベースの方法であって、
前記方法は、
分散データベースから受け付けた応答に基づく第１のタスクを示す第１のデータを受け付けるステップと、
第１のタグ付けされたデータを形成するために前記第１のデータに品詞を自動的にタグ付けするステップと、
前記第１のタグ付けされたデータから、繋ぎ語及びコア語を識別するステップと、
第１の組の規則を使用して前記第１のタグ付けされたデータに基づく文章構造を自動的にモデル化するステップと、
前記コア語の同義語を自動的に識別するステップと、
前記モデル化された文章構造、第１のタグ付けされたデータ及び前記同義語を使用して、前記第１のタスク毎に前記文法を自動的に創作するステップと、
を有する方法。
【請求項２】
前記第１のデータ内の語のスペリングを確認するステップを更に有する、
請求項１に記載の方法。
【請求項３】
前記文法は、
会話を認識するための統計的言語モデルと結合している、
請求項１に記載の方法。
【請求項４】
前記文法は、
会話を認識するために使用される、
請求項１に記載の方法。
【請求項５】
前記第１のデータは、
前記第１のタスクを実行するための要求を示している、
請求項１に記載の方法。
【請求項６】
前記第１のデータは、
インターネットを使用して受け付けられる、
請求項１に記載の方法。
【請求項７】
前記品詞は、
動詞及び名詞を含む、
請求項１に記載の方法。
【請求項８】
前記第１のデータは、
インターネットベースの分散知識キャプチャシステムを使用して受け付けられる、
請求項１に記載のシステム。
【請求項９】
前記インターネットベースの分散知識キャプチャシステムは、
オープンマインド屋内常識知識キャプチャシステムである、
請求項８に記載のシステム。
【請求項１０】
識別された繋ぎ語の同義語を識別するステップを更に有する、
請求項１に記載のシステム。
【請求項１１】
第１のタスクに関連付けられた文法を自動的に生成するためのコンピュータベースのシステムであって、
前記システムは、
分散データベースから受け付けた応答に基づく第１のタスクを示す第１のデータを受け付けるための受容手段と、
第１のタグ付けされたデータを形成するために前記第１のデータに品詞を自動的にタグ付けするためのタグ付け手段と、
前記第１のタグ付けされたデータから、繋ぎ語及びコア語を識別するための識別手段と、
第１の組の規則を使用して前記第１のタグ付けされたデータに基づく文章構造を自動的にモデル化するためのモデル化手段と、
前記コア語の同義語を自動的に識別するための同義語手段と、
前記モデル化された文章構造、第１のタグ付けされたデータ及び前記同義語を使用して、前記第１のタスク毎に前記文法を自動的に創作するための文法手段と、
を有するシステム。
【請求項１２】
前記第１のデータ内の語のスペリングを確認する確認手段を更に有する、
請求項１１に記載のシステム。
【請求項１３】
前記文法は、
会話を認識するための統計的言語モデルと結合している、
請求項１１に記載のシステム。
【請求項１４】
前記文法は、
会話を認識するために使用される、
請求項１１に記載のシステム。
【請求項１５】
前記第１のデータは、
前記第１のタスクを実行するための要求を示している、
請求項１１に記載のシステム。
【請求項１６】
前記第１のデータは、
インターネットを使用して受け付けられる、
請求項１１に記載のシステム。
【請求項１７】
前記品詞は、
動詞及び名詞を含む、
請求項１１に記載のシステム。
【請求項１８】
前記第１のデータは、
インターネットベースの分散知識キャプチャシステムを使用して受け付けられる、
請求項１１に記載のシステム。
【請求項１９】
前記インターネットベースの分散知識キャプチャシステムは、
オープンマインド屋内常識知識キャプチャシステムである、
請求項１８に記載のシステム。
【請求項２０】
識別された繋ぎ語の同義語を識別するための繋ぎ同義語手段を更に有する、
請求項１１に記載のシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
（関連する出願）
本出願は、２００５年１２月２２日に出願された米国特許仮出願第６０／７５３，６８９号、及び ２００６年１２月１３日に出願された米国特許出願第１１／６０９，６８３号を基礎とする優先権を主張し、これらの出願はその全体がここに引用される。
【０００２】
本発明は、文法生成の分野に関する。特に、分散知識データソースからの自動文法生成の分野に関する。
【背景技術】
【０００３】
人はロボットに何をしてもらいたいかについて、ロボットと意思疎通をしたいとしばしば思う。特定の命令に制約を受けるのでは都合が悪い。従って、自然な人間ロボット対話を支援する自由形式インタフェースが望ましい。
【０００４】
有限状態変換装置は、その状態遷移が入力ラベル及び出力ラベルの双方によってラベル付けされる有限オートマトンである。この変換装置を通るパスは、入力記号シーケンスから出力記号シーケンスへの写像を符号化する。文法とは、人が言うことを期待される一組の単語又は句、及びそれらの単語が結合されることを期待され得る又は期待されている方法を定義する構造である。
【０００５】
多様な句を認識し、高度の認識の正確さを達成する文法を開発することは挑戦である。一組の文法規則を手動で創作することは非常に退屈であり得る。多くの場合、手作りの文法規則によって得られた文法外率は高くなる。なぜならばカバー率が低いからである。
【０００６】
文法との対比では、統計言語モデル（Statistical Language Model：SLM）は単語のシーケンスに確率を割り当てる。ＳＬＭ確率は、特に文法外率が高い場合、自由形式音声の認識には適している。ＳＬＭ確率は、単語の結合確率を評価するために使用される一組の例から学習される。ＳＬＭ文法用の学習セットは、ユーザから収集されることがしばしばある。なぜならユーザは、特定のアプリケーションと対話するからである。徐々に、ＳＬＭ文法は統計的に有意な句を認識するように改良される。
【０００７】
従来のシステムは文法を手動的に定義するのが典型である。しかしながら、これは高価である。他の技術は、商業ベースの音声認識システムを使用する。このシステムはキーワード抽出に頼って発話語を認識し、意味的情報を使用して発話と知識表現との間の対応関係を抽出できる。このような技術は、音声理解と音声生成の両者に使用され得る。この一例として、Steedman,M.,Wide-coverage Semantic Representations from a CCG Parser,Proceedings of the 20th International Conference on Computational Linguistics(2004)があり、ここにその全体が引用される。
【０００８】
他の従来システムは、筆記された親子音声を使用し、コーパスから言語構造の教師なし学習を実行する。Solan,Z.,Horn,D.,Ruppin, E.,Edelman, S.,Unsupervised Context Sensitive Language Acquisition from a Large Corpus,http//adios.tau.ac.il
/papers/soletalb2003.pdf(2003)を参照されたい。この文献は、ここにその全体が引用される。この例においては、見えない文書におけるバリエーションに対して一般化するために、単語の有意なパターンが抽出され、ツリー図で表現されている。他のシステムでは、自然言語統語構造の教師なし学習のために生成確率モデルが使用される。しかしながら、このようなシステムは文脈自由文法(ＣＦＧ)を学習せずに、構成素識別と線形文脈に基づく分散モデルを生じさせる。
【０００９】
ある従来の文法生成システムは、ユーザテストに基づく“オズの魔法使い”から構造化された筆記を収集する。参加者は、指示語を話し、ウィザード（Microsoft NetMeeting toolを通じた実人物）は話された句を筆記内に取得し、要求された電子メール管理タスクを手動的に実行していた。文書構文解析とともに、参加者は文脈自由文法（ＣＦＧ）を生成していた。
このアプローチは、労働集約的な筆記収集を要求し、その範囲は数個のタスクのみに限定される。Sinha,A.K.,Landay,J.A.,Towards Automatic Speech Input Grammar Generation for Natural Language Interfaces,CHI2000 Workshop on Natural Language Interfaces, The Hague, The Netherlands(2000)を参照されたい。この文献は、ここにその全体が引用される。
【００１０】
他のシステムは、オンラインカタログを閲覧し品物の発注をすることを希望するユーザと対話するための、自動化されたカスタマーサービスエージェントを実装していた。
ある小さな発話見本のセット（数百個オーダーの文章や句）が、そのドメイン用のより厳密な文法を生成するために非常に寛容な文法と結合していた。このアプローチは、語彙エントリ間の意味的制限を課すために、語彙エントリのタグ付けや規則の手動記載を要求していた。このようなシステムは、Martin, P., The Casual Cashmere DiaperBag:Constraining Speech recognition Using Examples,Proceedings of the Association of Computational Lingustics.(1997)により詳細に記載されている。この文献は、ここにその全体が引用される。
【００１１】
文法を使用する自由形式認識アプローチの中には、オープンエンドな入力催促“どう致しましょうか？”に対する応答を分類するために、単語の代わりに一般的に使用されている句を認識することに基づいたシステムを使用するシステムもある。それらは、パープレキシティ（perplexity）極小化によって句を評価し選択し、類似度を使用して句をクラスタスクリングしていた。このようなシステムは、Riccardi, G.,Bangalore,S.,Automatic Acquisition of Phrase Grammars for Stochastic Language Modeling,6th Workshop on Very Large Corpora,Montreal(1998)186-198に記載されている。この文献は、ここにその全体が引用される。
【発明の開示】
【発明が解決しようとする課題】
【００１２】
必要とされているのは、文法創作プロセスを自動化するシステム及び方法であり、例えば、ウエブを通じてボランティアが提供したタスクラベルからテキストデータに対して発話を写像する、有限状態文法変換装置（ＦＳＧＴ）である。ウエブの多くのユーザが知識に提供することから、ロボットに対し特定のタスクを実行することを依頼する方法を完璧に考えている少数の人による提供よりも、高いカバー率を有することが望ましい。
【課題を解決するための手段】
【００１３】
（本発明の要約）
本発明は、以下のステップを含む第１のタスクに関連付けられた文法を自動的に生成するためのコンピュータベースのシステム又は方法を含む。
・分散ネットワークから受け付けた応答に基づく第１のタスクを示す第１のデータを受け付けるステップ
・第１のタグ付けされたデータを作成するために、第１のデータに品詞を自動的にタグ付けするステップ
・前記第１のタグ付けされたデータから繋ぎ語及びコア語を識別するステップ
・第１の組の規則を使用して前記第１のタグ付けされたデータに基づきセンテンス構造を自動的にモデル化するステップ
・前記コア語の同義語を自動的に識別するステップ
・前記モデル化されたセンテンス構造、第１のタグ付けされたデータ及び同義語を使用して第１のタスク毎に文法を自動的に創作するステップ。
【００１４】
本明細書に記載される特徴や効果は限定されたものではなく、特に、図面、明細書及び特許請求の範囲を見た当業者には多くの追加的特徴や効果が明らかになるであろう。さらに、本明細書で使用される用語は、主として読みやすさや教育目的から選択されており、本発明の主旨を限定するために選択されているのではない。
【発明を実施するための最良の形態】
【００１５】
（本発明の詳細な説明）
以降、本発明の好適な実施形態を、図面を参照しつつ説明する。同様の参照番号は同一の又は機能的に同様の要素を示している。また、各参照番号の最も左の数字は、その番号が最初に用いられた図の番号に対応している。
【００１６】
本明細書において、“ある実施形態”又は“１つの実施形態”と言う場合は、本発明の少なくとも１つの実施形態に、その実施形態に関連して記述される１つの特徴又は構造が含まれていることを意味する。本明細書のあちこちに“ある実施形態では”という語が出現しても、必ずしも同一の実施形態を指しているわけではない。
【００１７】
後記する詳細説明のいくつかの部分は、アルゴリズム用語や、コンピュータメモリ内のデータビット操作を示す象徴的な表現による。これらのアルゴリズム的な説明や表現は、情報処理分野の当業者が、自らの業績の要旨を、同分野の他の当業者に最も効率的に伝えるために用いる手段である。アルゴリズムとは、ここでは、そして一般的にも、ある所望の結果に至る複数のステップ（命令）の首尾一貫したシーケンスのことを言う。ステップとは、物理量に対する物理的操作を要求するステップのことである。通常それらの数値は、記憶され、転送され、合成され、比較されかつ操作され得る、電子的、磁気的又は光学的信号の形を取る。これらの信号のことを、ビット、値、要素、シンボル、文字、語又は番号等と呼ぶことが主として用語の共通化の理由から便宜である。さらに、物理量に対する物理的操作を要求するステップの配列のうちいくつかのものは、一般性を失うことなく、モジュール又はコードデバイスと呼ぶことが便宜である。
【００１８】
しかし、このような用語の全ては適当な物理量と関連付けられており、これらの物理量に付された単なる便宜的なラベルに過ぎない。後記において特段の説明がない限り、明細書本文全体を通じて、“処理”、“コンピューティング”、“計算”、“決定”又は“表示”等の用語を用いた説明は、（電子的な）物理量としてのデータを、コンピュータシステムのメモリ、レジスタ又は他の情報ストレージのなかで操作しかつ変形するコンピュータシステムや同様の電子的コンピューティングデバイスの動作や処理のことを言う。
【００１９】
本発明のいくつかの側面は、アルゴリズムの形になったプロセスステップや命令を含む。本発明のプロセスステップや命令は、ソフトウエア、ファームウエア又はハードウエアによって実施され、ソフトウエアで実施される場合は、ダウンロードされることが可能であり、多様なオペレーティングシステムが用いる別のプラットフォームから操作されることも可能である。
【００２０】
本発明は、操作を実行する装置にも関する。この装置は、所与の目的を達成する専用装置であってもよいし、コンピュータに記憶されたコンピュータプログラムによって動作する汎用コンピュータであってもよい。このようなコンピュータプログラムは、コンピュータが読取り可能な媒体に記憶され得る。その媒体とは、コンピュータシステムバスに接続可能な、フロッピーディスク、光ディスク、ＣＤ−ＲＯＭ、電磁光学的ディスク、ＲＯＭ、ＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、電磁的又は光学的カード、ＡＳＩＣ又は電子的命令を記憶し得るあらゆる媒体を含むが、これらに限定されない。さらに、本明細書で言うコンピュータは、単体のプロセッサを含んでもよいし、コンピュータ能力を増加させるために複数のプロセッサを用いた装置であってもよい。
【００２１】
ここでいうアルゴリズムやディスプレイは、もともと特定のコンピュータや他の装置に関係している訳ではない。ここで教示される内容に従って、プログラムとともに多様な一般目的システムが使用され得る。又は、必要とされる方法ステップを実行するためにさらに特化した装置を作成することも便宜である。これらのシステムのそれぞれについてどのような構成が必要となるかは、後記する明細書本文から明らかになる。
さらには、本発明は特定のプログラム言語を参照して記載されるものではない。本発明の教示を実行するために、多様なプログラム言語が使用され得る。後記する特定の言語に言及した場合、それは本発明の実施可能性及びベストモードを開示するためである。
【００２２】
さらに、本明細書で使用される言語は、主として読み易さ及び教育目的から選択されているのであって、本発明の主旨を限定するために選択されているのではない。従って、本発明の開示は、特許請求の範囲にて記述されている本発明の範囲を例示するものであるが限定するものではない。
【００２３】
図１は、本発明の一実施形態に係るコンピュータシステムである。コンピュータシステム１００は、入力装置１０２、主記憶装置１０４、中央制御装置１０６、及び出力装置１０８を有する。入力装置１０２は、ネットワーク１２０、データベース１３０及び画像キャプチャユニット１４０と接続されている。出力装置１０８は、データベース１５０、ネットワーク１６０及びディスプレイ１７０と接続されている。
ネットワーク１２０、１６０は同一であってもよい。データベース１３０、１５０は同一であってもよい。文法生成装置１１２及び２パス音声認識システム１１４は、主記憶装置１０４に含まれ、中央制御装置１０６によって実行され得る。他の実施形態においては、入力装置は、１又は２のネットワーク１２０及びデータベース１３０のみに対して接続されている。
さらに他の実施形態においては、入力装置は、データをコンピュータに入力するどのような装置に対しても接続され得る。同様に、他の実施形態においては、出力装置は、データベース１５０、ネットワーク１６０及びディスプレイ１７０のうちの１つ又は２つ又は出力データを受け付け可能な他の装置と接続され得る。他の実施形態においては、コンピュータシステムは、中央制御装置１０６又は他の特化された処理装置を有する。
【００２４】
常識は、オープンマインドイニシアティブに関連付けられている計画が収集されているのと同じ方法で、インターネットの非専門ユーザから収集されてもよい。オープンマインドイニシアティブは、Stork,D.G.,Open Data Collection for Training Intelligent Software in the Open Mind Initiative,Proceedings of the Engineering Intelligent Systems(EIS2000),Paisley,Scotland (2000)により詳しく記載されている。この文献は、ここにその全体が引用される。オープンマインドインドアコモンセンス（ＯＭＩＣＳ）は、ウエブユーザからの知識を関連データベーススキーマに取り込むために使用されるインターネットベースの分散知識キャプチャフレームワークである。
これは、Gupta,R.,Kochenderfer,M.,Common Sense Data Acquisition for Indoor Mobile Robots,Nineteenth National Conference on Artificial Intelligence(AAAI-04)(2004)により詳しく記載されている。この文献は、ここにその全体が引用される。この常識知識は、例えば穴埋め式フォーマットの質問に対するユーザの応答から取得される。ＯＭＩＣＳ計画の目的は、屋内家庭オフィス環境についての知識を取得して、共通の家庭／オフィスタスクについての理由付けに役立つ型式にすることである。ＯＭＩＣＳ計画は、家庭オフィス環境についての常識知識の数千に及ぶテキスト句を取得することに成功している。このアプローチに特徴的な点は、屋内家庭オフィス環境に領域を制限していることである。この制限があることで、知識ベースが統計プロセスのための密度を保つ。代替的な実施形態では、本発明は、別の環境及びタスクに適用され得る。
【００２５】
言い換えは、同じ情報を伝達する代替的な方法である。ある実施形態において、本発明は、ＯＭＩＣＳデータベースからの言い換えエントリを使用する。図２は、本発明のある実施形態で使用され得るＯＭＩＣＳシステムにおける言い換えオプションの一例である。図２には、解答候補付きの、言い換え動作オープンマインド入力催促が示されている。この例では、言い換え入力催促は、“誰かに服を洗濯して欲しいと依頼するには・・・・と言えば良い”という質問をしている。他の例は、“誰かにコーヒーを作って欲しいと依頼するには・・・・と言えば良い”である。
【００２６】
分散方法でユーザから収集したデータは、もともとノイズが多い。それは、完全に文脈から外れた応答と同様にスペリングミスをも含む。より一般的には、ユーザデータは、暗黙の関連付け、すなわち、文章中で何が問題となっているかという常識理解にしばしば頼っている。暗黙の関連付けの一例として“誰かにパスタを作って欲しいと依頼するには、お腹がすいたと言えば良い”がある。このような言い換えは漠然としているので、食品を温める、冷蔵庫から食品を取り出す、野菜を調理する、を含む広い範囲のタスクを暗示する。これらの暗黙の関連付けや他の低価値データは、ＯＭＩＣＳでは、あらゆる知識がデータベースに収容される前に行われる手作業の見直しによって典型的に除外される。
【００２７】
図３は、本発明の１つの実施形態に係る自動文法生成プロセスのフローチャートである。文法生成装置１１２は、あるＯＭＩＣＳデータベースにアクセスし、言い換えデータを読み出す。このとき、そのデータは、例えばWinterTreeスペリングチェックソフトウエアを使用してスペリングを修正するために、スペリングチェッカーに送られる３０２。
次に、データの品詞（ＰＯＳ）がタグが付けされ３０４、各句のコア語と繋ぎ語が識別される３０６。このとき、文法生成装置１１２は、文章構造を分類し３０８、これらの構造を使用して、例えば有限状態文法変換装置（ＦＳＧＴ）のような文法を生成する。例えばWordNet及び／又はシーソラスに由来する適当な同義語が識別される３１０。同義語に対するマッチを含む句が、繋ぎ部分やコア部分からなる階層的文法を生成するために使用される。これらのステップの詳細は後記する。
【００２８】
前記したように、言い換えデータを受け付け、そのスペリングをチェック３０２した後、文法チェッカー１１４は、データの品詞に対してタグ付けを行う３０４。データにタグ付けするために使用され得る構文解析の一例が、Brill,E.,A simple Rule-based Part-of-speech Tagger Proceedings of ANLP-92 3rd Conference on Applied Natural Language Processing, Trento,IT(1992)152-155に基づくLiu,H.,Montylingua:An end-to-end natural language processor with common sense, web.media.mit.edu/hugo/montylingua(2004)に記載されている。これら両者の文献は、ここにその全体が引用される。構文解析されたユーザリクエストの一例は以下の通りである。
【００２９】
Make/ＶＢ coffee/ＮＮ
【００３０】
ここで、ＶＢは動詞の表記法であり、ＮＮは名詞の表記法である。文法は、単語（要求されたタスク）を有する最も有意な情報を含むコア部分と、“して頂けませんか”“お願いします”のような追加的表現を含む繋ぎ部分から典型的に構成される。文法生成装置１１２は、規則を使用して、これらのコア語及び繋ぎ語を抽出する３０６。これらの規則の例として（１）Ｎ回（例えばＮ＝１０）以上発生するすべての単語を発見する（２）Ｎ回（例えばＮ＝１０）以上発生する最初の２単語を発見する（３）Ｎ回（例えばＮ＝１０）以上発生する最初の３単語を発見する、がある。これらの結果は、不正な繋ぎ語を取り除くために手動でスクリーンにかけられ得る。この結果リストを掃除する他の自動的な方法は、“please”以外の１単語の動詞をすべて取り除くことである。
【００３１】
ある実施形態においては、繋ぎ語は、ロボットが実行し得るすべてのタスクに亘って結合されるが、コア語は、タスク毎に分離して処理される。代替的な実施形態においては、繋ぎ語とコア語の双方が、タスク毎に分離して処理される。
【００３２】
ある実施形態において、文法生成装置１１２は、ＦＳＧＴの中にある繋ぎ語とコア語を結合するために、階層的文法を使用する。繋ぎ部分は、すべてのタスクに亘って再使用可能であり、高水準文法を使用して定義される。タスクに対応するコア語がサブ文法に追加される。このサブ文法は、高水準タスク文法に組み込まれている。
構文解析されたユーザリクエストの他の一例は以下の通りである。
【００３３】
Can/ＭＤ you/ＰＲＰ prepare/ＶＢ coffee/ＮＮ
【００３４】
この例では、ＭＤは助動詞、ＰＲＰは前置詞である。ここで、“can you”は繋ぎであり、“prepare coffee”はコアである。ロボット命令にとって興味のある短いユーザリクエスト句については、Brillのタグ付けは、回数比で約８５％が正しい。
【００３５】
ユーザリクエストは、命令文として大雑把に分類され得る。命令構造の文章は、動詞で始まり目的語を有しないことが多い。これらが命令と呼ばれるのは、これらが殆どいつも指示や忠告に使用されるからである。
【００３６】
本発明のある実施形態においては、文法生成装置１１２は、句が少なくとも１つの動詞と１つの名詞を有すると仮定している。文法生成装置１１２は、例えば、“turn on television”のような命令中の副詞修飾語はモデル化する３０８が、我々は、前置詞句（ＰＰ）はモデル化３０８しない。例えば、“put the dishes in the sink”という命令中の“in the sink”はモデル化されない。前置詞句は、正しい命令実行のために役に立つ追加情報を提供するが、命令認識とは関連が小さい。モデル化３０８の際、文法生成装置１１２は、別の文章構造中においてマッチングを行うための規則を使用する。例えば、構造を有する句：
【００３７】
ＶＰ→動詞  副詞  ＮＰ  と  ＶＰ→動詞  ＮＰ  副詞
【００３８】
とは、同じ品詞を有する単語が、２つの候補の句において同義語同士である（又は同一である）場合は、同値である。前記文法に適合するユーザリクエストの例は、“pick up object”“pick object up”である。ここで、ＶＰは動詞句を意味する。
【００３９】
これらの規則は、ＰＯＳ３−グラムの度数分析によってデータから引き出され得る、そして自動化され得る。
【００４０】
一般的には、２人があるよく知られた１つの客体に対して同じ名前を選択する確率は回数比で２０％以下である。従って、システム語彙を独立的にするためには同義語を使用することが有利である。文法生成装置１１２は、同義語を識別する３１０ために、WordNetやシーソラスのような語彙資源を使用する。Ｓ→ＶＢ  ＮＮの文章構造については、ユーザリクエストの例は以下の通りである。
【００４１】
Make/ＶＢ coffee/ＮＮ
【００４２】
リクエスト中の動詞は“make”であり、名詞は“coffee”である。ある実施形態において、すべての言い換えのうちから、我々は、動詞と名詞の双方がWordNet／シーソラス同義語リストとマッチンッグする例を選択している３１０。代替的な実施形態では、別の判断基準も使用され得る。
【００４３】
名詞句については、同義語をマッチングする別の方法がある。ある実施形態では、文法生成装置１１２は、ＮＰ（名詞句）中の名詞と、WordNet及びシーソラス同義語リストとの間の、一般特殊（general-to-specific）マッチングを受け入れる。例えば、“coffee”は、“black coffee”及び“cup of coffee”とマッチングする。
【００４４】
文法生成装置１１２は、このとき、言い換えに基づくタスク毎に文法を生成する３１２。どのようにこれがなされるかについての一例が、表１に示されるように、ＯＭＩＣＳデータベース中の“make coffee”というユーザリクエスト（タスク）に対する、同データベース中の１０の言い換え例を使用して以下に説明されている。
【表１】
2009521718.tif 000003
【００４５】
ある実施形態においては、文法生成装置１１２は、タスクに基づいた初期文法を生成する。例えば、“make coffee”のための文法は、式（１）に示される文法であり得る。そこでは、“FILLER”は、前記したように、言い換えエントリ中に発見されるすべての繋ぎ語の統計的分析によって発見された繋ぎ語のリストである。それは、“please”や“can you”等の句からなる。
“[  ]”は、ＯＲ節を示す。“（  ）”は、ＡＮＤ節を示す。“？”は、発話中に存在するかもしれない又は存在しないかもしれない選択語を示す。他の実施形態においては、言い換え１０にある“I’d like to”のような繋ぎは、文法を生成するためにタグ付けされた言い換えを使用する前に識別され取り除かれる。
【００４６】
？FILLER[make][coffee]                                              （１）
【００４７】
文法生成装置１１２は、このとき、第１の言い換えを分析し、このタスクのための文法を、式（２）に示される文法に修正する。
【００４８】
？FILLER[make][coffee]                                              （２）
【００４９】
これは、表１の言い換え１に基づく文法に対する変更とはなっていない。この実施形態では、選択繋ぎ語が既に初期文法の一部になっているからである。
【００５０】
文法生成装置１１２は、このとき、第２の言い換えを分析し、このタスクのための文法を、式（３）に示される文法に修正する。
【００５１】
？FILLER[make][coffee java]                                          （３）
【００５２】
文法生成装置１１２は、“java”を“coffee”に対する同義語として識別して３１２、文法を修正した。
【００５３】
文法生成装置１１２は、このとき、第３の言い換えを分析し、このタスクのための文法を、式（４）に示される文法に修正する。
【００５４】
？FILLER[make prepare][coffee java]                                  （４）
【００５５】
文法生成装置１１２は、“prepare”を“make”に対する同義語として識別して３１２、文法を修正した。
【００５６】
文法生成装置１１２は、このとき、第４の言い換えを分析し、このタスクのための文法を、式（５）に示される文法に修正する。
【００５７】
？FILLER[fix make prepare]？（me a）[（cup of coffee）coffee java]    （５）
【００５８】
文法生成装置１１２は、“fix”を“make”に対する同義語として識別して３１２、文法を、選択句“me a”を含むように修正した。
【００５９】
文法生成装置１１２は、このとき、第５の言い換えを分析し、このタスクのための文法を、式（６）に示される文法に修正する。
【００６０】
？FILLER[fix make prepare]？a ？（me a）[（cup of coffee）coffee java]  （６）
【００６１】
文法生成装置１１２は、文法を、選択句“a”を含むように修正した。
【００６２】
文法生成装置１１２は、このとき、第６の言い換えを分析する。しかしながら、この例では、“need”という単語は誤って名詞としてタグ付けされているので、この言い換えはタグ付けされた動詞を有さず、文法を修正するために使用されることはない。
文法生成装置１１２は、このとき、第７の言い換えを分析する。この例では、“joe”という単語はcoffeeに対する同義語として識別されず、従って、この言い換えは、文法の生成に使用されることはない。
同様に言い換え８、９、１０は文法を生成するために使用されることはない。なぜならば、この例では、“brew”、“bring”及び“have”という単語は、“make”に対する同義語ではないからである。
【００６３】
従って、この例では、表１の言い換えに基づく“make coffee”のための文法規則は、式（７）に示される。
【００６４】
（？FILLER[fix prepare make]？a ？（me a）[java coffee（cup of coffee）]）return “make coffee”                                                  （７）
【００６５】
文法からリターンされたスロット値“make coffee”は、要求されたタスクを示している。
【００６６】
代替的な例では、残存タスク中のデータを使用すること及び現行のWordNet/シーソラスには存在しない、例えば前記例の“brew”のような同義語を許容することによって、使用され得る言い換えの数は増加し得る。
【００６７】
前記技術の利点は、それが拡張可能であること、及び、文法生成装置１１２がＦＳＧＴを生成するために多くの句を取り扱うことができることである。
【００６８】
本発明のある実施形態においては、文法生成装置１１２は、他のシステムから独立して使用され得る。しかし、文法生成装置は、他の技術とともに使用することもできる。例えば、他の実施形態では、他の文法モデルがＯＭＩＣＳ言い換え命令文によって学習され得る。
１つの例として、ｎ−グラム統計言語モデル（ＳＬＭ）として言及されている確率有限状態文法（ＰＦＳＧ）がある。３−グラムＳＬＭは、ＯＭＩＣＳデータベースに含まれる言い換えデータのコーパスから学習される。ＳＬＭモデルは、文法中の異なる単語の頻度を取得する。
【００６９】
音声認識のための２パス方法を使用する本発明の実施形態においては、スロット割り当てを通じて要求されたタスクを発見するためにＦＳＧＴを使用して、ＳＬＭの認識されたテキストが第１に処理される。
発話が認識されない場合は、例えば前記したＰＯＳタッガーのようなＰＯＳ音声タッガーが、キーワードの文法外認識のために使用される。ＦＳＧＴ及びＳＬＭ文法は、それぞれ単独では、発話を背景ノイズや音声及び文法の変化に対してマッチングさせないかも知れない。しかし、２パスシステムの２つのアプローチを組み合わせれば一般的には正確さが向上する。これにはいくつかの理由がある。
【００７０】
統計的ｎ−グラムモデルは、ある方法によれば、ＦＳＧＴモデルよりもパフォーマンスはよいとされている。ＦＳＧＴモデルが認識され得る単語の結合可能性に関して非常に厳格であるのに対し、ＳＬＭモデルはそれ程制限的ではない。発話者によってはＦＳＧＴが困難を有するのは、それが制限的すぎるからである。他方、統計的ｎ−グラムモデルの困難は、発声と同じように聞こえる句があまりに多く選択されることである。しかしながら、この２つのモデルを結合すると、統計的ｎ−グラムモデルが句候補を抽出し、ＦＳＧＴが無意味かつ非文法的な句を除いたうえで正しいマッチへ導く。
【００７１】
図４は、本発明のある実施形態に係る音声認識のための２パス方法のフローチャートである。
２パス音声認識システム１１４は、文法生成装置１１２を参照して前記したように、ＦＳＧＴアプローチを使用してタスクを認識することを試みる４０２。
ＦＧＳＴがマッチングされた場合は４０４、対応するタスク割り当て及び認識されたテキストがリターンされる４１４。
発話に正確にマッチングするものがない場合は、あるＳＬＭモデルが、マッチング語句の候補を生成しランク付けするために第２のパスで使用される。ある実施形態では、認識のための閾値が低く設定され、文法外の発話も取得する。
“Ｎ”個にランク付けされた抽出された語句は、ＦＳＧＴ（文法生成装置１１２）のタグ付けＰＯＳポーションに送られる４０８。ある実施形態においては、ランク付けされたマッチは、最良のマッチである順に、繰り返し選択される。
すべての単語に対するマッチが１つ発見された場合４１０、タスク割り当て及び認識テキストがリターンされる４１４。
すべての単語に対するマッチが発見されない場合４１０、最も近いマッチが識別され４１２、最も近いマッチに基づいたタスク及び認識テキストがリターンされる４１４。
最も近いマッチは様々な方法で識別され得る。例えば、マッチは、キーワード（動詞と名詞）、信頼数、及び最も可能性の高い句中の表現を含む複数の判断基準に基づき識別され得る。
【００７２】
実験においては、第１のパスについて、閾値がＦＳＧＴモデルに対して高く（６０％）設定された。８５％の句について、正しいタスクリクエストが取得され、認識発生時にスロット割り当ては高い正確さを有している。
スロットがリターンされない場合、ＳＬＭモデルによってリターンされたＮ個の最も高くランク付けされたテキスト句が見直される。この実験では、多くの仮定を生成するために、音声認識プロセスの第２のパスについて、信頼閾値は低く（２０％）設定された。これらの低閾値仮定がＦＳＧＴにマッチングすることは滅多にないが、文法外音声のマッチングにとって有益である。
【００７３】
２パス法は、ＦＧＳＴ単独では８５％（３．４％はタグ付け時のエラー）であるのに比して、我々に９６％の認識率を与える。この２パス法は、ＳＬＭ文法が文法内句を認識するパフォーマンスを向上させるために選択的に使用され得る。２パスアプローチが高パフォーマンスである理由の一部は、無意味な命令文を除外するためにＳＬＭ仮定生成装置からの句候補にＦＳＧＴモデルを通過させることによって導入された、受容判断基準にある。
【００７４】
本発明の特定の実施形態や適用がここでは例示されているが、本発明は、ここで開示された詳細構成に限定されることはなく、特許請求の範囲に規定された本発明の主旨を逸脱することなく本発明の方法及び装置の配置、操作及び詳細に修正や変更を加えることが可能である。
【図面の簡単な説明】
【００７５】
【図１】本発明の１つの実施形態に係るコンピュータシステムである。
【図２】本発明の１つの実施形態で使用され得るオープンマインド屋内常識システムにおける言い換えオプションの一例である。
【図３】本発明の１つの実施形態に係る自動文法生成プロセスのフローチャートである。
【図４】本発明の１つの実施形態に係る音声認識のための２パス方法のフローチャートである。
【図１】
2009521718.tif 000004
【図２】
2009521718.tif 000005
【図３】
2009521718.tif 000006
【図４】
2009521718.tif 000007
【国際調査報告】
2009521718.tif 000008