(57)【要約】【課題】ある基準フレームに対するターゲットデータセットの性質を客観的に示す方法を提供する。【解決手段】コーパスＴ３（２０）の定量化尺度を定める方法は、２個の基準コーパスＴ１（２２）及びＴ２（２４）を選択するステップと、クロスエントロピーＨを用いて式（１）及び（２）を計算するステップと、コーパスＴ１及びＴ２に対するコーパスＴ３の定量化尺度（Ｉ（Ｔ３））を、式（３）で表される関数として決定するステップとを含む。【数１】2006039742.tif 000012【選択図】      図１ 
2006039742.tif 000002
【特許請求の範囲】
【請求項１】
ターゲットデータセットの定量的尺度を定める方法であって、
第一のデータセットと第二のデータセットとを含む２個の基準データセットを選択するステップと、
前記第一のデータセットを基準とした前記ターゲットデータセットの類似度を、前記第一のデータセットを基準とした前記第二のデータセットの類似度と比較した第一の比を決定するステップと、
前記第二のデータセットを基準とした前記ターゲットデータセットの類似度を、前記第一のデータセットを基準とした前記第一のデータセットの類似度と比較した第二の比を決定するステップと、
前記第一の比と前記第二の比との予め定められた関数として、前記基準データセットを基準とするターゲットデータの定量的尺度を決定するステップとを含む、ターゲットデータセットの定量的尺度を定める方法。
【請求項２】
前記第一の比を決定するステップが、
各基準データセットについて言語モデルをトレーニングするステップと、
前記第一の基準データセットの言語モデルに対する前記第一の基準データセットの第一のクロスエントロピーを計算するステップと、
前記第一の基準データセットの言語モデルに対する前記第二の基準データセットの第二のクロスエントロピーを計算するステップと、
前記第一の基準データセットの言語モデルに対する前記ターゲットデータセットの第三のクロスエントロピーを計算するステップと、
前記第一の比を、前記第一のクロスエントロピー、前記第二のクロスエントロピー、及び前記第三のクロスエントロピーの関数として決定するステップとを含む、請求項１に記載の方法。
【請求項３】
前記第一の比を決定するステップは、前記第三のクロスエントロピーと前記第一のクロスエントロピーとの差を、前記第二のクロスエントロピーと前記第一のクロスエントロピーとの差で除するステップを含む、請求項２に記載の方法。
【請求項４】
前記第二の比を決定するステップは、
前記第二の基準データセットの言語モデルに対する前記第二の基準データセットの第四のクロスエントロピーを計算するステップと、
前記第二の基準データセットの言語モデルに対する前記第一の基準データセットの第五のクロスエントロピーを計算するステップと、
前記第二の基準データセットの言語モデルに対するターゲットデータセットの第六のクロスエントロピーを計算するステップと、
前記第二の比を、前記第四のクロスエントロピー、前記第五のクロスエントロピー、及び前記第六のクロスエントロピーの関数として決定するステップとを含む、請求項３に記載の方法。
【請求項５】
前記第二の比を決定するステップは、前記第六のクロスエントロピーと前記第四のクロスエントロピーとの差を、前記第五のクロスエントロピーと前記第四のクロスエントロピーとの差で除するステップを含む、請求項４に記載の方法。
【請求項６】
前記定量的尺度を決定するステップは、前記第一の比を前記第一の比と前記第二の比との和で除するステップを含む、請求項５に記載の方法。
【請求項７】
前記トレーニングするステップは、各基準データセットについてＮグラム文字モデルをトレーニングするステップを含む、請求項２に記載の方法。
【請求項８】
前記ターゲットデータセットは、予め定められた言語のコーパスである、請求項１〜請求項７のいずれかに記載の方法。
【請求項９】
コンピュータ上で実行されると、コンピュータに請求項１〜請求項８のいずれかの全てのステップを行なわせる、コンピュータプログラム。
【請求項１０】
請求項９に記載のコンピュータプログラムによりプログラムされたコンピュータ。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明はデータセットの特徴付けに関し、特に、コーパス等のデータセットを理解し、定量化し、比較するのに用いられるツールに関する。
【背景技術】
【０００２】
コーパス言語学においても、また自動翻訳においても、単言語及び多言語コーパスは有用なツールであるばかりでなく、この分野の鍵となる要素でもある。この分野の研究者には、通例、分析または機械翻訳のツールとして用いる広範なコーパスが提供される。日々更なるコーパスが利用可能となっているが、それらの性質をはっきりと理解するのはより困難になってきている。
【０００３】
このようなコーパスの特徴付けに関してはほとんど研究成果が発表されておらず、意味のある比較をしようとして、危険な、主観的作業に陥ってしまうことがしばしばである。通常、あるコーパスが「とても口語的」であるとか、別のコーパスは「より書き言葉に近い」というが、このような印象による見解は、システムがどのように動作するか、そしてその具体的特徴をどのようにして別のものに変えるかを模索する者にとっては、さして益はない。
【０００４】
非特許文献１はコーパスの類似性と均質性とを調査し、これらに対する適切な尺度を見出す必要性を指摘している。このような尺度なしでは、ある知見の妥当性を論じたり、それらを別のドメインに移したりすることは困難である。非特許文献１は続いて、単語のパープレキシティとクロスエントロピー、単語頻度尺度、及びΧ2−テストを用いて、「既知の類似コーパス」（Ｋｎｏｗｎ  Ｓｉｍｉｌａｒｉｔｙ  Ｃｏｒｐｏｒａ：ＫＳＣ）を比較しているが、このやり方が最も効率的であることを見出している。
【非特許文献１】アダム  キルガリフ及びトニー  ローズ、「コーパスの類似性及び均質性の尺度」自然言語処理における経験的方法に関する第三回カンファレンス予稿集、グラナダ、スペイン、第４６−５２頁、１９９８年。（Adam  Kilgarriff  and  Tony  Rose,  "Measures  for  corpus  similarity  and  homogeneity",  Proceedings  of  the  3rd  conference  on  Empirical  Methods  in  Natural  Language  Processing,  Granada,  Spain,  pp.46-52,  1998.）
【非特許文献２】ダグラス  バイバー、「話言葉と書き言葉との変動」ケンブリッジ大学出版局、１９８８年。（Douglas  Biber,  "Variation  across  speech  and  writing",  Cambridge  University  Press,  1988.）
【非特許文献３】ダグラス  バイバー、「レジスタ変動におけるディメンジョン」ケンブリッジ大学出版局、１９９５年。（Douglas  Biber,  "Dimensions  in  Register  Variation",  Cambridge   University  Press,  1995.）
【非特許文献４】ウィリアム  Ｊ．ティーハン及びジョン  Ｇ．クリーリー、「自然言語処理への圧縮の適用」、１９９７年ＡＮＬＰ’９７に寄稿。（William  J.  Teahan  and  John  G.  Cleary,  "Applying  compression  to  natural  language  processing",  Submitted  to  ANLP’97,  1997.）
【非特許文献５】テッド  ダニング、「言語の統計的特定」ＣＲＬニューメキシコ州立大学、１９９４年。（Ted  Dunning,  "Statistical  identification  of  language",  CRL  New  Mexico  State  University,  1994.）
【非特許文献６】ユージーン  チャルニアック、「統計的言語学習」ＭＩＴプレス、１９９３年。（Eugene  Charniak,  "Statistical  Language  Learning",  MIT  Press,  1993.）
【発明の開示】
【発明が解決しようとする課題】
【０００５】
この尺度はどのコーパスがどのコーパスと類似しているかの情報は与えるが、幾つかのコーパスを類似度に応じてランク付けしてはいない。すなわち、コーパス間の類似度の「距離」については不明のままである。２個のコーパスがどのように互いに関連しているのか、といった疑問にはこれまで何ら解答が与えられていない。加えて、ターゲットデータセットの性質を明瞭に示す、コーパス等のデータを定量化する尺度を定める方法が求められている。
【０００６】
従って、この発明の目的の一つは、ある特定の基準フレームに対して、予め定められた言語のコーパス等のターゲットデータセットの性質を客観的に示す方法を提供することである。
【０００７】
この発明の別の目的は、必要に応じて、特定の基準に対するターゲットデータセットの性質を客観的に示す方法を提供することである。
【課題を解決するための手段】
【０００８】
この発明の一局面に従ったターゲットデータセットの定量的尺度を定める方法は、第一のデータセットと第二のデータセットとを含む２個の基準データセットを選択するステップと、第一のデータセットを基準としたターゲットデータセットの類似度を、第一のデータセットを基準とした第二のデータセットの類似度と比較した第一の比を決定するステップと、第二のデータセットを基準としたターゲットデータセットの類似度を、第一のデータセットを基準とした第一のデータセットの類似度と比較した第二の比を決定するステップと、第一の比と第二の比との予め定められた関数として、基準データセットを基準とするターゲットデータの定量的尺度を決定するステップとを含む。
【０００９】
まず、基準データセットとして２個の基準データセットが選択される。その後、第一の比と第二の比とが計算され、基準データセットの他方と比較した、基準データセットの各々に対するターゲットデータセットの類似度が結果として得られる。最後に、第一の比と第二の比との関数として、定量的尺度が決定される。第一の比と第二の比とは第一の基準データセット及び第二の基準データセットによって決定され、更に予め定められた関数によって組合されるため、ターゲットデータセットの定量的尺度は、ターゲットデータセットのいずれかの基準データセットからの位置を客観的に示す。
【００１０】
好ましくは、第一の比を決定するステップは、各基準データセットに対する言語モデルをトレーニングするステップと、第一の基準データセットの言語モデルに対する第一の基準データセットの第一のクロスエントロピーを計算するステップと、第一の基準データセットの言語モデルに対する第二の基準データセットの第二のクロスエントロピーを計算するステップと、第一の基準データセットの言語モデルに対するターゲットデータセットの第三のクロスエントロピーを計算するステップと、第一の比を、第一のクロスエントロピー、第二のクロスエントロピー、及び第三のクロスエントロピーの関数として決定するステップと、を含む。
【００１１】
更に好ましくは、第一の比を決定するステップは、第三のクロスエントロピーと第一のクロスエントロピーとの差を、第二のクロスエントロピーと第一のクロスエントロピーとの差で除するステップを含む。
【００１２】
更に好ましくは、第二の比を決定するステップは、第二の基準データセットの言語モデルについて、第二の基準データセットの第四のクロスエントロピーを計算するステップと、第二の基準データセットの言語モデルについて、第一の基準データセットの第五のクロスエントロピーを計算するステップと、第二の基準データセットの言語モデルについて、ターゲットデータセットの第六のクロスエントロピーを計算するステップと、第二の比を、第四のクロスエントロピー、第五のクロスエントロピー、及び第六のクロスエントロピーの関数として決定するステップとを含む。
【００１３】
第二の比を決定するステップは、第六のクロスエントロピーと第四のクロスエントロピーとの差を、第五のクロスエントロピーと第四のクロスエントロピーとの差で除するステップを含んでもよい。
【００１４】
好ましくは、定量的尺度を決定するステップは、第一の比を第一の比と第二の比との和で除するステップを含む。
【００１５】
より好ましくは、トレーニングするステップは、各基準データセットについてＮグラム文字モデルをトレーニングするステップを含む。
【００１６】
更に好ましくは、ターゲットデータセットは、予め定められた言語のコーパスである。
【００１７】
この発明の別の局面に従えば、コンピュータプログラムは、コンピュータ上で実行されると、コンピュータに上述の方法の全てのステップを行なわせる。
【００１８】
この発明の更に別の局面に従えば、コンピュータは上述のコンピュータプログラムでプログラムされる。
【発明を実施するための最良の形態】
【００１９】
１．はじめに
次の質問に答える方がより容易であろう。２個の基準コーパス間にスケールを規定したとして、このコーパスはその間のどこに当てはまるか？この実施例ではまずこの質問を提示し、次に、２個の基準コーパスを選択し、これら２個の基準コーパス間の類似度のスケールを規定し、この上にいずれかの所与の第三のコーパスの類似度係数を割当てることができるようにして、この質問に対する解答を与える。こうして、２個の基準コーパス間に、定量的尺度を定めることができる。
【００２０】
非特許文献２及び３はテキストサンプルの言語学的特徴を計数することで７次元の組を特定し、どのテキストもいずれの次元でもスコアを与えられることを示している。この実施例では、類似度のスケールを規定するために、情報理論と共にこの特性を利用する。
【００２１】
以下の実施例は特に、あるコーパスの「文語らしさ」（及びそれと逆の「口語らしさ」）の定量化に適用できる。以下の説明では、まずコーパスの類似度という概念を検討し、その後、統計的Ｎグラム文字モデルを用いた情報理論に基づいた類似度の尺度を提案する。この実施例の枠組みを、その後、幾つかの利用可能なコーパスの文語らしさを定量化する具体例で評価する。
【００２２】
２．類似度の定量化
２．１  Ｎグラムクロスエントロピー
文字のＮグラムによるクロスエントロピーを考える。非特許文献５は言語特定のための文字によるモデルに興味を示している。非特許文献５では、良好な結果を得るために必要とされるトレーニングセットとテストセットとがごくわずかであって、５０Ｋのトレーニングバイトと５００バイトのテストテキストとによって９９．９％の正確さで英語をスペイン語から特定できたことが示される。非特許文献５は更に、テストデータが長くなれば分類精度が更に改善することを示している。
【００２３】
【数１】
2006039742.tif 000003
Ｑ個の文からなり、文ｓｉ＝｛ｃ1ｉ…ｃＱｓｉｉ｝がＱｓｉ個の文字からなるようなテストコーパスＴ＝｛ｓ1,…,ｓＱ｝に対するＮグラムモデルｐ（Ｎ個の履歴..ｉ番目の文字）でのクロスエントロピーＨ（ｐ）はこの式で与えられる。ただしｐｉ＝ｐ（ｃｊｉ｜ｃｊ−Ｎ＋1ｉ..ｃｉ−1ｉ）である。この実施例の繰返し方法はトレーニング用コーパスを用いていくつかのＮグラム文字モデルを構築し、その後これらの言語モデルを用いてテストコーパスをエンコードするのに必要な文字ごとのビット数（ｂｉｔ  ｐｅｒ  ｃｈａｒａｃｔｅｒ：ｂｐｃ）によるクロスエントロピーを推定する。
【００２４】
２．２  類似度のインデックス
図１を参照して、この実施例では２個のコーパスＴ1（２２）とＴ2（２４）との間に類似度のスケール２６を規定し、この上に第三の所与のコーパスＴ3（２０）をランク付けする。これは、ユーザに基準として用いようとする２個のコーパスＴ1及びＴ2を選択させ、これらをトレーニングセットとして用いてＮグラム文字モデルを計算することによって行なわれる。その後、第三の、ターゲットテストセットＴ3に対するこれらのクロスエントロピーが推定される。これをそれぞれＨT1（Ｔ3）及びＨT2（Ｔ3）とする。更に、各モデルの各基準のクロスエントロピーを他方のそれに従って推定する。すなわちＨT1（Ｔ2）及びＨT1（Ｔ1）、ＨT2（Ｔ1）及びＨT2（Ｔ2）を求め、それによって以下の式に従って基準Ｔ1及びＴ2の重みＷ1及びＷ2を得た。
【００２５】
【数２】
2006039742.tif 000004
その後Ｗ1及びＷ2を基準コーパス間の重心の重みと仮定する。従って、基準１（コーパスＴ1）と基準２（コーパスＴ2）との類似度係数は以下のように規定される。
【００２６】
【数３】
2006039742.tif 000005
従って、何らかの所与のコーパスＴ3にはＩ（Ｔ1）＝０とＩ（Ｔ2）＝１との間のスコアＩ（Ｔ3）が与えられる。
【００２７】
ある意味では、重みＷ1は、コーパスＴ1を基準としたコーパスＴ3の類似度を、コーパスＴ1を基準としたコーパスＴ2の類似度と比較して得た第一の比と解釈することができる。同様に、重みＷ2は、コーパスＴ2を基準としたコーパスＴ3の類似度を、コーパスＴ2を基準としたコーパスＴ1の類似度と比較して得た第二の比と解釈することができる。とすれば、類似度係数Ｉ（Ｔ3）は、重みＷ1及びＷ2の式（４）で規定される関数として決定される、コーパスＴ1及びＴ2を基準としたターゲットコーパスの定量的尺度である。
【００２８】
図１において、点線はコーパスがどこで同じ類似度係数を有するかを示している。例えば、線２８はコーパスが値「０．５」の同じ類似度係数を有する場所を示している。
【００２９】
３．構造
図２は、基準として選ばれた２個のコーパスＴ1及びＴ2を基準としてコーパスＴ3のスコアを計算する装置４０の全体構造を示す図である。
【００３０】
装置４０は、コーパスＴ1、Ｔ2及びＴ3をそれぞれ記憶するための記憶装置５０、５２及び５４と、コーパスＴ1及びＴ2にそれぞれ基づいてＮグラム言語モデルＬＭ1及びＬＭ2を構築するための言語モデル（ｌａｎｇｕｇａｇｅ  ｍｏｄｅｌ：ＬＭ）構築モジュール５６と、ＬＭ1及びＬＭ2をそれぞれ記憶するための記憶装置５８及び６０とを含む。
【００３１】
装置４０は更に、記憶装置５８及び６０にそれぞれ記憶されたＬＭ1及びＬＭ2と、記憶装置５０、５２及び５４にそれぞれ記憶されたコーパスＴ1、Ｔ2及びＴ3とのそれぞれの組合せのクロスエントロピーＨT1（Ｔ1）、ＨT1（Ｔ2）、ＨT2（Ｔ1）、ＨT2（Ｔ2）、ＨT1（Ｔ3）、及びＨT2（Ｔ3）を計算するクロスエントロピー計算モジュール６２と、クロスエントロピーを用いて、基準コーパスＴ1及びＴ2間に規定されたスケールに対してコーパスＴ3のスコアＩ（Ｔ3）７０を計算するスコアリングモジュール６４とを含む。
【００３２】
ＬＭ構築モジュール５６は、コーパスＴ1からＬＭ1を構築する第一のＬＭ構築部８０と、コーパスＴ2からＬＭ2を構築する第二のＬＭ構築部８２とを含む。ＬＭ構築部８０及び８２を同じソフトウェアで実現し、その入力を記憶装置５０と５２との間で切換えてもよい。
【００３３】
クロスエントロピー計算モジュール６２は、それぞれクロスエントロピーＨT1（Ｔ1）、ＨT1（Ｔ2）、ＨT2（Ｔ1）、ＨT2（Ｔ2）、ＨT1（Ｔ3）、及びＨT2（Ｔ3）を計算するクロスエントロピー計算部９０、９２、９４、９６、９８及び１００を含む。クロスエントロピー計算部９０は２個の入力がそれぞれ記憶装置５０からコーパスＴ1の文を受取り、記憶装置５８から言語モデルＬＭ1を受取るように接続され、クロスエントロピーＨT1（Ｔ1）を計算する。クロスエントロピー計算部９２は２個の入力がそれぞれ記憶装置５２からコーパスＴ2の文を受取り、記憶装置５８から言語モデルＬＭ1を受取るように接続され、クロスエントロピーＨT1（Ｔ2）を計算する。クロスエントロピー計算部９４は２個の入力がそれぞれ記憶装置５０からコーパスＴ1の文を受取り、記憶装置６０から言語モデルＬＭ2を受取るように接続され、クロスエントロピーＨT2（Ｔ1）を計算する。クロスエントロピー計算部９６は２個の入力がそれぞれ記憶装置５２からコーパスＴ2の文を受取り、記憶装置６０から言語モデルＬＭ2を受取るように接続され、クロスエントロピーＨT2（Ｔ2）を計算する。
【００３４】
クロスエントロピー計算部９８は２個の入力がそれぞれ記憶装置５４からコーパスＴ3の文を受取り、記憶装置５８から言語モデルＬＭ1を受取るように接続され、クロスエントロピーＨT1（Ｔ3）を計算する。クロスエントロピー計算部１００は２個の入力がそれぞれ記憶装置５４からコーパスＴ3の文を受取り、記憶装置６０から言語モデルＬＭ2を受取るように接続され、クロスエントロピーＨT2（Ｔ3）を計算する。ここでもまた、計算部９０、９２、９４、９６、９８及び１００を同じソフトウェアで実現し、（コーパス文のための）一方入力を記憶装置５０、５２及び５４間で切換え、（言語モデルのための）他方入力を記憶装置５８及び６０間で切換えてもよい。
【００３５】
スコアリングモジュール６４は計算部９０、９２、９８からそれぞれクロスエントロピーＨT1（Ｔ1）、ＨT1（Ｔ2）及びＨT1（Ｔ3）を受取って以下の式に従って重みＷ1を計算するための第一の重み計算部１１０と、
【００３６】
【数４】
2006039742.tif 000006
計算部９４、９６、１００からそれぞれクロスエントロピーＨT2（Ｔ1）、ＨT2（Ｔ2）及びＨT2（Ｔ3）を受取って以下の式に従って重みＷ2を計算するための第二の重み計算部１１２と、
【００３７】
【数５】
2006039742.tif 000007
計算部１１０及び１１２からそれぞれ重みＷ1及びＷ2を受取って以下の式に従って基準１（コーパスＴ1）及び基準２（コーパスＴ2）間のコーパスＴ3の類似度係数を計算するための類似度係数計算部１１４とを含む。
【００３８】
【数６】
2006039742.tif 000008
４．動作
上述の装置４０の動作は以下の通りである。はじめに、ユーザは特に関心のあるところに従って、性質が反対だと考えられる２個のコーパスＴ1及びＴ2を選択する。コーパスＴ1及びＴ2はそれぞれ記憶装置５０及び５２に記憶される。
【００３９】
次に、ＬＭ構築部８０がコーパス５０の言語モデル（ＬＭ1）を構築する。ＬＭ1は記憶装置５８に記憶される。ＬＭ構築部８２がコーパス５２の言語モデル（ＬＭ2）を構築する。ＬＭ2は記憶装置６０に記憶される。
【００４０】
クロスエントロピー計算部９０は記憶装置５０からコーパスＴ1中の文を受取り、記憶装置５８からＬＭ1を受取って、ＬＭ1に対するコーパスＴ1のクロスエントロピー、すなわちＨT1（Ｔ1）を計算する。同様に、計算部９２、９４及び９６はクロスエントロピーＨT1（Ｔ2）、ＨT2（Ｔ1）及びＨT2（Ｔ2）をそれぞれ計算する。
【００４１】
クロスエントロピーＨT1（Ｔ1）、ＨT1（Ｔ2）、ＨT2（Ｔ1）及びＨT2（Ｔ2）の計算ができたので、装置４０はこれでいかなるコーパスも定量化する準備が整った。その性質を理解すべきコーパスＴ3は記憶装置５４に記憶される。クロスエントロピーＨT1（Ｔ1）及びＨT1（Ｔ2）が第一の重み計算部１１０に与えられる。クロスエントロピーＨT2（Ｔ1）及びＨT2（Ｔ2）が第二の重み計算部１１２に与えられる。
【００４２】
計算部９８は記憶装置５４からコーパスＴ3の文を受取り、記憶装置５８からＬＭ1を受けとって、クロスエントロピーＨT1（Ｔ3）を計算し、これが第一の重み計算部１１０に与えられる。同様に、計算部１００はクロスエントロピーＨT2（Ｔ3）を計算し、これが第二の重み計算部１１２に与えられる。
【００４３】
クロスエントロピーＨT1（Ｔ1）、ＨT1（Ｔ2）及びＨT1（Ｔ3）を与えられると、重み計算部１１０は重みＷ1を計算し、これが類似度係数計算部１１４に与えられる。同様に、第二の重み計算部１１２は重みＷ2を計算し、これが類似度係数計算部１１４に与えられる。次に類似度係数計算部１１４はコーパスＴ1及びＴ2間のコーパスＴ3の類似度係数を計算する。
【００４４】
５．実験：文語らしさの定量化
５．１  トレーニングデータ
使用する言語に関わらず類似度を区別しランク付けすることを期待して、英語と日本語の両方で実験を行なった。上述の枠組みを検証するため、２個の対照的な出所のコーパス間に文語らしさのスケールを設定した。
【００４５】
「口語らしさ」の基準として、英語と日本語の両方でＳＤＧコーパスを用いたが、これは会話の生のトランスクリプトによる多言語コーパスである。
【００４６】
英語の「文語らしさ」の基準としては、幾つかの古典及び現代文の英語の文学作品を含む、データ圧縮分野ではなじみのあるカルガリーコーパスの一部を用いた。日本語には、日本経済新聞の記事を集めたコーパスを用いた。（より古い）著作権の切れた著作物は言葉遣いがかなり異なるため、古典日本文学を用いるのは適当でない。一定の均質性を保つため、主題を現代語に制限した。
【００４７】
５．２  テストデータ
同じドメインから出ているが口語らしさに関してはわずかに異なるといわれている２個のコーパスの文語らしさの度合いを特徴づけることを期待して、英語と日本語の両方のデータが選択された。これら２個の多言語コーパスは、出願人が編集したアライメントされた多言語コーパスである基本旅行表現コーパス（Ｂａｓｉｃ  Ｔｒａｖｅｌｅｒ’ｓ  Ｅｘｐｒｅｓｓｉｏｎｓ  Ｃｏｒｐｕｓ：以下ＢＴＥＣと呼ぶ）Ｃ−ＳＴＡＲ部分と、機械翻訳支援バイリンガル口語対話コーパス（Ｍａｃｈｉｎｅ−ｔｒａｎｓｌａｔｉｏｎ−Ａｉｄｅｄ  ｂｉｌｉｎｇｕａｌ  ｓｐｏｋｅｎ  Ｄｉａｌｏｇｕｅ：以下ＭＡＤと呼ぶ）であり、これらはいずれも、旅と旅行のドメインの文を集めたものである。ＭＡＤは実際の会話を整えたトランスクリプトであり、ＢＴＥＣは旅行ハンドブックから文を集めたものであって、通常、ＭＡＤのほうがより「口語的」であるといわれている。
【００４８】
この実施例の尺度を更に検証するため、特定のバックグラウンドの他のコーパスもテストした。
【００４９】
・英語には、ＴＩＭＥコーパス（１９６０年代以降のＴＩＭＥ誌の新聞記事を集めたもの）と、職場の設定での会合及び対話のトランスクリプトである口語職業米語コーパス（Ｓｐｏｋｅｎ  Ｐｒｏｆｅｓｓｉｏｎａｌ  Ａｍｅｒｉｃａｎ  Ｅｎｇｌｉｓｈ：以下略してＳＰＡＥと呼ぶ）とを用いた。
【００５０】
・日本語には、毎日新聞の記事を集めたコーパスと、ＮＨＫのニュース放送を整えたトランスクリプトのコーパスとを用いた。
【００５１】
各コーパスについて、基本的な統語論的事実を検討し、その後計算されたクロスエントロピーとそこから得られる文語らしさの係数とを論じる。
【００５２】
５．３  コーパスの均質性
均質でないコーパス、例えば、様々なソースからのテキストをつないだものや、異なるサイズのコーパスを比較することは無益であると思われる。というのも、これまで、コーパスの均質性について満足の行く定義が得られておらず、またその計算に及ぼす影響も分からないからである。直観的には、ソフトウェアマニュアルから集めたコーパスのほうが、電話のトランスクリプションと文献からテキストを集めたものよりも均質性が高いだろう（非特許文献１）。
【００５３】
この問題を回避するために、まず、ここで用いるコーパスは個々に同じバックグラウンドから出たものであるようにした（すなわち、あるものは新聞記事から集めたもののみであり、他のものは電話のトランスクリプトから集めたもののみである）。その後、各コーパスをランダムに選択したｎ個の同じサイズのブロックに分割し、これらのブロックをテストセットとして用いてクロスエントロピーを計算し、結果の平均をとった（このような処理を通常「ｎ重交差検定」と呼び、非特許文献１に示すように、ある結果が、代表的ではないテストデータを偶然選択してしまった産物ではないことを確実にする。）。
【００５４】
５．４  統計的局面
英語についての各コーパスの統計的局面を表１に示す。
【００５５】
【表１】
2006039742.tif 000009
３個のコーパス、すなわちＳＰＡＥ、ＴＩＭＥ及び書き言葉表現の基準であるカルガリーは、他の３個のコーパス、すなわちＭＡＤ、ＢＴＥＣ及び口語表現の基準であるＳＤＧに比べて注目すべき、優れた語／行の値を有する。より文語的であると考えられる前者は一行あたり約２０語であり、一方、逆により口語的であると考えられる後者は一行当たり１０語に近い。しかしながら、一語当たりの文字数のスコアは全てのコーパスについてほぼ互角であって、より口語的であると仮定したセットと、より文語的であると仮定したセットとの間に何ら目立った違いはなく、むしろ英語全体として典型的なものであった。従って、このような統計的数字は口語または書き言葉の文書を正確に差別化する十分な情報を提供しない。
【００５６】
日本語についての各コーパスの統計的局面を表２に示す。
【００５７】
【表２】
2006039742.tif 000010
日本語では語のセグメント化が曖昧であることについては多くの研究成果があり、複雑な問題である。このため、ここでは文字数に焦点をあてることとした。ここでも、より文語的であると仮定したコーパス（ＮＨＫ、毎日及び日経）での行当たりの文字数のスコアは、より口語的であると仮定したものより通常高い。しかしながら、ＳＤＧ（口語基準）の行当たりの文字スコアは毎日のものと互角であって、信頼できる分類に到達するのはここでもまた困難である。
【００５８】
５．５  エントロピー
Ｎ＝２から１６までの範囲のＮグラムの言語モデルが２個の基準について計算された。その後クロスエントロピーを計算し、各コーパスにつきランダムに選択した重複のない約２５０，０００個の文字で平均をとった。英語での結果を図３に、日本語での結果を図４に示す。
【００５９】
４から６の次数のＮグラムは一般に一文字当たりのビット数という尺度が最も低く（予測性能が最適であるトレーニングセットで計算したクロスエントロピーを除く）、次数が増すにつれて全ての数が上昇し、やがて変わらなくなる。これは、次数が多くなれば認識されないＮグラムが指数関数的に増加して、トレーニングデータのスパースネスの問題につながるからである。コンテキストの長さはデータ圧縮分野の活発な研究対象となっているが、ここでは、非特許文献４及び５と同様に、３文字から７文字のコンテキストが意味のある結果をもたらすと仮定する。
【００６０】
５．６  文語らしさの係数
次に、各コーパスの文語らしさの係数を計算した。図５及び図６はそれぞれ、英語と日本語について異なるＮグラム次数でのこの係数の変化を示したものである。ここで用いた基準の選択によれば、０のスコアは口語の基準（ＳＤＧコーパス）に非常に近いことを示し、一方１のスコアは文語の基準（英語ではカルガリーブックコーパス、日本語では日本経済新聞のコーパス）に非常に近いことを示す。
【００６１】
表３は５グラムの文字モデルの値を示す。
【００６２】
【表３】
2006039742.tif 000011
表３を参照して、ＭＡＤとＢＴＥＣの文語らしさのスコアはそれぞれ、ＴＩＭＥ及びＳＰＡＥ、ならびにＮＨＫ及び毎日よりも低かった。実際、ＭＡＤの英語での文語らしさのスコアは最低であって、どちらも通常は「口語的コーパス」であるといわれているＢＴＥＣよりもわずかながら更に口語的であるという評判を裏付けるものとなった。
【００６３】
日本語ではこれほど自明ではなく、数字の広がりが狭いため、文語らしさについて結論を出すのは困難であった。
【００６４】
英語では、ＴＩＭＥ及びＳＰＡＥは３から５の次数で近い値を有する。しかしながら、４より上のＮグラム次数では全て、ＴＩＭＥのほうがわずかに高い文語らしさのスコアを有するようである。実際のところ、ＴＩＭＥの文語らしさの度合いがＳＰＡＥより高いと仮定しても良いと思われ、またこれは、ＴＩＭＥが実際に書かれたジャーナリスティックなテキストであり一方ＳＰＡＥは堅苦しい職場での会話のトランスクリプトであることを考えれば、直観的に正しいはずである。
【００６５】
日本語では、ＭＡＤ及びＢＴＥＣ等の対話トランスクリプト間、ＮＨＫと毎日等のニュースコーパス間では文語らしさの違いは明瞭であるものの、高度に脚本化され編集されたテキスト（ＮＨＫ）と純粋な新聞記事（毎日）との相違について判断をくだすのは困難であった。日本語でのスケール縮小現象（及び英語での逆のスケール拡張）は、日本語では現代文学のコーパスを使えないことによるものと思われる。
【００６６】
分類はＮグラムの次数変化に対し頑健であると思われ、英語では１４を超えるＮについて、日本語では７を超えるとすぐに、指標は全て０．４から０．５の値に収束した。
【００６７】
この実施例では、コーパスを、ユーザが定義可能なスケール上で互いの類似度によってランク付けする方法を提案している。分類は基準の選択に応じた相対的なものであり、従って、課題指向的となるはずである。この実施例に従った類似度評価方法は、文語らしさの定量化の応用のみに限られない。基準を賢明に選択すれば、他の範疇で正確なランク付けをする能力が証明されるはずである。例えば、基準はバイナリデータセットであってもよく、この方法は、基準データセットに対するバイナリデータセットの類似度係数を規定するのに適用可能である。
【００６８】
この実施例は通常のコンピュータハードウェアとコンピュータ上で実行されるコンピュータソフトウェアとで実現され得る。コーパスはハードディスクまたはメモリ等の記憶装置に記憶させてから計算してもよい。ソフトウェアはコーパスの文字モデルをトレーニングする能力を有してもよく、式（１）から（４）に従ってコーパスの定量化尺度を計算する。このようにプログラムされたコンピュータは図２に示された機能全てを実行可能である。
【００６９】
今回開示された実施の形態は単に例示であって、本発明が上記した実施の形態のみに制限されるわけではない。本発明の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味および範囲内でのすべての変更を含む。
【図面の簡単な説明】
【００７０】
【図１】この発明の一実施例に従った類似度尺度の概念を模式的に示す図である。
【図２】この発明の一実施例に従った装置を示すブロック図である。
【図３】英語の口語的基準（ＳＤＧ）と文語的基準（カルガリー）とに対するクロスエントロピーを示す図である。
【図４】日本語の口語的基準（ＳＤＧ）と文語的基準（日本経済新聞）とに対するクロスエントロピーを示す図である。
【図５】英語の文語らしさの係数を示す図である。
【図６】日本語の文語らしさの係数を示す図である。
【符号の説明】
【００７１】
２０、２２、２４  コーパス；２６  スケール；４０  コーパスのスコアを計算する装置；５０、５２、５４、５８、６０  記憶装置；５６  ＬＭ構築モジュール；６２  クロスエントロピー計算モジュール；６４  スコアリングモジュール；７０  スコア；８０、８２  ＬＭ構築部；９０、９２、９４、９６、９８及び１００  クロスエントロピー計算部；１１０及び１１２  重み計算部；１１４  類似度係数計算部
【図１】
2006039742.tif 000013
【図２】
2006039742.tif 000014
【図３】
2006039742.tif 000015
【図４】
2006039742.tif 000016
【図５】
2006039742.tif 000017
【図６】
2006039742.tif 000018
【外国語明細書】
2006039742000001.pdf
2006039742000002.pdf
2006039742000003.pdf
2006039742000004.pdf