(57)【要約】コンピュータでコード化したテキスト文書の言語および文字コード系を識別する機械処理方法である。対象言語／文字コード系毎にあらかじめ作成された規定長のバイト列のリストＬＢＳＬ／Ｃには、当該言語／文字コード系によるテキスト文書で出現する可能性のある規定バイト数のバイト列が格納される。各々の言語／文字コード列毎に、リストＬＢＳＬ／Ｃに既に存在する規定長バイト列が対象テキスト文書に含まれる個数の割合であるところの「既習バイト列出現率」を算出し、「既習バイト列出現率」が１に近い言語／文字コード系が唯一存在する場合に限り、当該言語／文字コード系を結果として出力する。
2002095614.tif 000002
【特許請求の範囲】
【請求項１】
コンピュータによってコード化されたテキスト文書（対象となるテキスト文書と呼ぶ）から、その言語および文字コード系を識別するための機械処理方法において、
対象となるテキスト文書に含まれるすべての規定長バイト列を読み取り、それらをリスト（ＬＢＳＳと呼ぶ）として格納する手段（ステップ２０３）と、
登録された言語／文字コード系（対象言語／文字コード系と呼ぶ）の各々についてあらかじめ作成された、当該言語／文字コード系によるテキスト文書内で出現する可能性のある規定長バイト列のリスト（ＬＢＳＬ／Ｃと呼ぶ）を格納する手段と、
各々のリストＬＢＳＬ／Ｃ内に、ＬＢＳＳ内の各々の規定長バイト列が存在するか否かを検索するステップ（ステップ３０２から３０６）と、
上記ステップの結果を受けて、各々の言語／文字コード系毎に、リストＬＢＳＬ／Ｃに既に存在する規定長バイト列がリストＬＢＳＳに含まれる個数の割合（既習バイト列出現率と呼ぶ）を算出してそれらを格納する手段（ステップ２０４）を有し、
ただ１つの言語／文字コード系における既習バイト列出現率の値が１に近いと判断され、且つその他の言語／文字コード系における既習バイト列出現率が皆、１よりかなり小さいと判断される場合に前者の言語／文字コード系を出力し、それ以外の場合に識別不能を出力することを特徴とする処理方法。
【請求項２】
一個の言語／文字コード系（Ａとする）における請求の範囲第１項記載のリストＬＢＳＬ／Ｃが、その項目に関して、一個の言語／文字コード系（Ｂとする）における同リストに包含される（このときＡはＢより上位の関係であると呼ぶ）ことによって定義される２言語／文字コード系間の関係を記述する情報を、対象の言語／文字コード系をあらわす記号の組として任意個数格納する手段（第７図）と、
対象言語／文字コード系における、あらかじめ与えられた上記記載の任意個数の関係を記述した情報と、複数の言語／文字コード系とを受け、受け付けた複数の言語／文字コード系内に関係を構成する２言語／文字コード系が有る場合に下位の言語／文字コード系を受け付けた複数の言語／文字コード系から削除することによって得られる単数または複数の言語／文字コード系を出力するステップ（ステップ２０６）とをさらに含むことを特徴とする、請求の範囲第１項記載のコンピュータによってコード化されたテキスト文書から、その言語および文字コード系を識別するための機械処理方法。
【発明の詳細な説明】
技術分野
本発明は、コンピュータにおけるマルチリンガル処理技術に関し、特に、コンピュータによってコード化されたテキスト文書の言語および文字コード系を識別するための機械処理方法に関する。
背景技術
近年、コンピュータ・ネットワーク上などにおけるマルチリンガル処理技術が重要さを増している。世界には、言語人口が７００万人を超える言語だけでも１００種類以上あり、それらの表記に用いられる文字体系でも２０種類が数えられる。また、ＩＳＯ／ＩＥＣ１０６４６の検討グループが１９９９年末時点で検討対象としている文字体系は約１４０種類に上る。世界的にインターネットの普及が進むにつれ、インターネット上でこうした現地語によってコミュニケーションを図るユーザーが増加している。ところが、アジアを中心とする諸言語では、それをコンピュータで扱うための文字コード系が多数乱立していることが少なくない。例えばヒンズー語においては、よく知られた文字コード系だけでも７種類がインターネットのページ上で実際に使用されている。文字コード系の違いとは、単なる文字フォントの違いを意味するだけでなく、文字コード系Ａでコード化されたテキスト文書をそれと異なる文字コード系Ｂの文字フォントで表示（つまり文字コード系Ｂで復号）した場合に全く意味のないテキストが表示されることを意味する。
こうしたことから、非常に多種多様な言語と文字コード系を対象としたマルチリンガル処理技術の一環として、現在、次の要件を満たす言語および文字コード系の識別手法が求められている。
（解決しようとする課題）
言語および文字コード系の機械識別手法において、
（１）識別の対象となるテキスト文書が、登録されている対象言語／文字コード系のいずれにも該当しない場合に、対象言語／文字コード系の中で最も可能性の高い言語／文字コード系を誤って割り当ててしまうことを回避する。つまり、正しい識別結果か「識別不能」のいずれかを出力することとする。
（２）複数の言語および文字コード系が混在している場合の対応が容易であること。
（３）識別に必要な情報は、言語／文字コード系にかかわりなく同一の機械処理方法によってテキスト文書例から得ることが出来る、言語／文字コード系にかかわりなく同一のデータ構造で表現された、言語／文字コード系ごとの情報のみを用いる。
上記の要件を満たす識別手法は、ネットワーク上に大量に存在する文書の検索、分類、統計的調査といった、比較的規模の大きいマルチリンガル処理システムにおいて強力な情報処理手段となり得る。次に、インターネット上の統計調査という点に焦点を絞り、上記の要件を満たす手法が要求される技術的背景を詳述する。
先に述べたネットワークを取り巻く状況から、インターネット上にはどのような言語、文字コード系のページがどの程度の割合で存在しているか、その実態を詳細に調査・把握することが現在求められている。調査には、ロボット検索の手法を利用して世界中のインターネット上のページへ系統的にアクセスし、そのページで使用されている言語と文字コード系を自動的に識別し、集計する。（識別装置に入力され、識別の対象となるテキスト文書を「対象テキスト文書」と呼ぶ。）あるページで使用されているテキストが本識別装置に登録されていない言語／文字コード系で書かれている可能性がある場合は、そのページは人手によってチェックが行われ、必要とあらば新たな言語／文字コード系を登録する。（登録された言語／文字コード系を「対象言語／文字コード系」と呼ぶ。）
（従来の技術）コンピュータによってコード化されたテキスト文書の言語、文字コード系、ジャンル等を機械で識別する手法としては、従来より次の３手法が知られている。
（１）対象となる個々の言語／文字コード系あるいはジャンルにおける文書で主に使用される単語あるいは文字の出現頻度テーブルをあらかじめ作成し、それと、識別の対象となるテキスト文書で使用されている単語あるいは文字の出現頻度を比較する方法（特開２０００−１４８７５４）
（２）個々の言語／文字コード系／ジャンルごとに、その他の対象言語／文字コード系／ジャンルに対して特異的に出現する複数の単語あるいは文字をあらかじめリストし、それらの単語、文字が対象となるテキスト文書で出現するか否かをチェックすることによる方法
（３）上記（１）、（２）両方の特質を備えた方法（特開平７−２６２１８８）しかしながら、上記のインターネットにおける統計調査という目的に関しては、これらの手法には次に挙げる２点で困難を伴う。
１．いずれの方法も、対象言語／文字コード系内で最も可能性の高い言語／文字コード系を識別結果として出力するが、対象となるテキスト文書が各言語／文字コード系によるものであるか否かを明確に判断することは困難である。
２．複数の言語／文字コード系が混在する文書への対応が、方法（１）では困難である。また、方法（２）においても、未登録の言語／文字コード系が混在している場合に、それをチェックすることが難しい。例えば、日本語／Ｓｈｉｆｔ−ＪＩＳが対象として登録され、マレー語／ｉｓｏ８８５９−１が未登録の条件下で、日本語／Ｓｈｉｆｔ−ＪＩＳとマレー語／ｉｓｏ８８５９−１の両方を含むテキスト文書を認識する場合、日本語の割合が余程低くない限り、方法（２）においては日本語／Ｓｈｉｆｔ−ＪＩＳを結果として出力し、未登録の言語／文字コード系が含まれていることは見逃されるであろう。
解決しようとする課題の（１）、（２）が満足されない場合、上記のインターネットにおける統計調査を行う場合に、単にその結果が不正確なものとなるばかりでなく、対象として未登録の言語／文字コード系を見逃す可能性がある。事前に出来る限り多種の言語／文字コード系を登録し調査を開始するが、調査の課程で未登録の言語／文字コード系に遭遇する可能性は依然として残る。むしろ、調査を通じて未確認の言語／文字コード系を収集することが本調査の目的の１つとも言える。こうした未登録の言語／文字コード系によるテキストを一部（少なくともおおむね２割以上）または全部に含むテキスト文書を、識別の過程で確実に発見できる手法が求められるのである。
また、多種多様な言語／文字コード系を扱うことを特徴とする上記のインターネットにおける統計調査においては、識別に用いられる情報の単位を、個々の言語と文字コード系独自の知識・情報によってテキスト文書から抽出される当該言語の単語、文字とするのではなく、解決しようとする課題の（３）に示すような方法でなければ非効率である。
発明の開示
識別に用いられる情報の単位は、対象とするテキスト文書（つまりバイト列）に含まれる規定バイト数の全ての部分バイト列とする。次に、言語／文字コード系毎の情報としては、あらかじめ作成された、当該言語／文字コード系によるテキスト文書内で出現する可能性のある規定長バイト列のリスト（ＬＢＳＬ／Ｃと呼ぶ）を使用する。ある言語／文字コード系によるテキスト文書内で出現する可能性のある規定長バイト列のほとんどが揃っていれば、それらに該当しないバイト列が頻繁に出現するテキスト文書は、当言語／文字コード系によるものではない事が裏付けられるのである。その上、複数の言語／文字コード系におけるリストＬＢＳＬ／Ｃの単純な和集合が、「これら２言語／文字コード系の混在またはいずれか１つ」を意味する新たな言語／文字コード系に関するリストＬＢＳＬ／Ｃとなり、複数の言語／文字コード系が混在する文書の認識の扱いが容易に可能となる。
なお、各言語／文字コード系におけるリストＬＢＳＬ／Ｃは、当該言語／文字コード系によるテキスト文書から容易に得ることができる。良好な識別結果を得ることができるリストＬＢＳＬ／Ｃを得るために必要なテキスト文書の数量の目安は、１バイトコードの文字体系で２０Ｋバイト、日本語など２バイトコードでは１００Ｋバイトである。
発明を実施するするための最良の形態
本発明をより詳細に説術するために、添付の図面に従ってこれを説明する。
コンピュータによってコード化されたテキスト文書（対象となるテキスト文書）の入力を受け、先ずステップ２０２において、それが極端に長い、または短い文書ではないか否かがチェックされる。次に、ステップ２０３において対象となるテキスト文書に含まれるすべての規定長バイト列を読み取り、リストＬＢＳＳに格納される。バイト列長の既定値は３バイトが一般に使用される。１バイトおよび２バイトでは所望の識別性能が得られず、一方、既定値が大きくなるにつれ識別性能は向上するが、処理に要する時間と、言語／文字コード系ごとのリストＬＢＳＬ／Ｃに必要な項目数が増加する。
次に、対象言語／文字コード系ごとにあらかじめ作成された、当該言語／文字コード系によるテキスト文書内で出現する可能性のある規定長バイト列のリストＬＢＳＬ／Ｃ内に、ＬＢＳＳ内の各々の規定長バイト列が存在するか否かが検索され、言語／文字コード系ごとに既習バイト列出現率が計算される（ステップ２０４）。テーブルＬＢＳＬ／Ｃの一例（部分）を第５図に、またステップ２０４の詳細ステップを第３図にそれぞれ示す。
次にステップ２０５で、既習バイト出現率が既定の下限値（ＬＢ）と上限値（ＵＢ）の間の値を取る言語／文字コード系が存在するかがチェックされる。既習バイト出現率が下限値ＬＢと上限値ＵＢの間の値を取る言語／文字コード系が存在しない場合の例を第６図に示す。本ステップ２０５においてそれが１つ以上存在する場合は、次に「自動識別不能」を出力し処理プロセスを終了する。また存在しない場合は、対象テキスト文書内に複数の言語／文字コード系が混在する場合に対応した請求の範囲第２項記載の処理が次に行われる。なお、ＬＢおよびＵＢの値は実施事例に依存してあらかじめ決決定される。下限値ＬＢが大きく、上限値ＵＢが小さいほど、既習バイト出現率がＬＢとＵＢの間の値を取る言語／文字コード系が存在する場合の数は少なくなるが、誤った識別を行う可能性は高くなる。
一個の言語／文字コード系（Ａ）における上記のリストＬＢＳＬ／Ｃが、その項目に関して、一個の言語／文字コード系（Ｂ）における同リストに包含される（このときＡはＢより上位の関係と呼ぶ）ことによって定義される２言語／文字コード系間の関係を、言語／文字コード系を特定する記号の組として記述する（図７にその一例を示す）。あらかじめ作成された、対象言語／文字コード系における上記の関係を受け、既習バイト出現率が上限値ＵＢを上回る言語／文字コード系が複数ある場合に、それらの中に関係を構成する２言語／文字コード系が有る場合に下位の言語／文字コード系を除外する（ステップ２０６）。ステップ２０６の実施手順の詳細は第４図の流れ図に示す。またステップ２０６の実行例を第８図に示す。
最後に、上記のステップ２０６で除外されずに残った言語／文字コード系が単数である場合に、当該言語／文字コード系を識別結果として出力し、それ以外の場合は「自動識別不能」を出力し、処理プロセスを終了する。
産業上の利用の可能性
「背景技術」で述べたインターネット上の統計調査はもとより、これと同様の理由でネットワーク上に大量に存在する文書の検索や分類等においても本発明は強力なマルチリンガル情報処理手段となり得る可能性が有る。以下、本発明の特長をさらに２点と、本発明の有効性を確認する実験とその結果を示す。
（特長１：識別可能なテキスト文書の多様性）
従来の技術においては、特定の種類の字句のみを多用するテキスト文書における識別は難かしい場合がある。例えば、平仮名は日本語の文書では必ずといってよいほど使用され、しかも使用頻度は非常に高い。このため従来の技術（１）における出現頻度の高い文字として平仮名を、また従来の技術（２）における特異的に使用される文字コードとしては平仮名の第１バイトを利用することが多い。特に従来の技術（２）においては、日本語の文字コード系Ｓｈｉｆｔ−ＪＩＳとＥＵＣのいずれかを識別するために、ＥＵＣでは使用されない、Ｓｈｉｆｔ−ＪＩＳの平仮名の第１バイトで使用されている文字コードの有無をチェックするのである。しかしこの場合、インターネット上のページで実際に存在する「都道府県別大学一覧（東京都）青山学院大学，亜細亜大学，上野学園大学，桜美林大学，大妻女子大学，‥‥」といった文書の場合、仮名文字を全く使用しないため適正な識別が実行されることは期待できない。
一方、本発明の手法によれば、各対象言語／文字コード系毎に当該言語／文字コード系によるテキスト文書で使用される可能性のある規定長バイト列のリストを用いるため、上記のテキスト文例の識別に何ら支障は生じない。ただし、多数の言語／文字コード系で使用される数字、空白（スペース）、記号などを非常に多く含む文書は、識別不能となることがあるが、この場合でも誤った識別結果を返すことはない。
（特長２：情報が不足している場合の信頼性）
さらに本発明では、対象言語／文字コード系ごとにあらかじめ作成されるべき、当該言語／文字コード系によるテキスト文書内で出現する可能性のある規定長バイト列のリストＬＢＳＬ／Ｃの項目が不十分である場合も、それが原因となり誤った識別結果を返すことはない。この場合も正しい結果か識別不能のいずれかを返す。その理由を次に説明する。
Ａなる言語／文字コード系のリストＬＢＳＬ／Ｃの項目が不十分であると仮定する。このとき、対象となるテキスト文書が１）言語／文字コード系Ａによる場合と、２）Ａとは異なる、対象として登録済みの言語／文字コード系Ｂによる場合、および３）Ａとは異なる、未登録の言語／文字コード系Ｃによるものである場合の、３通りが考えられる。１）の場合、対象テキスト文書のＡに関する既習バイト出現率が、ＬＢＳＬ／Ｃの項目が十分であれば上限値ＵＢを上回るべきところを、項目が不十分であるためにＵＢを下回る可能性が高い。しかしその場合でも、その他の対象言語／文字コード系の既習バイト出現率を押し上げる要因とはならず、結果的に識別不能を返す。
２）の場合、対象テキスト文書のＡに関する既習バイト出現率は、ＡのＬＢＳＬ／Ｃの項目が十分であっても下限値ＬＢよりも小さい筈である。ＡのＬＢＳＬ／Ｃの項目が不十分であればこの数値はＬＢＳＬ／Ｃの項目が十分である場合と比べて同等かそれ以下であり、誤った結果を返す要因とはならない。
３）の場合は、いずれの対象言語／文字コード系に関しても、もとより既習バイト出現率がＵＢ値を上回ることは無く、ＡのＬＢＳＬ／Ｃの項目が不十分であれば、Ａに関する既習バイト出現率がより小さい値を取るだけである。したがって結果は識別不能と出力される。
なお、その言語／文字コード系が明らかであるテキスト文書を本装置にかけ、当該言語／文字コード系に関する既習バイト出現率を算出することによって、当該言語／文字コード系のリストＬＢＳＬ／Ｃの項目が十分か否かを検定することも可能である。
（実験）
本発明の有効性を検証するために実施された実験の詳細を以下に記す。
第６図に示す８言語／文字コード系（ＡからＨ）を対象とし、各言語／文字コード系におけるリストＬＢＳＬ／Ｃの項目をそれぞれ第９図に示す個数だけ収集した。ただし、２言語／文字コード系Ｄ，Ｅについては、それぞれ、言語／文字コード系Ａ，Ｂ、言語／文字コード系Ａ，Ｂ，ＣにおけるリストＬＢＳＬ／Ｃの項目に関して和集合を取ったリストを使用した。また、Ｆ：インドネシア語／ｉｓｏ８８５９−１については、そのリストＬＢＳＬ／Ｃの項目数を意図的に少なく設定した。いずれのリストＬＢＳＬ／Ｃの項目も、インターネット上のページからランダムに収集され、人手によってその言語／文字コード系が確認されたテキスト文書から抽出された。リストＬＢＳＬ／Ｃの項目を抽出するために参照した各言語／文字コード系によるテキスト文書の数量を第９図に併せて記す。また、本対象言語／文字コード系に発現される請求の範囲第２項に記載の関係は、第７図に記載された記述と同一のものとする。実験において識別の対象とされたテキスト文書のうち、Ａ（日本語／Ｓｈｉｆｔ−ＪＩＳ）、およびＢ（英語／ｉｓｏ８８５９−１）によるものをそれぞれ以下に示す。
Ａ（日本語／Ｓｈｉｆｔ−ＪＩＳ）
経済のグローバル化が急速に進展する中で、新しい国際経済秩序の構築に向けた動きは、ＷＴＯ（世界貿易機関）の設立、ＡＰＥＣ（アジア太平洋経済協力）の発展と本格化しております。
経済産業省では開かれた経済システムを発展させて、日本経済、さらには世界経済の安定的な発展を実現するため、世界各国と協議を行い、様々な場においてリーダーシップを発揮しています。
世界第一位のＯＤＡ予算を拠出している我が国としては、発展途上国の自立的発展を支援するため、政府開発援助大綱に基づいた効果的・効率的な経済協力を実施しています。
また、経済産業省では、我が国の国益に資する経済協力が重要であるとの認識の下、援助と貿易・投資の有機的連携を確保した総合的経済協力を推進しています。
Ｂ（英語／ｉｓｏ８８５９−１）
Ｆｒａｍｉｎｇ  ｅｖｅｒｙｔｈｉｎｇ，ｏｆ  ｃｏｕｒｓｅ，ａｒｅ  ｈｅｒ  ｔｒａｄｅｍａｒｋ  ｃｕｒｌｓ．”Ｗｅ  ａｌｌ  ｈａｖｅ  ｔｈｅ  ｈａｉｒ，”ｓａｙｓ  Ｍａｒｇｕｌｉｅｓ  ｏｆ  ｈｅｒ  ｔｗｏ  ｏｌｄｅｒ  ｓｉｓｔｅｒｓ  ａｎｄ  ｔｈｅｉｒ  ｄｉｖｏｒｃｅｄ  ｐａｒｅｎｔｓ，Ｐａｕｌ，ａｎ  ａｄｖｅｒｔｉｓｉｎｇ  ｃｏｐｙｗｒｉｔｅｒ，ａｎｄ  Ｆｒａｎｃｅｓｃａ，ａ  ｄａｎｃｅ  ｔｅａｃｈｅｒ．Ｍａｒｇｕｌｉｅｓ  ｂｅｇａｎ  ｈｅｒ  ｃａｒｅｅｒ  ａｓ  ａ  ｈａｉｒ  ｍｏｄｅｌ  ｆｏｒ  ａ  ｐｅｒｍ  ｃｏｍｐａｎｙ．
”Ｉ’ｄ  ｇｏ  ｏｕｔ  ｏｎ  ａ  ｒｕｎｗａｙ，ａｎｄ  ｔｈｅｙ’ｄ  ｓａｙ，”Ｔｈｉｓ  ｉｓ  ｏｕｒ  ｐｅｒｍ！Ｌｏｏｋ  ｈｏｗ  ｎａｔｕｒａｌ  ａｎｄ  ｂｅａｕｔｉｆｕｌ  ｉｔ  ｉｓ，’’’ｓａｙｓ  ｔｈｅ  ａｃｔｒｅｓｓ，ｗｈｏ  ｈａｓ  ｎｅｖｅｒ  ｈａｄ  ａ  ｐｅｒｍ  ａｔ  ａｌｌ．Ｔｏ  ｍａｉｎｔａｉｎ  ｈｅｒ  ｃｏｒｋｓｃｒｅｗｓ，ｓｈｅ  ｓｈａｍｐｏｏｓ  ｄａｉｌｙ，ｃｏｎｄｉｔｉｏｎｓ  ｅｖｅｒｙ  ｓｉｘ  ｗｅｅｋｓ  ｗｉｔｈ  Ｓｅｂａｓｔｉａｎ  Ｐｏｔｉｏｎ  ９  ａｎｄ  ｄｅｅｐ−ｃｏｎｄｉｔｉｏｎｓ  ｔｗｉｃｅ  ａ  ｙｅａｒ．”Ｍｙ  ｈａｉｒ  ｗｉｌｌ  ｄｏ  ｐｒｅｔｔｙ  ｍｕｃｈ  ｗｈａｔ  Ｉ  ｗａｎｔ  ｉｔ  ｔｏ  ｄｏ，”ｓｈｅ  ｓａｙｓ．”Ｉｔ’ｓ  ｌｉｋｅ  Ｐｌａｙ−Ｄｏｈ．”
Ｐｈｏｔｏ  ｂｙ：Ｄａｎｉｅｌａ  Ｆｅｄｅｒｉｃｉ
以上の条件下で、Ａ，Ｂ，Ｃ，Ｆ，Ｇ，Ｈの言語／文字コード系、および、ＡとＢつまり日本語／Ｓｈｉｆｔ−ＪＩＳと英語が混在したテキスト文書（言語／文字コード系Ａ，Ｂ，Ｃ，Ｆ，Ｇ，Ｈはいずれも約７００バイト、日本語と英語混在は約１，３００バイト）をそれぞれ請求の範囲第１項に記載の識別装置に入力した場合の、ステップ２０４における各言語／文字コード系毎の既習バイト列出現率を第１０図に示す。
そのリストＬＢＳＬ／Ｃが不充分な状況で比較実験した言語／文字コード系インドネシア語において、インドネシア語の入力テキストが識別不能である。その他の入力テキストについては、請求の範囲第２項に記載のステップ２０６の処理を行うことにより正しい識別結果が得られた。例えば、英語／Ｌによるテキストの入力に対して「Ｂ．英語／Ｌのみ」と「Ｄ．日本語／Ｓ，英語／Ｌのいずれか、または混在」の２言語／文字コード系において既習バイト列出現率がＵＢを上回った。上記の２言語／文字コード系に対してステップ２０６の処理を行うことによって、第８図の例１に見られるように１言語／文字コード系「Ｂ．英語／Ｌのみ」を得ることができる。（文字コード系Ｓｈｉｆｔ−ＪＩＳをＳ、ｉｓｏ８８５９−１をＬとそれぞれ略記した）
「背景」で述べたインターネット上の調査を実施する場合、対象として登録される言語／文字コード系は数百のオーダーであると思われる。本実施例で対象としたのは８言語／文字コード系のみであるが、識別能力が問題となるのは、フランス語／Ｌと英語／Ｌといった、同一の文字コード系で近縁関係にある言語間の識別において如何に識別不能を出力せずに適正な識別を行うかである。したがって、数百の言語／文字コード系を対象として実験を行わなくとも、近縁関係にある言語／文字コード系を対象に実験を行うことで、本発明の有効性は確認することができる。
【図面の簡単な説明】
第１図は本発明によるシステムの概略を示す図である。第２図は第１図に示すシステムによって実行される処理の一連の汎用ステップの流れ図である。第３図は、各言語／文字コード系ごとに対象テキスト文書における既習バイト出現率を計算するための、第２図記載のステップ２０４で実行される詳細ステップの流れ図である。
第４図は既習バイト出現率が上限値ＵＢを上回る言語／文字コード系が複数ある場合に、下位の言語／文字コード系を削除するための、第２図記載のステップ２０６で実行される詳細ステップの流れ図である。第５図は言語／文字コード系が「日本語／Ｓｈｉｆｔ−ＪＩＳ」の場合の、出現する可能性のある３バイト列のリストＬＢＳＬ／Ｃの一部分である。第６図は、既習バイト出現率が既定の下限値（ＬＢ）と上限値（ＵＢ）の間の値を取る言語／文字コード系が存在しない場合の例を図示したものである。
第７図は、第６図に記載の対象言語／文字コード系の一例（ＡからＨ）における、請求の範囲第２項に記載の関係を記述したリストの一例である。第７図においては、（ｘ，ｙ）によって、言語／文字コード系ｘは言語／文字コード系ｙより上位であることを意味する。第８図は、第２図のステップ２０６に記載の処理の実行例である。対象言語／文字コード系は第６図に記載の例と、また関係は第７図に記載の例と同一である。第９図は「産業上の利用の可能性」に示す実験で用いたＬＢＳＬ／Ｃの項目数と、それを作成するために参照したテキスト文書の量である。第１０図は「産業上の利用の可能性」に示す実験における、第２図に記載のステップ２０４の出力結果である。
【図１】
2002095614.tif 000003
【図２】
2002095614.tif 000004
【図３】
2002095614.tif 000005
【図４】
2002095614.tif 000006
【図５】
2002095614.tif 000007
【図６】
2002095614.tif 000008
【図７】
2002095614.tif 000009
【図８】
2002095614.tif 000010
【図９】
2002095614.tif 000011
【図１０】
2002095614.tif 000012
【国際調査報告】
2002095614.tif 000013
2002095614.tif 000014