(57)【要約】  文書分類方法は、各単語および固定クラスのための平滑化重みを計算するための第1のステップと、平滑化された二次単語確率分布を計算するための第2のステップと、文書が固定クラスに属する確率を計算するステップを含む、文書を分類するための第3のステップとを含む。
2017501488.tif 000002
【特許請求の範囲】
【請求項１】
各単語wおよび固定クラスRのための平滑化重みを計算するための第1のステップであって、クラスの集合{R,S1,S2,...}を仮定し、ただしクラスRがクラスS1によって包含され、クラスS1がクラスS2によって包含され、...、などとして、クラスSに属する文書内に単語wが出現する確率を表す確率p(w/S)にわたる確率を各クラスSのために計算するステップ、および、前記確率p(w/S)にわたるこれらの確率の各々のために、クラスR内で観察されるトレーニングデータの尤度を計算するステップを含む、第1のステップと、
平滑化された二次単語確率分布を計算するための第2のステップであって、(各S∈{R,S1,S2,...}について1つ存在する)前記確率p(w/S)にわたるすべての前記確率の中で、以前の前記第2のステップにおいて計算されたデータの最も高い尤度をもたらすものを選択するステップを含み、前記選択された確率がp(w/R)のための前記平滑化された二次単語確率分布として使用される、第2のステップと、
文書を分類するための第3のステップであって、p(w/R)のすべての可能な選択にわたって積分するために前記平滑化された二次単語確率分布を使用することによって、または、p(w/R)の平滑化された推定されたものの最大事後確率の推定値を使用することによって、前記文書が前記クラスRに属する確率を計算するステップを含む、第3のステップと
を含む、文書分類方法。
【請求項２】
前記第1のステップが、RをG1として示すステップと、RおよびS1内の文書の差集合をG2として示すステップと、S1およびS2内の文書の差集合をG3として示すステップと、...、{G1,G2,G3,...}内の各Gについて、単語wが文書集合Gに属する文書内に出現する確率を表す確率p(w/G)にわたる確率を計算するステップと、前記確率p(w/G)にわたるこれらの確率の各々について、クラスR内で観察されるトレーニングデータの尤度を計算するステップとをさらに含み、
前記第2のステップが、以前のステップにおいて計算された前記確率p(w/G)の確率の加重和を使用することによって、単語確率p(w/R)にわたる確率を計算するステップを含む、平滑化された二次単語確率分布を計算するステップをさらに含み、前記重みは、以前のステップにおいて計算された前記尤度に対応する、請求項1に記載の文書分類方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、テキスト文書が特定のクラスRに属するか否か(すなわち、任意の他のクラス)を決定する方法に関し、クラスRに利用可能なトレーニング文書は、ほんのわずかしか存在せず、すべてのクラスは、階層に配置され得る。
【背景技術】
【０００２】
本発明の発明者らは、テキストの2つのクラスRおよび¬Rへの分類を改善する平滑化技術を提案し、クラスRのためのわずかなトレーニングインスタンスのみが利用可能である。クラス¬Rは、クラスRであるすべてのクラスを示し、すべてのクラスは、階層に配置される。本発明者らは、クラスRを包含するいくつかのクラスのトレーニングインスタンスへのアクセスを有することを想定している。
【０００３】
この種類の問題は、たとえば、文書が領域(クラス)Rについてであるか否かを識別したいときに生じる。たとえば、領域Rは、特定の都市Rまたは外側領域S1およびS2に属するすべての地理的に位置決めされたツイート(www.twitter.comからのメッセージを参照)を含み、外側領域S1およびS2は、それぞれ、都市Rが位置する州、および国を指す。クラスR、S1、およびS2は、階層に配置されていると考えられ得ることは明らかであり、S1は、Rを包含し、S2は、S1を包含する。しかしながら、大部分のツイートは、地理的位置を含まず、すなわち、テキストメッセージが領域Rについてのものだったか否かわからない。トレーニングデータの小さいセットを考えると、テキストが都市Rについてのものであったか否かを検出したい。一般的に、都市Rのために利用可能なトレーニングデータインスタンスはわずかのみ有するが、領域S1およびS2のために利用可能なトレーニングデータインスタンスは多く有する。
【０００４】
非特許文献1は、このタスクのために、ツイート(文書)が領域Rに属するか否かを決定するために一種のナイーブベイズ分類器を使用することを提案する。この分類器は、分類のために単語確率p(w/R)を使用する(実際には、それらは、p(R/w)を推定するが、この違いは、ここでは無関係である)。一般的に、Rは、小さく、領域Rに属するわずかなトレーニングインスタンス文書のみが利用可能である。したがって、単語確率p(w/R)は、確実には推定され得ない。この問題を克服するために、彼らは、Rを含む領域Sに属するトレーニングインスタンス文書を使用することを示唆する。Sは、一般的に、Rよりも多くのトレーニングインスタンスを含むので、非特許文献1は、p(w/S)を使用して単語確率p(w/R)を平滑化することを提案する。平滑化のために、彼らは、p(w/R)およびp(w/S)の線形結合を使用することを示唆し、線形結合のための最適なパラメータは、ヘルドアウトデータを使用して推定される。
【０００５】
この問題設定は、階層的なテキスト分類にも類似している。たとえば、クラスRは、「日本における野球」であり、クラスS1は、クラス「野球」であり、S2は、クラス「スポーツ」であり、などである。この問題について、非特許文献2は、クラスRを含む1つまたは複数のハイパークラスを使用して、クラスRに関する単語確率p(w/R)を平滑化することを示唆する。ハイパークラスSは、一般的に、クラスRよりも多くのトレーニングインスタンスを有し、したがって、より信頼性の高い推定を得ることを期待することができる。しかしながら、ハイパークラスSは、クラスRにまったく関係のない文書を含む可能性もある。非特許文献2は、信頼性と特異性との間のトレードオフとしてのこのジレンマにも関する。彼らは、p(w/R)とp(w/S)とを補間する重みλを設定することによって、このトレードオフを解決する。最適な重みλは、ヘルドアウトデータを使用して設定される必要がある。
【０００６】
従来技術の文献
非特許文献1:「You Are Where You Tweet: A Content-Based Approach to Geo-locating Twitter Users」、Z. Cheng外、2010
非特許文献2:「Improving text classification by shrinkage in a hierarchy of classes」、A. McCallum外、1998
【先行技術文献】
【非特許文献】
【０００７】
【非特許文献１】「You Are Where You Tweet: A Content-Based Approach to Geo-locating Twitter Users」、Z. Cheng外、2010
【非特許文献２】「Improving text classification by shrinkage in a hierarchy of classes」、A. McCallum外、1998
【非特許文献３】「Bayesian Reasoning and Machine Learning」、D. Barber、2010、208〜210ページ
【発明の概要】
【発明が解決しようとする課題】
【０００８】
すべての以前の問題は、図1に示すように、p(w/R)とp(w/S)との間の補間の程度を推定するために、ヘルドアウトデータ2の使用を必要とする。しかしながら、R(ヘルドアウトデータ)のトレーニングデータインスタンスのサブセットを選択することは、トレーニングのために使用され得るデータをさらに減少させる。これは、ヘルドアウトデータを用いて補間パラメータを設定することから得られ得る利点を上回る(out-weight)可能性がある。この問題は、交差検証によって部分的にのみ軽減され、交差検証は、さらに、計算上コストが高い可能性がある。図1において、X<=Yは、文書セットYが文書セットXを含むことを意味する。地理的領域の類推により、「カテゴリ」または「クラス」という用語の代わりに、「領域」という用語を使用する。
【０００９】
別の明白な解決策は、同じトレーニングデータを2回、確率p(w/R)を推定するために1回、最適な重みλを推定するために1回使用することであるように思われる可能性がある。しかしながら、説明した非特許文献1または非特許文献2のような手法を使用することは、単純に、λの重みを、p(w/R)のために1に、p(w/S)のためにゼロに設定することになる。これは、それらの方法が、p(w/R)の推定の不確定性を測定することができない最尤または最大事後確率推定値であるp(w/R)の点推定値を必要とするためである。
【課題を解決するための手段】
【００１０】
本発明の手法は、p(w/R)およびp(w/S)の分布を比較し、分布p(w/R)がトレーニングデータのみを使用して平滑化されるべきか否か、また、どのように平滑化されるべきかを決定するために、差を使用する。本発明の手法の仮定は、以下のように要約され得る。単語wの分布が領域Rおよびその外側領域Sにおいて類似している場合、領域Sのサンプル空間を使用することによって、真のp(w/R)に近いp(w/R)のより信頼性の高い推定を得ることができると期待する。他方において、分布が非常に異なっている場合、Rの小さいサンプルサイズを使用するよりも良好に行うことができないと予測する。分布p(w/S)を用いて分布p(w/R)を平滑化することができる程度は、領域Rのトレーニングデータインスタンスが分布p(w/S)によって生成された尤度がどれくらいあるかによって決定される。この尤度をp(DR/DS)として示す。たとえば、単語の出現がベルヌーイ試行によって発生すると仮定し、共役事前分布としてベータ分布を使用する場合、尤度p(DR/DS)は、2つのベータ関数の比として計算され得る。一般に、単語の出現がパラメータベクトルθとパラメータθにわたる共役事前分布fとを有する分布Pのi.i.dサンプルによって発生すると仮定される場合、尤度p(DR/DS)は、タイプfの2つの分布の正規化定数の比として計算され得る。
【００１１】
推定p(w/R)(およびp(w/S))の不確定性を明確にするために、これらの確率にわたる確率をモデル化する。たとえば、単語の出現がベルヌーイ分布によってモデル化されると仮定した場合には、共役事前分布としてベータ分布を選択し、したがって、p(w/R)(およびp(w/S))にわたる確率のためのベータ分布を導出する。確率p(w/S)にわたる各確率(各S∈{R,S1,S2,...}について1つ存在する)について、データの最も高い尤度p(DR/DS)をもたらすものを選択する。p(w/R)の平滑化された二次単語確率分布として、この確率分布を選択する。
【００１２】
この手法の変形例は、最初に、集合{R,S1,S2,...}から相互排他部分集合R,G1,G2,...を作成し、次いで、確率p(w/G)にわたる確率の加重平均を計算することであり、重みは、データ尤度p(DR/DG)に対応する。
【００１３】
最後のステップにおいて、新しい文書dのために、確率p(w/R)にわたる確率を使用することによって、文書dがクラスRに属する確率を計算する。たとえば、ナイーブベイズ仮定を使用し、確率p(w/R)にわたる確率によってp(d/R)を計算する(ベイジアンナイーブベイズ)。
【発明の効果】
【００１４】
本発明は、Rの外側のクラスの単語確率を使用することによって、単語wがクラスRに属するテキスト中に出現する確率を平滑化する効果を有する。本発明は、追加のヘルドアウトトレーニングデータに頼ることなく、これを達成する。
【図面の簡単な説明】
【００１５】
【図１】従来の研究によって提案されたシステムの機能的構造を示すブロック図である。
【図２】本発明の第1の例示的な実施形態による文書分類システムの機能的構造を示すブロック図である。
【図３】本発明の第2の例示的な実施形態による文書分類システムの機能的構造を示すブロック図である。
【図４】第1の実施形態に関連する一例を示す図である。
【図５】第2の実施形態に関連する一例を示す図である。
【発明を実施するための形態】
【００１６】
<第1の例示的な実施形態>
コンピュータシステムによって通常実行される主要なアーキテクチャは、図2に記載されている。テキストが領域Rについてであるか否か(¬Rによって示す)に興味を持っていると仮定する。地理的領域の類推により、「領域」という用語を使用するが、これは、より抽象的に「カテゴリ」または「クラス」としてみなされ得ることは明らかである。さらに、図2において、X<=Yは、文書セットYが文書セットXを含むことを意味する。
【００１７】
θを、ハードディスクドライブなどの非一時的コンピュータ記憶媒体1内に記憶されたすべてのトレーニング文書Dを生成する本発明のモデルのパラメータのベクトルとする。本発明の手法は、以下のように確率p(D)を最適化しようとする。
p(D)=∫p(D|θ)p(θ)dθ
【００１８】
以下において、以下のように計算され得るp(D/θ)に焦点を合わせる。
【００１９】
【数１】
2017501488.tif 000003
【００２０】
ここで、Dは、文書{d1,d2,...}を含むトレーニングデータであり、各文書diのための対応するラベルは、l(di)を指す(第1の式は、i.i.d仮定により保持する)。本発明の状況において、l(di)は、文書diが領域Rに属することを表すラベル、または、領域Rに属さないことを表すラベルのいずれかであり、すなわち、l(di)∈{R,¬R}である。
【００２１】
本発明のモデルは、ナイーブベイズ仮定を使用し、したがって、以下を保持する。
【００２２】
【数２】
2017501488.tif 000004
【００２３】
単語の集合Fは、本発明の特徴空間である。それは、トレーニングデータD内に出現したすべての単語、または部分集合(たとえば、名前付きエンティティのみ)を含むことができる。本発明のモデルは、領域Rに属する文書を仮定すれば、単語wが、確率θwを有するベルヌーイ分布によって生成される。類似して、領域¬Rに属する文書に関して、単語wは、確率
【００２４】
【数３】
2017501488.tif 000005
【００２５】
を有するベルヌーイ分布によって生成される。それは、本発明が、ここで2つの場合のみを区別する、すなわち、単語wが文書中に(1回もしくは複数回)出現するか否か、または、単語wが出現しないか否かを区別することを意味する。
【００２６】
本発明は、最大尤度手法を使用してp(l(di)|θ)を信頼可能なように推定することができると仮定し、したがって、ПiПw∈Fp(w|l(di),θ)という項に焦点を合わせる。
【００２７】
【数４】
2017501488.tif 000006
【００２８】
ここで、nRおよびn¬Rは、それぞれ、Rおよび¬Rに属する文書の数であり、cwは、Rに属し、単語wを含む文書の数であり、類似して、dwは、¬Rに属し、単語wを含む文書の数である。本発明は、領域¬Rが非常に大きく、すなわち、n¬Rが非常に大きいと仮定しているので、
【００２９】
【数５】
2017501488.tif 000007
【００３０】
のための最大尤度(または、有益性が低い事前確率を有する最大事後確率)推定を使用することができる。したがって、θwを推定する方法に焦点を合わせ、または、より正確に言えば、分布p(θw)を推定する方法に焦点を合わせる。1つのθwの本発明の選択は、以下の係数によってのみp(D/θ)に影響を及ぼすことになる。
【００３１】
【数６】
2017501488.tif 000008
【００３２】
この係数は、実際には、確率p(DR/θw)に対応し、ここで、DRは、領域Rに属する(トレーニング)文書の集合である。
【００３３】
[p(θw)を推定する]
まず、確率θwが、確率p(w/R)、すなわち、領域Rに属する文書が単語wを(1回または複数回)含む確率に対応することを思い出されたい。確率p(θw)を推定するために、単語がベルヌーイ試行によって生成されたことを使用する。このベルヌーイ試行のサンプルサイズは、
nR:=|{d|l(d)=R}|
である。
【００３４】
このモデルを使用して、
【００３５】
【数７】
2017501488.tif 000009
【００３６】
であるp(w/R)の最大尤度推定値を導出することができ、ここで、単語wを含む領域R内の文書の数をcR(w)によって示す。この推定値の問題は、nRが小さい場合、信頼できないことである。したがって、Rを含み、Rよりも大きいかRに等しい、すなわち、nS≧nRの領域Sを推定値として使用することを示唆する。p(w/R)の最大尤度推定値は、
【００３７】
【数８】
2017501488.tif 000010
【００３８】
になる。
【００３９】
このように、真の(しかし、未知の)確率p(w/R)のより堅牢な推定値を得ることができる。しかしながら、それがp(w/S)の確率の方に偏っていることは、明らかである。p(w/S)およびp(w/R)の真の確率が同一であることを知っていた場合、推定値ML(p(w|R))Sは、ML(p(w|R))Rよりもよい推定値を与えることになる。明らかに、Sを選択するときにトレードオフが存在し、SがRとほぼ同じサイズである場合、p(w/S)およびp(w/R)の真の確率が同一である高い可能性が存在する。しかしながら、同じサンプルサイズは、ほとんど増加しない。他方において、Sが非常に大きい場合、p(w/S)およびp(w/R)の真の確率が異なる高い可能性が存在する。このトレードオフは、時には、特異性と信頼性との間のトレードオフとも呼ばれる(非特許文献2を参照)。DRは、領域R内の観察された文書を示すものとする。p(θw)を推定するための明白な解決策は、
p(θw|DR)∝p(DR|θw)・p0(θw)
によって計算されるp(θw/DR)を使用することであり、ここで、前のp0(θw)のために、ハイパーパラメータα0およびβ0を有するベータ分布を使用する。ここで、
【００４０】
【数９】
2017501488.tif 000011
【００４１】
と書くことができ、ここで、cR(w)を省略してcRと書いた。(また、以下において、単語wを指していることが文脈から明らかである場合、cR(w)の代わりに単にcRと書く。)
【００４２】
しかしながら、本発明の状況において、サンプルサイズnRは、小さく、これは、比較的平坦な、すなわち、有益性が低いθwの分布をもたらすことになる。したがって、本発明の手法は、より大きいサンプルサイズnsを有するSを使用して、θwにわたる確率分布を推定することを示唆する。DSは、領域S内の観察された文書を示すものとする。p(θw/DS)と類似して、
【００４３】
【数１０】
2017501488.tif 000012
【００４４】
によって計算されるp(θw/DS)を用いてp(θw)を推定する。
【００４５】
正規化係数を明確にし、これは、
【００４６】
【数１１】
2017501488.tif 000013
【００４７】
のように書かれ得、ここで、B(α,β)は、ベータ関数である。
【００４８】
本発明の目標は、最適なSを見つけることであるが、観測データ(トレーニングデータ)Dの確率、すなわち、p(D)を最大にするS≧Rを最適として定義する。領域R内の出現確率(すなわちθw)の推定に焦点を合わせているので、それは、p(DR)を最大化するのに十分である(これは、p(D)=p(DR)・p(D¬R)であり、p(D¬R)は、θwに対して一定であるため)。p(DR)は、以下、
【００４９】
【数１２】
2017501488.tif 000014
【００５０】
のように計算され得、ここで、pw(DR)としてEp(θ)[p(DR/θw,DS)]を定義する。確率p(θw)を推定するためにDSを使用することを明示的に明らかにするために、pw(DR)の代わりにpw(DR/DS)と書く。pw(DR/DS)は、以下、
pw(DR|DS)=Ep(θ)[p(DR|θw,DS)]=∫p(DR|θw,DS)p(θw|DS)dθw
=∫p(DR|θw)p(θw|DS)dθw
のように計算される。式(1)および式(2)を使用して、
【００５１】
【数１３】
2017501488.tif 000015
【００５２】
と書くことができる。
【００５３】
【数１４】
2017501488.tif 000016
【００５４】
なので、後項は、ちょうどベータ分布の正規化定数であることに留意されたい。したがって、pw(DR/DS)は、単に以下のように計算され得る。
【００５５】
【数１５】
2017501488.tif 000017
【００５６】
p(θw)を推定するための本発明の手順を、以下のように要約することができる。Sのためのいくつかの候補、すなわち、S1、S2、S3、...を仮定すれば、
【００５７】
【数１６】
2017501488.tif 000018
【００５８】
を使用することによって、p(θw)を推定するための最適なS*を選択し、ここで、p(DR/DS)は、式(3)を使用して計算される。一般的に、各単語wについて、異なる外側領域Sが最適である。p(θw)の推定値は、次のとおりである。
p(θw|DS*)
【００５９】
p(θw|DS*)の計算は、θwのための平滑化された推定を計算することと考えることができ、これは、図2中の構成要素10を指し、さらに、p(DR/DS)に対して最適な平滑化された重みを選択することは、図2中の構成要素20として挙げられる。この手法の変形例は、すべてのwのために同じ外側領域Sを使用することであるが、最適なS*は、
【００６０】
【数１７】
2017501488.tif 000019
【００６１】
を使用して選択される。
【００６２】
一例は、図4中に示されている。
【００６３】
[分類]
ここで、新しい文書dに関して、新しい文書dが領域Rに属しているか否かを決定するために、各単語w∈Fに関する推定値p(θw)を使用する方法を示す。文書dは、トレーニングデータDに含まれないことに留意されたい。これは、図2中の構成要素30と、図3中の構成要素31とに対応する。この分類のために、以下
【００６４】
【数１８】
2017501488.tif 000020
【００６５】
のように上記で説明したモデルとともにトレーニングデータDを使用する。確率は、以下のように計算され得る。
p(l(d)=l|D,d)∝p(d|D,l(d)=l)・p(l(d)=l|D)
Dは、十分に大きいと仮定し、したがって、最大尤度(ML)または最大事後確率(MAP)手法を用いてp(l(d)=l/D)を推定する。p(d/D,l(d)=l)は、以下のように計算される。
【００６６】
【数１９】
2017501488.tif 000021
【００６７】
ここで、θおよび
【００６８】
【数２０】
2017501488.tif 000022
【００６９】
は、それぞれ、各単語wについて確率θwおよび
【００７０】
【数２１】
2017501488.tif 000023
【００７１】
を含むパラメータの各ベクトルである。l=¬Rに関して、D¬Rが十分に大きいと仮定しているので、θ推定値のための推定のためにMLまたはMAPを単純に使用することができる。l=Rの場合に関して、
【００７２】
【数２２】
2017501488.tif 000024
【００７３】
を有し、ここで、S*wは、式(4)において指定した単語wのための最適なSであり、または、wと無関係なS*wを式(5)において指定した値に設定し、dwは、w∈dである場合、1であるように、そうでない場合、0であるように定義される。
【００７４】
p(d/D,l(d)=l)を計算するためのθwのすべての可能な選択にわたって積分することは、時には、ベイジアンナイーブベイズと呼ばれる(たとえば、「Bayesian Reasoning and Machine Learning」、D. Barber、2010、208〜210ページを参照)。θwのすべての可能な値にわたって積分する代わりに、たとえば、以下の(平滑化)ML推定されたような、θwの点推定を使用することができることに留意されたい。
【００７５】
【数２３】
2017501488.tif 000025
【００７６】
<第2の例示的な実施形態>
p(θw)を推定するための唯一のSを選択する代わりに、領域Rと、すべてのその利用可能な外側領域S1、S2、...とを使用し、それらに適切に重み付けすることができる。この考え方は、図3に概説されている。まず、相互に排他的な領域G1、G2、...が与えられていると仮定する。前のとおりに、Giがθwを推定するために使用するのに最適な領域であると仮定した場合、p(θw)の推定は、p(θw/DGi)である。Giおよびp(θw/DGi)の計算は、図3中の構成要素11として挙げられている。しかしながら、前とは対照的に、唯一のGiを選択する代わりに、すべてを選択し、Giがθwを推定するのに最適な領域である確率によってそれらに重み付けする。この確率をp(Gi)と示す。次いで、θwの推定値は、以下のように書かれ得る。
【００７７】
【数２４】
2017501488.tif 000026
【００７８】
【数２５】
2017501488.tif 000027
【００７９】
と、
p(DG)∝p(DR|DG)
とを仮定し、ここで、確率p(DR|DG)は、式(3)において説明したように計算される。すなわち、これは、Gがp(θw)を推定するのに最適な領域である確率が尤度p(DR/DG)に比例すると仮定することを意味する。p(DR/DG)は、DGを用いてp(θw)を推定したときトレーニングデータDRを観察する尤度であることを思い出されたい。式(200)を使用するp(θw)の計算は、図3中の構成要素21に挙げられている。
【００８０】
本発明の設定において、S1、S2、...は、すべてRの外側領域であり、したがって、相互に排他的ではないとする。したがって、領域G1、G2、...を、以下の
G1:=R、G2:=S1＼R、G3:=S2＼S1、G4:=S3＼S2、...
のように定義し、ここで、R⊂S1⊂S2⊂S3...と仮定する。
【００８１】
一例は、対応する相互に排他的な領域G1、G2、およびG3とともに図4中と同じ(トレーニング)データを示す図5に与えられている。G1は、6つの文書を含み、そのうちの2つの文書が単語wを含むRと同一である。G2は、3つの文書を含み、そのうちの1つの文書が単語wを含む。G3は、3つの文書を含み、そのうちのどの文書も単語wを含まない。式(3)を使用し、
p(DR|DG1)=0.0153
p(DR|DG2)=0.0123
p(DR|DG3)=0.0017
を得る。また、p(DG)の確率は、合計して1にならなければならないので、
p(DG1)=0.52
p(DG2)=0.42
p(DG3)=0.06
を得る。
【００８２】
上記の例示的な実施形態の文書分類方法は、専用のハードウェアによって実現され得、または、メモリおよびDSP(デジタル信号プロセッサ)もしくは他の計算および処理デバイスによって構成され得る。他方において、機能は、文書分類方法のステップを実現するために使用されるプログラムの実行によって実現され得る。
【００８３】
さらに、文書分類方法のステップを実現するためのプログラムは、コンピュータ可読記憶媒体上に記録され得、この記憶媒体上に記録されたプログラムは、文書分類処理を実行するために、コンピュータシステムによって読み出され得、実行され得る。ここで、「コンピュータシステム」は、OS、周辺機器、または他のハードウェアを含むことができる。
【００８４】
さらに、「コンピュータ可読記憶媒体」は、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリもしくは他の書き込み可能な不揮発性メモリ、CD-ROMもしくは他のリムーバブル媒体、または、ハードディスク、もしくはコンピュータシステム内に組み込まれた他の記憶システムを意味する。
【００８５】
さらに、「コンピュータ可読記憶媒体」は、プログラムがインターネット、他のネットワーク、電話回路、または他の通信回路を介して送信されるとき、サーバまたはクライアントとして機能するコンピュータシステム内の、揮発性メモリ(たとえば、DRAM(ダイナミックランダムアクセスメモリ))などの、プログラムを一定時間保持する部材も含む。
【産業上の利用可能性】
【００８６】
本発明は、ツイートが小さい領域Rについてのものであるか否かを正確に推定することを可能にする。ツイートは、地震のような重要なイベントについて報告した可能性があるが、どの領域からツイートが送られたのか知らないことは、情報を役に立たなくする。残念ながら、大部分のツイートは、地理的情報を含まず、これは、テキストの内容に基づいて位置を推定することを必要にする。テキストは、ツイートが特定の領域Rから送られたものであるか否かを決定するのを助けることができる地域の店舗または地域の方言に言及する単語を含む可能性がある。領域Rが小さくなった場合、分類結果を正確に保持したいことは明らかである。しかしながら、Rが小さくなると、トレーニングデータインスタンスの少量だけが、ツイートが領域Rについてのものであるか否かを推定するために利用可能になる。
【００８７】
別の重要な用途は、テキストが特定の事前定義されたクラスRについてのものであるか否かを決定することであり、ここで、Rは、1つまたは複数の他のクラスのサブクラスである。この問題設定は、階層テキスト分類において典型的である。たとえば、テキストが「日本における野球」というクラスに属するか否かを知りたいが、このクラスは、「野球」のサブクラスであり、「野球」は、「スポーツ」のサブクラスである、などである。
【符号の説明】
【００８８】
R  領域、クラス、都市
S1  外側領域、クラス
S2  外側領域、クラス
G1  領域
G2  領域
G3  領域
【図１】
2017501488.tif 000028
【図２】
2017501488.tif 000029
【図３】
2017501488.tif 000030
【図４】
2017501488.tif 000031
【図５】
2017501488.tif 000032
【国際調査報告】
2017501488.tif 000033