(57)【要約】【課題】単語のカテゴリ分類の精度向上の実現を支援することを目的とする。【解決手段】複数の文章から、単語を抽出し、単語に対応するカテゴリの情報を含むカテゴリ辞書に基づいて、抽出された単語のうち、カテゴリ辞書に登録されている単語のカテゴリを決定し、複数の文章に基づいて、カテゴリが決定された単語の分散表現を取得し、取得された分散表現と、決定されたカテゴリと、に基づいて、分散表現で表された単語のカテゴリを分類する分類モデルを学習する。【選択図】図５
2019012457.tif 000002
【特許請求の範囲】
【請求項１】
複数の文章から、単語を抽出する抽出手段と、
単語に対応するカテゴリの情報を含むカテゴリ辞書に基づいて、前記抽出手段により抽出された単語のうち、前記カテゴリ辞書に登録されている単語のカテゴリを決定する決定手段と、
前記複数の文章に基づいて、前記決定手段によりカテゴリが決定された単語の分散表現を取得する取得手段と、
前記取得手段により取得された分散表現と、前記決定手段により決定されたカテゴリと、に基づいて、分散表現で表された単語のカテゴリを分類する分類モデルを学習する学習手段と、
を有する情報処理装置。
【請求項２】
入力された文章の述語に係る文節に含まれる単語のカテゴリを分類する分類手段と、
意味フレーム辞書を用いて、前記述語と、前記文節と、前記分類手段により分類された前記単語のカテゴリと、に基づいて、前記述語に意味を付与し、前記文節に意味役割を付与する付与手段と、
を更に有する請求項１記載の情報処理装置。
【請求項３】
第１の単語と関係性を有する第２の単語を特定する第１の特定手段と、
前記第１の単語と類義する第３の単語と前記関係性を有し、かつ、分散表現の意味空間上における前記第３の単語との関係が、前記意味空間上における前記第１の単語と前記第１の特定手段により特定された前記第２の単語との関係に類似する第４の単語を特定する第２の特定手段と、
前記第１の特定手段により特定された前記第２の単語のカテゴリが前記第２の特定手段により特定された前記第４の単語のカテゴリと異なるか否かに基づいて、前記第２の単語と前記第４の単語とについて、カテゴリが不適切な可能性があるか否かを決定する決定手段と、
前記決定手段により前記第２の単語と前記第４の単語とについて、カテゴリが不適切な可能性があることが決定された場合、前記第２の単語と前記第４の単語との一方又は双方について、カテゴリを更新する更新手段と、
を更に有し、
前記学習手段は、前記更新手段によりカテゴリが更新された単語に基づいて、再度、前記分類モデルの学習を行う請求項１又は２記載の情報処理装置。
【請求項４】
前記意味空間は、前記意味空間上の各座標が単語の分散表現が示すベクトルを示す空間であり、
前記第２の特定手段は、前記第３の単語と前記関係性を有する単語を候補単語として、前記意味空間上における前記第３の単語と前記候補単語との関係を示す第１の関係ベクトルが、前記意味空間上における前記第１の単語と前記第２の単語との関係を示す第２の関係ベクトルと類似する場合、前記候補単語を、前記第４の単語として特定する請求項３記載の情報処理装置。
【請求項５】
前記第２の特定手段は、前記意味空間上における前記第３の単語が示すベクトルと前記候補単語が示すベクトルとの差を示すベクトルである前記第１の関係ベクトルが、前記意味空間上における前記第１の単語が示すベクトルと前記第２の単語が示すベクトルとの差を示すベクトルである前記第２の関係ベクトルと類似する場合、前記候補単語を、前記第４の単語として特定する請求項４記載の情報処理装置。
【請求項６】
前記意味空間は、前記意味空間上の各座標が単語の分散表現が示すベクトルを示す空間であり、
前記第２の特定手段は、前記第３の単語と前記関係性を有する単語を候補単語として、前記意味空間上における前記候補単語が示すベクトルと、前記第３の単語が示すベクトルから前記第１の単語が示すベクトルを引き前記第１の特定手段により特定された第２の単語が示すベクトルを加えたベクトルと、の類似度が予め定められた閾値以上となる場合、前記候補単語を、前記第４の単語として特定する請求項３記載の情報処理装置。
【請求項７】
前記第１の特定手段により特定された前記第２の単語のカテゴリが前記第２の特定手段により特定された前記第４の単語のカテゴリと異なるか否かを示す情報を、出力する出力手段を更に有する請求項３乃至６何れか１項記載の情報処理装置。
【請求項８】
前記第１の特定手段により特定された前記第２の単語のカテゴリが、前記第２の特定手段により特定された前記第４の単語のカテゴリと異なる場合、前記第２の単語と前記第４の単語との一方又は双方のカテゴリの指定を受付ける受付手段を更に有し、
前記更新手段は、前記第２の単語のカテゴリが前記第４の単語のカテゴリと異なる場合、前記受付手段により受付けられた指定に基づいて、前記第２の単語と前記第４の単語との一方又は双方について、カテゴリを更新する請求項３乃至７何れか１項記載の情報処理装置。
【請求項９】
前記更新手段は、前記第１の特定手段により特定された前記第２の単語のカテゴリが前記第２の特定手段により特定された第４の単語のカテゴリと異なり、前記前記第２の単語と前記第４の単語とのうちの一方についてカテゴリが確定されている場合、前記前記第２の単語と前記第４の単語とのうちの他方についてのカテゴリを、前記一方のカテゴリに更新する請求項３乃至７何れか１項記載の情報処理装置。
【請求項１０】
第１の単語と関係性を有する第２の単語を特定する第１の特定手段と、
前記第１の単語と類義する第３の単語と前記関係性を有し、かつ、分散表現の意味空間上における前記第３の単語との関係が、前記意味空間上における前記第１の単語と前記第１の特定手段により特定された前記第２の単語との関係に類似する第４の単語を特定する第２の特定手段と、
前記第１の特定手段により特定された前記第２の単語のカテゴリが前記第２の特定手段により特定された前記第４の単語のカテゴリと異なるか否かに基づいて、前記第２の単語と前記第４の単語とについて、カテゴリが不適切な可能性があるか否かを決定する決定手段と、
を有する情報処理装置。
【請求項１１】
情報処理装置が実行する情報処理方法であって、
複数の文章から、単語を抽出する抽出ステップと、
単語に対応するカテゴリの情報を含むカテゴリ辞書に基づいて、前記抽出ステップで抽出された単語のうち、前記カテゴリ辞書に登録されている単語のカテゴリを決定する決定ステップと、
前記複数の文章に基づいて、前記決定ステップでカテゴリが決定された単語の分散表現を取得する取得ステップと、
前記取得ステップで取得された分散表現と、前記決定ステップで決定されたカテゴリと、に基づいて、分散表現で表された単語のカテゴリを分類する分類モデルを学習する学習ステップと、
を含む情報処理方法。
【請求項１２】
情報処理装置が実行する情報処理方法であって、
第１の単語と関係性を有する第２の単語を特定する第１の特定ステップと、
前記第１の単語と類義する第３の単語と前記関係性を有し、かつ、分散表現の意味空間上における前記第３の単語との関係が、前記意味空間上における前記第１の単語と前記第１の特定ステップで特定された前記第２の単語との関係に類似する第４の単語を特定する第２の特定ステップと、
前記第１の特定ステップで特定された前記第２の単語のカテゴリが前記第２の特定ステップで特定された前記第４の単語のカテゴリと異なるか否かに基づいて、前記第２の単語と前記第４の単語とについて、カテゴリが不適切な可能性があるか否かを決定する決定ステップと、
を含む情報処理方法。
【請求項１３】
コンピュータを、請求項１乃至９何れか１項記載の情報処理装置の各手段として、機能させるためのプログラム。
【請求項１４】
コンピュータを、請求項１０記載の情報処理装置の各手段として、機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、情報処理装置、情報処理方法及びプログラムに関する。
【背景技術】
【０００２】
ユーザからの問い合わせに自動応答するチャットボット等では、自然言語処理の技術を用いて、ＦＡＱや問い合わせ対応ログ等のテキストデータから学習し、文章の意味解釈等を行う。このような自然言語処理においては、文の構造（形態素、係り受け構造等）と意味（述語項構造、意味役割、意味フレーム等）とを解析する技術が必要とされる。例えば、意味解析システムには、入力文を形態素解析と係り受け解析して得られた文節に対してカテゴリ辞書を参照してカテゴリを付与し、その後、述語とそれに係る文節のカテゴリ情報をキーに意味フレーム辞書を参照して述語項構造解析を行い、その後、述語の語義（意味フレーム）を同定して、係り関係にある項の意味役割を付与するものがある。しかし、カテゴリ辞書に登録されていない単語が文中に含まれる場合、そのままではキーとなる文節のカテゴリを決定できないため意味フレーム辞書を引けず、意味役割を付与できない問題が起こる。つまり、意味解析できる文章の範囲は、カテゴリ辞書に登録された単語の範囲によって制限される。単語のカテゴリを正しく決定することは重要なステップである。
カテゴリ辞書に登録された単語数を増やせば、単語のカテゴリをより正しく決定することができるが、人手による単語登録には単語の意味に関する専門知識が必要である。専門用語の数が多かったり日々増えたりする領域（ドメイン）において、人手のみでカテゴリ辞書を作成するのは労力が必要である。そこで、カテゴリ辞書に登録された単語の類義語を抽出し、類義語に対しても前記単語と同一のカテゴリを指定することで、登録単語数を増やす方法が考えられる。
類義語の抽出技術として、例えば、特許文献１には、単語共起データに基づき、入力された単語の類義語を抽出する技術が開示されている。特許文献１に開示された技術は、入力単語と類義語候補の共起頻度に基づいているため、意味的には関係ないが共起する単語も類義語と判定することがあり、精度が低いという問題がある。
また、特許文献２には、テキストから抽出した単語の組に対して生成した素性ベクトルに対し、類義語辞書を参照してラベルを付与し学習を行うことで、任意の単語の組の２つの単語が類義語か否かを判定する技術が開示されている。特許文献２に開示された類義語判定技術は教師あり学習の一種であり、精度を向上させるためには、多量の正解データを要する。また、類義語辞書は類義語である単語ペアが格納されたデータであるから、カテゴリ辞書を正解データとして利用することができないという問題がある。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特許第５６１１１７３号公報
【特許文献２】特許第５３５６１９７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上記のような問題により、単語のカテゴリが決定できなかったり、誤ったカテゴリが決定されたりして、単語のカテゴリ分類が失敗する場合がある。そこで、本発明は、単語のカテゴリ分類の精度向上の実現を支援することを目的とする。
【課題を解決するための手段】
【０００５】
そこで、本発明の情報処理装置は、複数の文章から、単語を抽出する抽出手段と、単語に対応するカテゴリの情報を含むカテゴリ辞書に基づいて、前記抽出手段により抽出された単語のうち、前記カテゴリ辞書に登録されている単語のカテゴリを決定する決定手段と、前記複数の文章に基づいて、前記決定手段によりカテゴリが決定された単語の分散表現を取得する取得手段と、前記取得手段により取得された分散表現と、前記決定手段により決定されたカテゴリと、に基づいて、分散表現で表された単語のカテゴリを分類する分類モデルを学習する学習手段と、を有する。
【発明の効果】
【０００６】
本発明によれば、単語のカテゴリ分類の精度向上の実現を支援することができる。
【図面の簡単な説明】
【０００７】
【図１】図１は、情報処理装置のハードウェア構成の一例を示す図である。
【図２】図２は、カテゴリ辞書の一例を示す図である。
【図３】図３は、意味フレーム辞書の一例を示す図である。
【図４】図４は、情報処理装置の機能構成の一例を示す図である。
【図５】図５は、情報処理装置の処理の一例を示すフローチャートである。
【図６】図６は、情報処理装置の処理の一例を示すフローチャートである。
【図７】図７は、情報処理装置の処理の一例を示すフローチャートである。
【図８】図８は、意味空間における単語同士の関係の一例を示す図である。
【図９】図９は、単語同士の関係性の一例を示す図である。
【発明を実施するための形態】
【０００８】
以下、本発明の実施形態について図面に基づいて説明する。
＜実施形態１＞
（本実施形態の処理の概要）
本実施形態の処理の概要を説明する。本実施形態では、情報処理装置１００が処理の主体であるとする。情報処理装置１００は、パーソナルコンピュータ（ＰＣ）、サーバ装置、タブレット装置、スマートホン等の情報処理装置である。
本実施形態では、情報処理装置１００は、課題管理システムにおける複数のチケットデータを含むコーパスデータから、文章中の単語を抽出する。コーパスデータは、チケットデータ以外の文章を含むこととしてもよい。そして、情報処理装置１００は、カテゴリ辞書を参照して、コーパスデータから抽出された単語のうち、カテゴリ辞書に登録されている単語についてカテゴリを決定する。カテゴリとは、単語の性質を区分する上での分類である。そして、情報処理装置１００は、カテゴリを決定した各単語の分散表現を取得する。そして、情報処理装置１００は、カテゴリを決定した各単語の分散表現と、カテゴリを決定した各単語のカテゴリと、に基づいて、カテゴリの分類に利用されるカテゴリ分類モデルを学習する。カテゴリ分類モデルは、例えば、単語の分散表現を入力として受付け、その単語のカテゴリを出力として返す分類器である。
情報処理装置１００は、学習した分類器を用いて、コーパスデータから抽出された単語のうち、カテゴリ辞書に登録されていない単語のカテゴリを決定する。これにより、情報処理装置１００は、コーパスデータから抽出された単語のうち、カテゴリ辞書に登録されていない単語についても、カテゴリを決定することができる。
【０００９】
また、情報処理装置１００は、カテゴリを決定した各単語について、不適切なカテゴリが付与されている単語を検知する。情報処理装置１００は、互いに類義する単語Ａと単語Ｂとを特定する。そして、情報処理装置１００は、単語Ａとある関係性を有する単語Ｃと、単語Ｂと同様の関係性を有する単語Ｄと、を特定する。情報処理装置１００は、特定した単語Ａ、Ｂ、Ｃ、Ｄの分散表現の意味空間上での位置関係に基づいて、単語Ｃ、Ｄについて、カテゴリが不適切な可能性があることを検知する。
情報処理装置１００は、単語Ｃ、Ｄについてカテゴリを修正し、カテゴリを修正した単語に基づいて、カテゴリ分類モデルを学習し直す。
【００１０】
（情報処理装置のハードウェア構成）
図１は、情報処理装置１００のハードウェア構成の一例を示す図である。
情報処理装置１００は、ＣＰＵ１０１、主記憶装置１０２、補助記憶装置１０３、ネットワークＩ／Ｆ１０４、入出力Ｉ／Ｆ１０５を含む。各要素は、システムバス１０６を介して、相互に通信可能に接続されている。
ＣＰＵ１０１は、情報処理装置１００を制御する中央演算装置である。主記憶装置１０２は、ＣＰＵ１０１のワークエリアやデータの一時的な記憶場所として機能するＲａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ（ＲＡＭ）等の記憶装置である。
【００１１】
補助記憶装置１０３は、各種設定情報、各種プログラム、コーパスデータ、教師データ、各種辞書データ、各種モデル情報、各種閾値の情報等を記憶する記憶装置である。本実施形態では、補助記憶装置１０３は、文章データである課題管理システムにおけるチケットデータを複数含むコーパスデータを記憶する。また、補助記憶装置１０３は、カテゴリ辞書データを記憶する。カテゴリ辞書データには、複数の単語が登録されており、登録されている各単語のカテゴリの情報が含まれる。カテゴリ辞書データは、例えば、単語と、カテゴリと、の対応を示すテーブル形式のデータである。図２は、カテゴリ辞書データの一例を示す図である。図２の例では、単語の項目は、登録されている各単語を示し、カテゴリの項目は、対応する単語のカテゴリを示す。
また、補助記憶装置１０３は、意味フレーム辞書データを記憶する。意味フレーム辞書データは、述語と、その述語に係る文節のカテゴリと、が複数登録されており、登録されている「述語＋その述語に係る文節のカテゴリ」に対応する意味フレーム（意味役割・意味等の情報）が含まれる。意味フレーム辞書データは、例えば、述語と、その述語に係る文節のカテゴリと、意味フレームと、の対応を示すテーブル形式のデータである。図３は、意味フレーム辞書データの一例を示す図である。図３の例では、述語の項目は、登録されている述語を示し、「項」の項目は、対応する述語に係る文節の情報を示す。また、「カテゴリ」の項目は、対応する文節内の単語のカテゴリを示し、「格」の項目は、対応する文節内の単語に続く助詞を示し、「意味役割」の項目は、対応する文節の意味役割を示す。また、「述語の意味」の項目は、対応する述語の意味を示す。補助記憶装置１０３は、例えば、Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ（ＲＯＭ）、ハードディスクドライブ（ＨＤＤ）、ソリッドステートドライブ（ＳＳＤ）、フラッシュメモリ等の記憶媒体として、構成される。
ネットワークＩ／Ｆ１０４は、インターネットやＬＡＮ等のネットワークを介した外部の装置との間での通信に利用されるインターフェースである。入出力Ｉ／Ｆ１０５は、マウス、キーボード、タッチパネルの操作部等の入力装置からの情報の入力に利用されるインターフェースである。また、入出力Ｉ／Ｆ１０５は、ディスプレイ、タッチパネルの表示部、スピーカ等の出力装置への情報の出力に利用されるインターフェースである。
ＣＰＵ１０１が、補助記憶装置１０３に記憶されたプログラムに基づき処理を実行することで、図４で後述する情報処理装置１００の機能及び図５、６、７で後述するフローチャートの処理等が実現される。
【００１２】
（情報処理装置の機能構成）
図４は、情報処理装置１００の機能構成の一例を示す図である。
情報処理装置１００は、取得部４０１、学習部４０２、抽出部４０３、更新部４０４を含む。
取得部４０１は、補助記憶装置１０３に記憶されたコーパスデータ内の文章から、単語を抽出する。そして、取得部４０１は、コーパスデータに基づいて、抽出した単語の分散表現を取得する。
分散表現とは、単語を複数次元（例えば、１００〜３００次元）の実数ベクトルで表現する技術である。文章内の単語の意味は、周辺の単語（文脈語）から定まるとする分布仮説というものがある。分布仮説を前提とすると、単語を、各要素が各文脈語の出現確率を示すベクトルとして表現できる。文脈語となる単語は、膨大（１兆個以上）であるため、このベクトルのサイズも膨大（１兆以上の次元）となってしまい、ＰＣのメモリ等に格納不可なサイズとなる。しかし、このベクトルの要素は、ほとんどが０である。そのため、このベクトルは、圧縮が可能（例えば、１００〜３００次元のサイズに圧縮）である。分散表現では、分布仮説を前提として、単語がこのように圧縮されたベクトルとして表現されることとなる。
【００１３】
分散表現で表された単語同士は、単語同士の意味が近い程、近いベクトルとなる。この性質により、取得部４０１により抽出された単語の分散表現が示すベクトルは、意味が近いものほど近いベクトルとなる。
また、分散表現で表された単語には、次のような性質もある。即ち、単語（１）と単語（２）との関係と、単語（３）と単語（４）との関係と、が類似する程、単語（１）と単語（２）との差を示すベクトルと、単語（３）と単語（４）との差を示すベクトルと、が近しいベクトルになるという性質である。図７で後述する処理では、情報処理装置１００は、この性質を利用することで、正しくカテゴリが分類されていない単語を検出する。
【００１４】
学習部４０２は、補助記憶装置１０３に記憶されるカテゴリ辞書データに基づいて、取得部４０１により分散表現が取得された単語のカテゴリを決定する。この際、学習部４０２は、カテゴリ辞書データに登録されていない単語については、カテゴリを決定できないこととなる。そして、学習部４０２は、カテゴリを決定した単語の分散表現に基づいて、分散表現で表された単語のカテゴリの分類に利用されるカテゴリ分類モデルを学習する。
また、学習部４０２は、単語間の意味的関係の分類に利用される意味的関係分類モデルを学習する。単語間の意味的関係とは、一方の単語の意味と他方の単語の意味との間の関係である。単語間の意味的関係には、例えば、上位概念／下位概念関係（例えば、「国」と「日本」との関係）、類義関係（例えば、共に「国」の下位概念である「日本」と「米国」との関係）、包含関係（例えば、「車」と「タイヤ」とのように一方の中に他方が含まれる関係）等がある。
抽出部４０３は、特定の条件を満たす単語を、コーパスデータから抽出する。抽出部４０３は、コーパスデータから互いに類義する２つの単語を抽出したり、ある単語と意味的関係を有する単語を抽出したりする。
更新部４０４は、単語のカテゴリを更新する。
【００１５】
（カテゴリ分類モデルの学習処理）
図５は、情報処理装置１００の処理の一例を示すフローチャートである。図５を用いて、単語のカテゴリの分類に利用されるカテゴリ分類モデル等の学習処理の一例を説明する。
Ｓ５０１において、取得部４０１は、補助記憶装置１０３に記憶されたコーパスデータから、単語を抽出する。
Ｓ５０２において、取得部４０１は、補助記憶装置１０３に記憶されたカテゴリ辞書に基づいて、Ｓ５０１で抽出された単語のうち、カテゴリ辞書に登録されている単語のカテゴリを決定する。
Ｓ５０３において、取得部４０１は、補助記憶装置１０３に記憶されたコーパスデータに基づいて、Ｓ５０２でカテゴリが決定された全ての単語の分散表現を取得する。取得部４０１は、例えば、コーパスデータ内の文章データにおける単語とその単語の周辺の単語とに基づいて、教師なし学習（ｗｏｒｄ２ｖｅｃ等）により単語の分散表現を取得する。
Ｓ５０４において、学習部４０２は、Ｓ５０３で取得された分散表現と、Ｓ５０２でカテゴリが決定された単語のカテゴリと、に基づいて、カテゴリ分類モデルを学習する。
学習部４０２は、例えば、Ｓ５０３で取得された分散表現と、Ｓ５０３で取得された分散表現それぞれに対応するカテゴリと、を教師データとして、単語の分散表現を入力として、その単語のカテゴリを出力する識別器を、カテゴリ分類モデルとして学習する。学習部４０２は、この教師データを、補助記憶装置１０３に記憶する。学習部４０２は、例えば、識別器として、単純ベイズやサポートベクタマシン（ＳＶＭ）等を用いる。
本実施形態では、学習部４０２は、Ｓ５０４の処理で、Ｓ５０２でカテゴリが決定された全ての単語の分散表現と、対応するカテゴリと、を教師データとして、カテゴリ分類モデルを学習することとした。しかし、学習部４０２は、Ｓ５０２でカテゴリが決定された単語のうち、ランダムにサンプリングされた予め定められた数の単語の分散表現と、対応するカテゴリと、を教師データとして、カテゴリ分類モデルを学習することとしてもよい。
【００１６】
以上、図５の処理により、情報処理装置１００は、分散表現で表された単語のカテゴリの分類に利用されるカテゴリ分類モデルを学習した。これにより、情報処理装置１００は、分散表現で表された単語のカテゴリの分類を可能とすることができる。情報処理装置１００は、例えば、コーパスデータから抽出された単語の中から、カテゴリが未定のものを選択し、Ｓ５０３と同様の方法で選択した単語の分散表現を取得する。情報処理装置１００は、図５の処理で学習した分類モデルに、取得した分散表現を入力することで、その単語のカテゴリを決定できる。
また、情報処理装置１００は、カテゴリを決定した単語に基づいて、文章中の述語や単語に意味役割を付与することができる。情報処理装置１００は、文章から述語と、その述語に係る文節と、を抽出する。そして、情報処理装置１００は、抽出した文節に含まれる単語のカテゴリが未定である場合、その単語の分散表現を取得し、取得した分散表現を、学習した分類モデルに入力することで、その単語のカテゴリを決定する。そして、情報処理装置１００は、例えば、抽出した述語と、抽出した文節と、その文節に含まれる単語のカテゴリと、に基づいて、図３の意味フレーム辞書から、抽出した述語や抽出した文節中の単語の意味役割・意味を決定することができる。
【００１７】
（意味的関係分類モデルの学習処理）
図６は、情報処理装置１００の処理の一例を示すフローチャートである。図６を用いて、単語同士の意味的関係の分類に利用される意味的関係分類モデル等の学習処理の一例を説明する。
Ｓ６０１において、学習部４０２は、意味的関係分類モデルの学習を実行するか否かを判定する。学習部４０２は、例えば、予め補助記憶装置１０３に記憶された意味的関係分類モデルの学習を実行するか否かを示す情報に基づいて、意味的関係分類モデルの学習を実行するか否かを判定する。学習部４０２は、例えば、補助記憶装置１０３に記憶された意味的関係分類モデルの学習を実行するか否かを示す情報が、実行することを示す情報である場合、意味的関係分類モデルの学習を実行すると判定する。また、学習部４０２は、例えば、補助記憶装置１０３に記憶された意味的関係分類モデルの学習を実行するか否かを示す情報が、実行しないことを示す情報である場合、意味的関係分類モデルの学習を実行しないと判定する。
ＣＰＵ１０１は、例えば、入出力Ｉ／Ｆ１０５を介して接続された入力装置を介したユーザの操作に基づいて、補助記憶装置１０３に記憶された意味的関係分類モデルの学習を実行するか否かを示す情報を更新することができる。例えば、補助記憶装置１０３に予め学習された意味的関係分類モデルが記憶されている場合、ユーザは、意味的関係分類モデルの学習を要しないと考える場合がある。このような場合、ユーザは、補助記憶装置１０３に記憶された意味的関係分類モデルの学習を実行するか否かを示す情報の内容を、実行しないことを示すように更新するよう、入力装置を介して、情報処理装置１００に指示することとなる。
【００１８】
Ｓ６０２において、取得部４０１は、例えば、コーパスデータ内の文章データにおける単語とその単語の周辺の単語とに基づいて、教師なし学習（ｗｏｒｄ２ｖｅｃ等）により、コーパスデータ内の単語の分散表現を取得する。
Ｓ６０３において、学習部４０２は、意味的関係辞書（例えば、ＷｏｒｄＮｅｔ等）から、２つの単語とその単語同士の意味的関係との組を抽出する。
Ｓ６０４において、学習部４０２は、Ｓ６０２で取得された分散表現から、Ｓ６０３で抽出された全ての組に含まれる２つの単語の分散表現を取得する。そして、学習部４０２は、取得した２つの単語の分散表現と、Ｓ６０３で抽出された組に含まれる意味的関係と、の組を教師データとして、２つの単語を入力として意味的関係を出力する識別器を、意味的関係分類モデルとして学習する。学習部４０２は、例えば、識別器として、サポートベクタマシン（ＳＶＭ）等を用いる。
以上、図６の処理により、情報処理装置１００は、分散表現で表された２つの単語の意味的関係の分類に利用される意味的関係分類モデルを学習した。これにより、情報処理装置１００は、分散表現で表された２つの単語の意味的関係の分類を可能とすることができる。情報処理装置１００は、例えば、コーパスデータから抽出された２つの単語の分散表現を、図６の処理で学習した意味的関係分類モデルに入力することで、その単語同士の意味的関係を取得できる。
本実施形態では、学習部４０２は、Ｓ６０４の処理で、Ｓ６０３で抽出された全ての組に含まれる２つの単語の分散表現と、対応する関係性と、を教師データとして、意味的関係分類モデルを学習することとした。しかし、学習部４０２は、Ｓ６０４の処理で、Ｓ６０３で抽出された組のうち、ランダムにサンプリングされた予め定められた数の組に含まれる２つの単語の分散表現と、対応する関係性と、を教師データとして、意味的関係分類モデルを学習することとしてもよい。
【００１９】
（カテゴリの不適切な単語の特定処理）
教師データに含まれる単語に対応するカテゴリが不適切な単語が存在する場合や教師データに含まれる単語の数が十分でない場合、情報処理装置１００は、図５の処理で学習したカテゴリ分類モデルを用いて、適切に、分散表現で表された単語のカテゴリの分類を行うことができない。
このような場合、カテゴリ分類モデルを用いてカテゴリが分類された単語のうち、カテゴリの分類結果が不適切である単語のカテゴリを更新し、カテゴリが更新された単語に基づいて、再度、カテゴリ分類モデルを学習することで、カテゴリ分類モデルの分類精度を向上させることができる。例えば、教師データに含まれる単語のカテゴリが更新された場合、再度、教師データに基づいて、カテゴリ分類モデルを学習することで、カテゴリ分類モデルの分類精度を向上させることができる。また、例えば、教師データに含まれない単語のカテゴリが更新された場合、教師データにその単語を加えたものを新たな教師データとして、その教師データに基づいて、カテゴリ分類モデルを学習することで、カテゴリ分類モデルの分類精度を向上させることができる。
また、教師データにカテゴリの分類結果が不適切である単語が含まれるような場合、教師データから、これらの単語を除いて、再度、カテゴリ分類モデルを学習することで、カテゴリ分類モデルの分類精度の向上が期待できる。
このような処理を行い、単語のカテゴリ分類の精度向上を実現するためには、カテゴリが不適切である可能性のある単語を特定する必要がある。
そこで、単語のカテゴリ分類の精度向上を実現するために、カテゴリが不適切である可能性のある単語を特定したいという要望があった。
【００２０】
単語の分散表現には、２つの単語の関係と、別の２つの単語の関係と、が類似する程、分散表現の意味空間上でこれら２つの関係を示すベクトルは類似するという性質がある。例えば、「日本」という単語と「野球」という単語との関係が、「米国」という単語と「ホッケー」という単語との関係に類似するなら、分散表現の意味空間上における「日本」という単語と「野球」という単語との関係を示すベクトルと、分散表現の意味空間上における「米国」という単語と「ホッケー」という単語との関係を示すベクトルと、が類似することとなる。
分散表現の意味空間とは、空間内の各座標が、単語の分散表現が示すベクトルを表現する空間である。各座標が示すベクトルは、意味空間の原点を始点として、その座標を終点とするベクトルである。分散表現の意味空間の次元数は、単語の分散表現が示すベクトルと同じ次元である。例えば、分散表現の意味空間の次元数が２とすると、分散表現の意味空間上における座標（ｘ、ｙ）は、ベクトル（ｘ、ｙ）を示すこととなる。分散表現の意味空間上における２つの単語の関係を示すベクトルとは、単語同士がどのような関係であるかを示すベクトルであり、例えば、一方の単語が示すベクトルと、他方の単語が示すベクトルと、の差を示すベクトルである。
【００２１】
この性質から、以下のようなことが仮定できる。例えば、互いに類義する単語（Ｘ）と単語（Ｙ）とがあるとする。更に、単語（Ｘ）に関係性を有する単語（Ａ）と、単語（Ｘ）と単語（Ａ）との間の関係性と同様の関係性を単語（Ｙ）に有する単語（Ｂ）とがあるとする。また、分散表現の意味空間上における単語（Ｂ）と単語（Ｙ）との関係を示すベクトルと、分散表現の意味空間上における単語（Ａ）と単語（Ｘ）との関係を示すベクトルと、が類似するとする。この場合、単語（Ａ）と単語（Ｂ）とは、共に類義する単語と同様な関係を有する単語であり、同じカテゴリに属することが仮定できる。
本実施形態では、情報処理装置１００は、図５の処理で学習したカテゴリ分類モデルを利用して、補助記憶装置１０３に記憶されたコーパスデータに含まれる単語について、カテゴリを分類する。そして、情報処理装置１００は、図７で後述する処理で、この分散表現の性質に基づく仮定を利用して、カテゴリを分類したコーパスデータに含まれる単語から、カテゴリが不適切な可能性のある単語を特定する。そして、情報処理装置１００は、決定したカテゴリが不適切な可能性のある単語について、カテゴリを更新し、カテゴリを更新した単語を教師データとして利用して、再度、カテゴリ分類モデルを学習する。
【００２２】
図７は、情報処理装置１００の処理の一例を示すフローチャートである。図７を用いて、カテゴリが不適切な可能性のある単語を決定し、決定した単語のカテゴリを更新し、再度、カテゴリ分類モデルを学習する処理の一例について説明する。図７の処理における単語（Ｘ）は、第１の単語の一例である。図７の処理における単語（Ｙ）は、第３の単語の一例である。図７の処理における単語（Ａ）は、第２の単語の一例である。図７の処理における単語（Ｂ）は、第４の単語の一例である。
Ｓ７０１において、抽出部４０３は、補助記憶装置１０３に記憶されたコーパスデータから互いに類義する２つの単語を抽出する。抽出部４０３は、例えば、予め定められた単語について、同一の意味的関係を有する２つの単語を抽出することで、互いに類義する２つの単語を抽出する。抽出部４０３は、例えば、Ｓ６０４で学習された意味的関係分類モデルを用いて、予め定められた単語と意味的関係を有する単語を抽出する。抽出部４０３は、例えば、Ｓ６０４で学習された意味的関係分類モデルに、予め定められた単語と他の単語との２つの単語を入力し、その２つの単語の意味的関係を取得する。そして、抽出部４０３は、取得した意味的関係が、類義関係を示す関係である場合、その２つの単語を、互いに類義する２つの単語として抽出する。また、抽出部４０３は、例えば、予め学習された意味的関係分類モデルを用いて、予め定められた単語と意味的関係を有する単語を抽出することとしてもよい。本実施形態では、抽出部４０３は、予め定められた単語（「国」）と、同一の意味的関係（上位概念／下位概念関係）を有する単語（Ｘ）（「日本」）と単語（Ｙ）（「米国」）との２つの単語を抽出する。
【００２３】
Ｓ７０２において、抽出部４０３は、コーパスデータから、Ｓ７０１で抽出された単語（Ｘ）と関係性を有する単語（Ａ）を抽出する。本実施形態では、抽出部４０３は、コーパスデータから、単語（Ｘ）（「日本」）と共起関係を有する単語（Ａ）（「野球」）を抽出する。抽出部４０３は、例えば、コーパスデータに含まれる文章において、単語（Ｘ）の周辺に、どのような単語がどのような確率で出現するかを特定する。例えば、抽出部４０３は、コーパスデータに含まれる文章において、単語（Ｘ）の周辺に出現した各単語について、出現回数を集計し、集計した出現回数を、コーパスデータ内での単語（Ｘ）の出現回数で割ることで、各単語の出現確率を取得する。そして、抽出部４０３は、特定した確率が予め定められた閾値以上である単語を、単語（Ｘ）と共起関係にある単語（Ａ）として抽出する。
また、抽出部４０３は、例えば、Ｓ６０４で学習された意味的関係分類モデルを用いて、単語（Ｘ）と予め定められた意味的関係を有する単語を抽出してもよい。抽出部４０３は、例えば、Ｓ６０４で学習された意味的関係分類モデルに、単語（Ｘ）と他の単語とを入力し、出力された意味的関係が、予め定められた意味的関係である場合、単語（Ｘ）と共に意味的関係分類モデルに入力された単語を、単語（Ｘ）と予め定められた意味的関係を有する単語として抽出する。意味的関係の例としては、包含関係や類義関係がある。また、抽出部４０３は、例えば、補助記憶装置１０３に記憶された予め学習された意味的関係分類モデルを用いて、単語（Ｘ）と意味的関係を有する単語を抽出してもよい。また、抽出部４０３は、例えば、補助記憶装置１０３に予め記憶された意味的関係辞書を用いて、単語（Ｘ）と意味的関係を有する単語を抽出してもよい。
また、抽出部４０３は、単語（Ｘ）の分散表現（ベクトル）と類似するベクトルを分散表現とする単語を、単語（Ｘ）と類義関係を有する単語（Ａ）として抽出してもよい。
以下では、Ｓ７０１で抽出された単語（Ｘ）とＳ７０２で抽出された単語（Ａ）との関係性を、拡張共起関係とする。拡張共起関係は、例えば、共起関係や意味的関係、分散表現（ベクトル）の類似関係等の関係性である。
Ｓ７０２の処理は、第２の単語を特定する第１の特定処理の一例である。
【００２４】
Ｓ７０３において、抽出部４０３は、コーパスデータから、Ｓ７０１で抽出された単語（Ｙ）との間に、単語（Ｘ）と単語（Ａ）との間の拡張共起関係と同様の関係性を有し、分散表現の意味空間上における単語（Ｙ）との関係が、分散表現の意味空間上における単語（Ｘ）と単語（Ａ）との関係と類似する単語（Ｂ）を抽出する。本実施形態では、抽出部４０３は、分散表現の意味空間上における単語（Ｘ）と単語（Ａ）との関係を示すベクトル（例えば、単語（Ａ）−単語（Ｘ）が示すベクトル等）と、単語（Ｙ）と単語（Ｂ）との関係を示すベクトル（例えば、単語（Ｂ）−単語（Ｙ）が示すベクトル等）と、が類似する場合、分散表現の意味空間上における単語（Ｘ）と単語（Ａ）との関係と、単語（Ｙ）と単語（Ｂ）との関係と、が類似するとする。
そこで、抽出部４０３は、分散表現の意味空間上における単語（Ｘ）と単語（Ａ）との関係を示すベクトル（例えば、単語（Ａ）−単語（Ｘ）が示すベクトル等）と、単語（Ｙ）と単語（Ｂ）との関係を示すベクトル（例えば、単語（Ｂ）−単語（Ｙ）が示すベクトル等）と、が類似するように、単語（Ｂ）を抽出する。単語（Ａ）−単語（Ｘ）のベクトルは、分散表現の意味空間上における第１の単語と第２の単語との関係を示す第２の関係ベクトルの一例である。
【００２５】
抽出部４０３は、例えば、以下のようにして、単語（Ｂ）を抽出する。即ち、抽出部４０３は、例えば、コーパスデータから、単語（Ｙ）と共起関係を有する単語（Ｂ）を抽出する。抽出部４０３は、例えば、コーパスデータに含まれる文章において、単語（Ｙ）の周辺にどのような単語がどのような確率で出現するかを特定する。例えば、抽出部４０３は、コーパスデータに含まれる文章において、単語（Ｙ）の周辺に出現した各単語について、出現回数を集計し、集計した出現回数を、コーパスデータ内での単語（Ｙ）の出現回数で割ることで、各単語の出現確率を取得する。そして、抽出部４０３は、特定した確率が予め定められた閾値以上である単語を、単語（Ｙ）と共起関係にある単語（Ｂ）として抽出する。
また、抽出部４０３は、Ｓ６０４で学習された意味的関係分類モデルを用いて、単語（Ｙ）と、単語（Ｘ）と単語（Ａ）との間の関係性と同様の関係性を有する単語を、単語（Ｂ）の候補として抽出してもよい。また、抽出部４０３は、例えば、補助記憶装置１０３に記憶された予め学習された意味的関係分類モデルを用いて、単語（Ｙ）と意味的関係を有する単語を抽出してもよい。また、抽出部４０３は、例えば、補助記憶装置１０３に予め記憶された意味的関係辞書を用いて、単語（Ｙ）と意味的関係を有する単語を抽出してもよい。また、抽出部４０３は、単語（Ｙ）の分散表現（ベクトル）と類似するベクトルを分散表現とする単語を、単語（Ｙ）と類義関係を有する単語（Ｂ）として抽出してもよい。
そして、抽出部４０３は、単語（Ｂ）の候補から、分散表現の意味空間上における単語（Ｙ）との関係が、分散表現の意味空間上における単語（Ｘ）と単語（Ａ）との関係と類似する単語を、単語（Ｂ）として特定する。抽出部４０３は、例えば、分散表現の意味空間上における単語（Ａ）が示すベクトルと単語（Ｘ）が示すベクトルとの差を示すベクトルを、分散表現の意味空間上における単語（Ｘ）と単語（Ａ）との関係を示すベクトルとして取得する。そして、抽出部４０３は、取得したベクトルと、単語（Ｙ）が示すベクトルと、を足し合わせたベクトルを取得する。このベクトルは、分散表現の意味空間上における単語（Ｙ）との関係が、分散表現の意味空間上における単語（Ｘ）と単語（Ａ）との関係と同一である単語を示すベクトルとなる。
【００２６】
抽出部４０３は、取得したこのベクトルと、単語（Ｂ）の候補それぞれが示すベクトルと、の類似度を取得する。ベクトル同士の類似度は、そのベクトル同士の類似の程度を示す指標であり、例えば、コサイン類似度、内積、そのベクトル同士の差を示すベクトルの絶対値等がある。本実施形態では、抽出部４０３は、このベクトルと、単語（Ｂ）の候補それぞれが示すベクトルと、のコサイン類似度を取得する。
そして、抽出部４０３は、取得したコサイン類似度の中から、予め定められた閾値以上のものを特定する。抽出部４０３は、予め定められた閾値以上のものが複数ある場合、最大のものを特定する。抽出部４０３は、単語（Ｂ）の候補のうち、特定した類似度に対応する単語を、単語（Ｂ）として特定する。これにより、抽出部４０３は、単語（Ｘ）と単語（Ａ）との関係を示すベクトルと、単語（Ｙ）と単語（Ｂ）との関係を示すベクトルと、が類似するように（即ち、単語（Ｘ）と単語（Ａ）との関係と、単語（Ｙ）と単語（Ｂ）との関係と、が類似するように）、単語（Ｂ）を特定できる。
本実施形態では、単語（Ｂ）として特定された単語は、「ホッケー」であるとする。
【００２７】
図８は、分散表現の意味空間上における単語（Ｘ）、単語（Ｙ）、単語（Ａ）、単語（Ｂ）の関係の一例を示す図である。単語（Ｘ）と単語（Ａ）との関係を示すベクトル（単語（Ａ）−単語（Ｘ））と、単語（Ｙ）と単語（Ｂ）との関係を示すベクトル（単語（Ｂ）−単語（Ｙ））と、が類似していることが分かる。図８から分かるように、単語（Ｘ）、単語（Ｙ）、単語（Ａ）、単語（Ｂ）は、分散表現の意味空間上で、近似的な平行四辺形の形状を為す。しかし、分散表現の意味空間上で、近似的な平行四辺形の形状を為す４つの単語が、常に、単語（Ｘ）、単語（Ｙ）、単語（Ａ）、単語（Ｂ）のような関係（単語（Ｘ）と単語（Ｙ）とが類義し、単語（Ｘ）と単語（Ａ）との間に関係性（拡張共起関係）が有り、単語（Ｙ）と単語（Ｂ）との間にも同様の関係性が有る関係）が成り立つとは限らない。
図９は、単語（Ｘ）、単語（Ｙ）、単語（Ａ）、単語（Ｂ）それぞれの関係性の一例を示す図である。単語（Ｘ）と単語（Ｙ）とは、互いに単語「国」の下位概念であり、互いに類義することが示されている。また、単語（Ａ）、単語（Ｂ）は、それぞれ単語（Ｘ）、単語（Ｙ）との間に共起関係を有することが示されている。
【００２８】
Ｓ７０３の処理は、第４の単語を特定する第２の特定処理の一例である。
Ｓ７０４において、抽出部４０３は、Ｓ７０２で抽出された単語（Ａ）とＳ７０３で抽出された単語（Ｂ）とのカテゴリが異なるか否かを判定する。
抽出部４０３は、Ｓ７０２で抽出された単語（Ａ）とＳ７０３で抽出された単語（Ｂ）とのカテゴリが異なると判定した場合、単語（Ａ）と単語（Ｂ）とについて、カテゴリが不適切である可能性があることを決定し、Ｓ７０５の処理に進む。抽出部４０３は、Ｓ７０２で抽出された単語（Ａ）とＳ７０３で抽出された単語（Ｂ）とのカテゴリが同じであると判定した場合、単語（Ａ）と単語（Ｂ）とのカテゴリが適切であるとして、図７の処理を終了する。Ｓ７０４の処理は、第２の単語のカテゴリが第４の単語のカテゴリと異なるか否かに基づいて、第２の単語と第４の単語とについて、カテゴリが不適切な可能性があるか否かを決定する決定処理の一例である。
【００２９】
Ｓ７０５において、更新部４０４は、Ｓ７０４で、カテゴリが不適切である可能性があることが決定された単語（Ａ）と単語（Ｂ）とについて、何れか一方又は双方のカテゴリを更新する。
更新部４０４は、例えば、単語（Ａ）と単語（Ｂ）とのうち、何れか一方のカテゴリが確定されている場合、他方のカテゴリをその一方のカテゴリと同じカテゴリに更新する。例えば、単語（Ａ）と単語（Ｂ）とのうちの一方が、予め補助記憶装置１０３に記憶された単語のカテゴリを示す辞書データに含まれており、カテゴリがその辞書データが示すカテゴリと一致するとする。その場合、更新部４０４は、その一方の単語をカテゴリが確定された単語として決定し、他方の単語のカテゴリをその一方の単語のカテゴリと同じカテゴリに更新する。
【００３０】
また、更新部４０４は、以下のような処理を行うこととしてもよい。即ち、更新部４０４は、入出力Ｉ／Ｆ１０５を介して接続された出力装置に、単語（Ａ）と単語（Ｂ）とについて、カテゴリが不適切である可能性があることを示す情報を出力する。更新部４０４は、例えば、入出力Ｉ／Ｆ１０５を介して接続された出力装置であるディスプレイに、単語（Ａ）と単語（Ｂ）とについて、カテゴリが不適切である可能性があることを示す情報を表示することで出力する。これにより、更新部４０４は、ユーザに対して、単語（Ａ）と単語（Ｂ）とについて、カテゴリが不適切である可能性があることを提示できる。更に、更新部４０４は、例えば、ディスプレイに、単語（Ａ）と単語（Ｂ）とについてのカテゴリの指定に利用される指定画面を表示することとしてもよい。そして、更新部４０４は、入出力Ｉ／Ｆ１０５を介して接続された入力装置を介したユーザによる指定画面への操作に基づいて、単語（Ａ）と単語（Ｂ）とのうち、何れか一方又は双方についてのカテゴリの指定を受付けてもよい。更新部４０４は、単語（Ａ）と単語（Ｂ）とのうち、何れか一方又は双方について、受付けた指定が示すカテゴリに更新する。
指定画面は、例えば、単語（Ａ）と単語（Ｂ）とに対応するカテゴリの入力欄を含む。この場合、更新部４０４は、指定画面内のカテゴリの入力欄に入力された情報を取得することで、カテゴリの指定を受付けることができる。
【００３１】
Ｓ７０６において、学習部４０２は、Ｓ７０５でカテゴリが更新された単語に基づいて、再度、カテゴリ分類モデルを学習する。Ｓ７０５でカテゴリが更新された単語が補助記憶装置１０３に記憶された教師データに含まれない場合、学習部４０２は、教師データと、Ｓ７０５でカテゴリが更新された単語と、に基づいて、カテゴリ分類モデルを学習する。
また、Ｓ７０５でカテゴリが更新された単語が補助記憶装置１０３に記憶された教師データに含まれる場合、学習部４０２は、以下のような処理を行う。即ち、学習部４０２は、教師データに含まれるＳ７０５でカテゴリが更新された単語について、教師データ内の対応するカテゴリを更新し、更新した教師データに基づいて、カテゴリ分類モデルを学習する。
また、抽出部４０３は、単語（Ｘ）と単語（Ｙ）とのカテゴリが異なるか否かを判定することもできる。抽出部４０３により単語（Ｘ）と単語（Ｙ）とのカテゴリが異なると判定された場合、更新部４０４は、Ｓ７０５と同様の方法で、カテゴリが不適切である可能性がある単語（Ｘ）と単語（Ｙ）とについて、何れか一方又は双方のカテゴリを更新する。そして、学習部４０２は、カテゴリが更新された単語に基づいて、カテゴリ分類モデルを学習することとなる。
【００３２】
（効果）
以上、本実施形態では、情報処理装置１００は、カテゴリが既知である単語で構成される教師データに基づいて、分散表現の単語についてのカテゴリの分類に利用されるカテゴリ分類モデルを学習した。これにより、情報処理装置１００は、分散表現で表された単語のカテゴリの分類を可能とすることで、単語のカテゴリ分類の精度向上の実現を支援することができる。
また、情報処理装置１００は、カテゴリが分類された単語の中から、カテゴリが不適切な可能性のある単語を決定した。これにより、情報処理装置１００は、単語のカテゴリ分類の精度向上の実現を支援することができる。例えば、類義する単語同士が同じカテゴリであると仮定をおき、単に類義語辞書を用いることで、以下のような処理を行うことが可能である。即ち、類義する２つの単語（例えば、本実施形態における単語（Ｘ）、単語（Ｙ））を抽出し、抽出した単語同士のカテゴリが一致しない場合、これらの単語をカテゴリが不適切な可能性がある単語として決定する処理である。しかし、この方法では、２つの単語が直接的な類義関係を有さないと、これらの単語が、カテゴリが不適切な可能性があるか否かを決定できない。しかし、本実施形態の処理により、情報処理装置１００は、直接的な類義関係を有する２つの単語それぞれと同一の関係性（拡張共起関係）を有する２つの単語について、この２つの単語が直接的な類義関係を有さなくとも、カテゴリが不適切な可能性があるか否かを決定できる。
【００３３】
また、情報処理装置１００は、決定したカテゴリが不適切な可能性のある単語のカテゴリを更新し、カテゴリを更新した単語に基づいて、再度、カテゴリ分類モデルを学習した。これにより、情報処理装置１００は、カテゴリ分類モデルによる分類の精度を向上させることができる。
例えば、特定の分野（業界、業務）の専門用語や社内用語等においては、特殊な単語が用いられたり、単語が特殊な意味を持ったりする場合がある。このような場合、例えば、単語が辞書に収録されていなかったり、単語の意味が辞書に記載のある意味と異なったりする。例えば、「ホスト」という単語は、「（客をもてなす）主人」の意味を有し、「人」というカテゴリに属する。しかし、ＩＴ分野における「ホスト」という単語は、「（別のマシンにサービスを提供する）ホストコンピュータ」という意味を有し、「モノ」というカテゴリに属する。
このような場合、一般用語の単語とカテゴリとを含む教師データに基づき学習されたカテゴリ分類モデルでは、適切に単語のカテゴリを分類できない可能性がある。このような場合でも、情報処理装置１００は、カテゴリが不適切な可能性のある単語を決定し、決定した単語のカテゴリを更新し、カテゴリを更新した単語に基づいて、再度、カテゴリ分類モデルを学習することで、カテゴリ分類モデルによる特定の分野に係る単語の分類の精度を向上させることができる。
このように、情報処理装置１００は、カテゴリ分類モデルによる分類精度の向上のため、新たな辞書データ等を用いる必要がなく、新たな辞書データ等を用意するコストを削減できる。また、情報処理装置１００は、単語の意味内容が時間と共に変化し、新たな専門用語が生まれたり、従来と異なる意味で用いられたりすることとなった場合でも、こうした状況変化に適応しながら、カテゴリ分類モデルを追加で学習することができる。
【００３４】
（変形例）
本実施形態では、情報処理装置１００は、単体の情報処理装置であるとした。しかし、情報処理装置１００は、ネットワーク（ＬＡＮやインターネット）を介して相互に通信可能に接続された複数の情報処理装置を含むシステムとして構成されることとしてもよい。その場合、情報処理装置１００に含まれる複数の情報処理装置それぞれのＣＰＵが、それぞれの情報処理装置の補助記憶装置に記憶されたプログラムに基づき処理を連携して実行することで、図４の機能及び図５、６、７のフローチャートの処理等が実現される。
本実施形態では、情報処理装置１００は、図５の処理で学習したカテゴリ分類モデルを用いて分類されたコーパスデータ内の単語から、カテゴリが不適切な可能性のある単語を特定することとした。しかし、情報処理装置１００は、予めカテゴリが設定された単語から、カテゴリが不適切な可能性のある単語を特定することとしてもよい。
【００３５】
本実施形態では、抽出部４０３は、Ｓ７０３で、分散表現の意味空間上における単語（Ｙ）が示すベクトルに、単語（Ａ）が示すベクトルを加え、単語（Ｘ）が示すベクトルを引いたベクトルと、類似するベクトルに対応する単語を、単語（Ｂ）を特定することとした。しかし、抽出部４０３は、Ｓ７０３で、分散表現の意味空間上における単語（Ａ）が示すベクトルから単語（Ｘ）が示すベクトルを引いたベクトルと、単語（Ｂ）の候補夫々が示すベクトルから単語（Ｙ）が示すベクトルを引いたベクトルと、の類似度に基づいて、単語（Ｂ）を特定することとしてもよい。単語（Ｂ）の候補が示すベクトルから単語（Ｙ）が示すベクトルを引いたベクトルは、分散表現の意味空間上における第３の単語と候補単語との関係を示す第１の関係ベクトルの一例である。
抽出部４０３は、例えば、分散表現の意味空間上における単語（Ａ）が示すベクトルから単語（Ｘ）が示すベクトルを引いたベクトルと、単語（Ｂ）の候補夫々が示すベクトルから単語（Ｙ）が示すベクトルを引いたベクトルと、の類似度を取得する。そして、抽出部４０３は、取得した類似度が予め定められた閾値以上となる単語（Ｂ）の候補を、単語（Ｂ）として特定してもよい。また、抽出部４０３は、取得した類似度が予め定められた閾値以上となる単語（Ｂ）の候補が複数ある場合、類似度が最大のものを、単語（Ｂ）として特定してもよい。
【００３６】
本実施形態では、情報処理装置１００は、Ｓ７０１〜Ｓ７０４の処理を行うことで、カテゴリが不適切な可能性のある単語を決定した。上位概念、下位概念の単語同士は、同じカテゴリに属すると仮定できる。そこで、情報処理装置１００は、Ｓ７０１〜Ｓ７０４の処理に加えて、以下の処理を行うことで、カテゴリが不適切な可能性のある単語を決定してもよい。
即ち、情報処理装置１００は、ある単語について、意味的分類モデルに基づいて、その単語の上位概念又は下位概念の単語を特定する。そして、情報処理装置１００は、特定した単語と元の単語とのカテゴリを比較し、同じでなければ、これらの単語は、カテゴリが不適切である可能性のある単語として決定してもよい。そして、情報処理装置１００は、カテゴリが不適切である可能性のある単語として決定した単語について、Ｓ７０５と同様の処理でカテゴリを更新し、カテゴリを更新した単語に基づいて、カテゴリ分類モデルを学習する。これにより、情報処理装置１００は、更に、カテゴリ分類モデルによる分類精度を向上させることができる。
【００３７】
以上、本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではない。
例えば、上述した情報処理装置１００の機能構成の一部又は全てをハードウェアとして情報処理装置１００に実装してもよい。
【符号の説明】
【００３８】
１００  情報処理装置
１０１  ＣＰＵ
４０２  学習部
【図１】
2019012457.tif 000003
【図２】
2019012457.tif 000004
【図３】
2019012457.tif 000005
【図４】
2019012457.tif 000006
【図５】
2019012457.tif 000007
【図６】
2019012457.tif 000008
【図７】
2019012457.tif 000009
【図８】
2019012457.tif 000010
【図９】
2019012457.tif 000011