(57)【要約】【課題】文書分類システムにおいて、キーワードに基づいて文書を分類するときに、その分類根拠を明示し、その分類の根拠となったキーワードについて妥当か否かを検証できるようにする。【解決手段】文書に分類を付与する文書分類システムであって、分類付与済み文書を教師データとして読み込んで作成したモデル情報を備え、分類付与対象の文書を読み込み、モデル情報を用いて、分類対象の文書に複数の分類を付与する分類部を有し、当該分類を付与する根拠となった分類付与対象の単語または文を出力する。特に、根拠となった単語または文のリストと、文書中で根拠となった単語または文が強調された文書とを出力する。【選択図】  図１
2018194881.tif 000002
【特許請求の範囲】
【請求項１】
文書に分類を付与する文書分類システムであって、
分類付与済み文書を教師データとして読み込んで作成したモデル情報を備え、
分類付与対象の文書を読み込み、前記モデル情報を用いて、分類対象の文書に複数の分類を付与する分類部を有し、
当該分類を付与する根拠となった前記分類付与対象の単語または文を出力することを特徴とする文書分類システム。
【請求項２】
請求項１において、
文書中で根拠となった単語または文が強調された文書を出力することを特徴とする文書分類システム。
【請求項３】
請求項１において、
根拠となった単語または文のリストを出力することを特徴とする文書分類システム。
【請求項４】
請求項３において、
根拠となった単語または文のリストに、単語または文の分類に寄与した重みを表示することを特徴とする文書分類システム。
【請求項５】
請求項１乃至４のいずれかにおいて、
前記付与された分類の選択を受け付け、選択された分類の付与根拠を表示することを特徴とする文書分類システム。
【請求項６】
請求項５において、
選択された分類の付与根拠は、分類の根拠となった重みの大きい単語または文を表示することを特徴とする文書分類システム。
【請求項７】
請求項１乃至６のいずれかにおいて、
前記付与された分類ごとの分類精度を表示することを特徴とする文書分類システム。
【請求項８】
請求項１乃至７のいずれかにおいて、
複数の分類について区別可能な状態で、前記分類の付与根拠を表示することを特徴とする文書分類システム。
【請求項９】
請求項８において、
前記複数の分類の類似度に基づいて、前記分類の類似度に応じて、前記分類付与対象の単語または文の出力の様態を変えて出力することを特徴とする文書分類システム。
【請求項１０】
請求項１乃至９において、
分類を付与する根拠となった前記分類付与対象の単語または文を選択して、その前記分類付与対象の単語または文の分類の寄与が大きい文献一覧を表示することを特徴とする文書分類システム。
【請求項１１】
請求項３において、
根拠となった単語または文のリストの中の単語または文を選択して、その前記分類付与対象の単語または文の分類の寄与が大きい文献一覧を表示することを特徴とする文書分類システム。
【請求項１２】
文書に分類を付与する文書分類方法であって、
分類付与済み文書を教師データとして読み込んで作成したモデル情報作成するステップと、
分類付与対象の文書を読み込み、前記モデル情報を用いて、前記分類対象の文書に複数の分類を付与するステップと、
該当する文献に対する付与された分類を表示するステップと、
該当する文献に対する付与された分類の選択を受け付けて、選択された分類の付与根拠を表示するステップとを有することを特徴する文書分類方法。
【請求項１３】
請求項１２において、
分類の付与根拠として、前記文書中で根拠となった単語または文が強調された文書とを出力することを特徴とする文書分類方法。
【請求項１４】
請求項１２において、
分類の付与根拠として、根拠となった単語または文のリストを出力することを特徴とする文書分類方法。
【請求項１５】
請求項１４において、
根拠となった単語または文のリストに、単語または文の分類に寄与した重みを表示することを特徴とする文書分類方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、文書分類システムおよび文書分類方法に係り、特に、特許文書を機械学習により分類した場合にその分類根拠を明示的に表示するのに好適な文書分類システムおよび文書分類方法に関する。
【背景技術】
【０００２】
特許出願に対しては、国際特許分類（ＩＰＣ：International Patent Class）や、ＦＩ（File Index）、Ｆタームといった特許分類が付与されている。従来、これらの特許分類は人手で付与されているため、そのための労力やコストが小さくない。そのため、特許分類を、コンピュータにより自動で付与することが検討されている。
【０００３】
文書の自動分類には、例えば、特許文献１がある。特許文献１には、文書を解析し、単語と一致するキーワードの出現頻度により、分類項目毎に集計して、文書を自動分類する技術が開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００３−３６２６１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
特許文献１に記載の文書自動分類に係る技術では、予め分類ごとにキーワードを分類してその情報を保持しておき（図３）、このキーワードが出現することの多い文書をその分類項目に属するものとして分類している。そして、ユーザに対する分類結果は、図２０、図２１のような形式で表示される（段落番号０１０１、０１０３）。
【０００６】
しかしながら、文書の分類結果を受取るユーザにとっては、その分類根拠が示されず、その分類結果がどの程度信頼できるものかの定量的な評価をすることができない。また、分類根拠となったキーワードが分類結果を確認するユーザに示されないため、そのキーワードによる分類の妥当性を評価することもできなかった。
【０００７】
また、データベースに格納されている同じキーワードを含んでおり、同じ分類に属する関連文書を表示させることもできない。
【０００８】
特許文献の分類のように、膨大な文書がどの分類に属するかを定める場合には、ユーザ（例えば、特許庁の審査官）は、その分類の根拠となったキーワードについて妥当か否かを検証したいという要請が生じる。また、審査において、ある特許文書の関連した文書を調べることも重要になってくる。同じ技術分野に属する特許文書を検索したいという要請は、企業の担当者が、研究や侵害事件に関連して特許文書をアクセスする場合でも同様である。
【０００９】
本発明の目的は、キーワードに基づいて文書を分類するときに、その分類根拠を明示し、その分類の根拠となったキーワードについて妥当か否かを検証できる文書分類システムを提供することにある。
【００１０】
また、そのデータベースに格納されている同じキーワードを含んでおり、同じ分類に属する関連文書を表示させることのできる文書分類システムを提供することにある。
【課題を解決するための手段】
【００１１】
上記課題を解決するために、本発明の文書分類システムは、好ましくは、文書に分類を付与する文書分類システムであって、分類付与済み文書を教師データとして読み込んで作成したモデル情報を備え、分類付与対象の文書を読み込み、モデル情報を用いて、分類対象の文書に複数の分類を付与する分類部を有し、当該分類を付与する根拠となった分類付与対象の単語または文を出力する。
【発明の効果】
【００１２】
本発明によれば、キーワードに基づいて文書を分類するときに、その分類根拠を明示し、その分類の根拠となったキーワードについて妥当か否かを検証できる文書分類システムを提供することができる。
【００１３】
また、本発明によれば、そのデータベースに格納されている同じキーワードを含んでおり、同じ分類に属する関連文書を表示させることのできる文書分類システムを提供することができる。
【図面の簡単な説明】
【００１４】
【図１】文書分類システムの全体構成図である。
【図２】文献情報テーブル２２１の一例を示す図である。
【図３】分類情報テーブル２２２の一例を示す図である。
【図４】分類付与精度情報テーブル２２３の一例を示す図である。
【図５】単語重みテーブル２２４の一例を示す図である。
【図６】文重みテーブル２２５の一例を示す図である。
【図７】文献ファイル２２６の一例を示す図である。
【図８】モデル情報作成処理を示すフローチャートである。
【図９】ＮＡＭによる学習と分類の概要を説明する図である。
【図１０】文献分類処理の概要を示すフローチャートである。
【図１１】文献分類から分類結果を表示するまでの処理を示すフローチャートである。
【図１２】本実施形態に係る文書分類システムの分類結果表示画面を示す図である（その一）。
【図１３】本実施形態に係る文書分類システムの分類結果表示画面を示す図である（その二）。
【図１４】本実施形態に係る文書分類システムの分類結果表示画面を示す図である（その三）。
【図１５】本実施形態に係る文書分類システムの分類結果表示画面を示す図である（その四）。
【発明を実施するための形態】
【００１５】
以下、本発明に係る一実施形態を、図１ないし図１５を用いて説明する。
【００１６】
本実施形態では、特許文献を出現単語により解析して、Ｆターム、ＦＩによる分類する文書分類システムの例について説明する。
【００１７】
例えば、ＵＳ、ＥＰなどの外国特許文献は、ＩＰＣは、付与されているが、日本国特許庁の分類体系であるＦターム、ＦＩによる分類は、通常、付与されていない。実施形態の文書分類システムでは、そのような状況で、Ｆターム、ＦＩが付与されていない外国特許文献に、Ｆターム、ＦＩよる分類を付与する例について説明する。このときに、日本の特許文献には、Ｆターム、ＦＩの分類が付与されているため、その日本の特許文献を機械翻訳した文書を、分類のため学習の教師データとすることができ、分類の精度（後述）も評価することができる。
【００１８】
先ず、図１を用いて本発明に係る文書分類システムの構成について説明する。  
図１は、文書分類システムの全体の機能構成を示したものであり、本実施形態の文書分類システムは、図１に示されるように、利用者端末１０、ＡＰ（Application）サーバ１００、ＤＢサーバ２００、文書分類サーバ３００がネットワーク５で接続された形態である。
【００１９】
利用者端末１０は、ＡＰサーバ１００にアクセスして、文書分類システムの各種機能の提供を受けるクライアント端末である。利用者端末１０は、ＵＩ（User Interface）部１１を有し、各種コマンド、データの入力や、ＡＰサーバ１００が作成した画像データの表示をおこなう。
【００２０】
ＡＰ（Application）サーバ１００は、文書分類のアプリケーションソフトウェアを実行するサーバであり、文書検索や文書検索に関する情報の表示のための画像データを作成する。ＡＰサーバ１００は、図１に示されるように、演算部１１０を有しており、演算部１１０には、検索部１１１と、付与根拠編集部１１２、画面表示データ作成部１１３の各機能部を有する。検索部１１１は、利用者端末１０からの文献の番号等の入力を受付け、文献を検索する機能部である。付与根拠編集部１１２は、文献の分類のための分類付与のための情報を、文献番号と関連付けて編集する機能部である。画面表示データ作成部１１３は、利用者端末１０に表示するための画面表示データを作成する機能部である。例えば、ＡＰサーバ１００は、Ｗｅｂサーバであり、画面表示データ作成部１１３は、ＨＴＭＬ（HyperText Markup Language）ファイルを作成し、ＨＴＴＰ（Hypertext Transfer Protocol）によりそれを利用者端末１０に送信する。利用者端末１０のＵＩ部１１には、ブラウザが実装されており、送信されてきたＨＴＭＬファイルをそのブラウザにより表示する。ただし、利用者端末１０のＵＩ部１１には、専用の画面表示ソフトウェアを実装して、画面表示データ作成部１１３が独自形式の画面表示データを作成して、それを利用者端末１０に送信するようにしてもよい。
【００２１】
ＤＢサーバ２００は、文献情報や分類に関する情報などの各種データを保存し、アクセスする手段を提供するためのサーバであり、図１に示されるように、演算部２１０と記憶部２２０を有する。演算部２１０は、変換処理部２１１、集計処理部２１２の各機能部からなる。そして、変換処理部２１１は、文書分類サーバ３００の分類付与処理部３１２が算出した分類や分類根拠を、データベースに適合するように編集し、分類付与情報として、分類情報テーブル２２２に、分類根拠情報として、単語重みテーブル２２４、文重みテーブル２２５に記憶する機能部である。集計処理部２１２は、分類情報テーブル２２２に記憶された分類に基づいて、分類の精度を算出して、付与精度情報として、分類付与精度情報テーブル２２３を作成する機能部である。記憶部２２０は、各種データ、テーブルを格納する機能部であり、文献情報テーブル２２１、分類情報テーブル２２２、分類付与精度情報テーブル２２３、単語重みテーブル２２４、文重みテーブル２２５、文献ファイル２２６を保持する。なお、データとテーブルの内容の詳細は詳述する。
【００２２】
文書分類サーバ３００は、文献の自動分類の機能を提供するサーバであり、図１に示されるように、演算部３１０と記憶部３２０を有する。そして、演算部３１０は、学習処理部３１１、分類付与処理部３１２、単語の文脈ベクトル重み計算部３１３、文の文脈ベクトル重み計算部３１４の各機能部からなる。学習処理部３１１は、分類付与済みの文献データ（教師データ）を学習し、モデル情報を作成・更新する機能部である。分類付与処理部３１２は、分類対象文献に、分類付与を実行し、分類根拠も特定する機能部である。単語の文脈ベクトル重み計算部３１３は、学習していく中で適正になるように重みα（後述）を調整していく機能部である。文の文脈ベクトル重み計算部３１４は、学習していく中で適正になるように重みβ（後述）を調整していく機能部である。記憶部３２０は、学習済みモデルのモデル情報３２１を格納する機能部である。学習済みモデルのモデル情報３２１については、後に詳説する。
【００２３】
ＡＰサーバ１００、ＤＢサーバ２００、文書分類サーバ３００は、いずれも一般的なサーバ装置に、必要なアプリケーションソフトウェアを実行することにより実現され、ＣＰＵが主記憶装置上にそれらのアプリケーションソフトウェアをＨＤＤなど補助記憶装置からロードして実行することにより機能が実現される。利用者端末１０も、一般的なＰＣ（Personal Computer）などの情報処理装置に、必要なアプリケーションソフトウェアを実行することにより実現され、ＣＰＵが主記憶装置上にそれらのアプリケーションソフトウェアをＨＤＤなど補助記憶装置からロードして実行することにより機能が実現される。
【００２４】
ＡＰサーバ１００、ＤＢサーバ２００、文書分類サーバ３００は、図１で示したように分離した形態でなくとも、各サーバが一つになって実現されていてもよい。また、図１では、文書分類システムを、サーバ、クライアント構成で実現する構成について示したが、一つの情報処理装置に必要なアプリケーションソフトウェアをインストールした、いわゆるオールインワンの構成であってもよい。
【００２５】
次に、図２ないし図７を用いて文書分類システムに用いられるデータ構造について説明する。
【００２６】
文献情報テーブル２２１は、分類の対象となる文献の情報を格納するテーブルであり、図２に示されるように、文献ＩＤ２２１ａ、パス２２１ｂ、文献ファイル名２２１ｃ、言語２２１ｄ、ファミリ文献ＩＤ２２１ｅの各フィールドよりなる。文献ＩＤ２２１ａには、文献を識別するための識別子が格納される。パス２２１ｂには、文献の格納場所を表すＤＢサーバ２００のファイルシステムにおけるディレクトリが格納される。文献ファイル名２２１ｃには、文献のファイル名が格納される。本実施形態では、特許文献を扱っているため、例えば、文献ファイル名としては、出願番号や公開番号が用いられる。言語２２１ｄには、文献に使用されている言語のコードが格納される。ファミリ文献ＩＤ２２１ｃには、優先権主張や分割出願などを行ったときの親出願の文献ＩＤが格納される。
【００２７】
分類情報テーブル２２２は、文献の分類に関する情報を格納するためのテーブルであり、図３に示されるように、文献ＩＤ２２２ａ、テーマ２２２ｂ、分類２２２ｃ、ＦＩ２２２ｄの各フィールドよりなる。文献ＩＤ２２２ａには、文献を識別するための識別子が格納される。テーマ２２２ｂには、Ｆタームの分類体系におけるテーマが格納される。分類２２２ｃには、Ｆタームの分類体系におけるＦタームリストの分類記号が格納される。ＦＩ２２２ｄには、ＦＩの記号が格納される。ここで、Ｆタームは、日本国特許庁が編纂している日本の特許文献に記載された技術的特徴による分類体系であり、ＦＩは、国際特許分類（ＩＰＣ）を細分化した日本独自の分類体系である。なお、分類情報テーブル２２２では、一つの文献に対して、複数のＦタームとＦＩを対応付けすることが可能である。
【００２８】
分類付与精度情報テーブル２２３は、機械学習における分類の精度を保持するためのテーブルであり、図４に示されるように、テーマ２２３ａ、分類２２３ｂ、言語２２３ｃ、精度２２３ｄ、作成日２２３ｅの各フィールドよりなる。テーマ２２３ａには、Ｆタームの分類体系におけるテーマが格納される。分類２２３ｂには、Ｆタームの分類体系におけるＦタームリストの分類記号が格納される。言語２２３ｃには、精度を作成した文献の言語コードが格納される。精度２２３ｄには、この分類、文献の言語における精度が％表記で格納される。なお、精度とは、文献の分類の妥当性を表す指標であり、高いほど、その分類が正確であることを意味している。精度の具体的な計算方法については、後に詳説する。作成日２２３ｅには、その精度を計算した日付が格納される。
【００２９】
単語重みテーブル２２４は、機械学習による文書の分類において、各単語（Ｗｏｒｄ）のその分類における重みを格納するテーブルであり、図５に示されるように、テーマ２２４ａ、分類２２４ｂ、単語２２４ｃ、重み２２４ｄ、出現順序２２４ｅ、文献ＩＤ２２４ｆの各フィールドよりなる。テーマ２２４ａには、Ｆタームの分類体系におけるテーマが格納される。分類２２４ｂには、Ｆタームの分類体系におけるＦタームリストの分類記号が格納される。単語２２４ｃには、重みを評価する単語が格納される。重み２２４ｄは、その文献におけるその単語の重みが格納される。ここで、単語の重みとは、機械学習によりその文献の分類にその単語がどれくらい寄与しているかの評価の指標となる量である。この単語の重みについては、後に詳説する。出現順序２２４ｅには、その単語の文献における出現順序が格納される。文献ＩＤ２２４ｆには、その単語が含まれる文献の識別子が格納される。
【００３０】
文重みテーブル２２５は、機械学習による文書の分類において、各文（Ｓｔａｔｅｍｅｎｔ）のその分類における重みを格納するテーブルであり、図６に示されるように、テーマ２２５ａ、分類２２５ｂ、単語２２５ｃ、重み２２５ｄ、出現順序２２５ｅ、文献ＩＤ２２５ｆの各フィールドよりなる。テーマ２２５ａには、Ｆタームの分類体系におけるテーマが格納される。分類２２５ｂには、Ｆタームの分類体系におけるＦタームリストの分類記号が格納される。単語２２５ｃには、重みを評価する文が格納される。重み２２５ｄは、その文献におけるその文の重みが格納される。ここで、文の重みとは、機械学習によりその文献の分類にその文がどれくらい寄与しているかの評価の指標となる量である。この文の重みについても、後に詳説する。出現順序２２５ｅには、その文の文献における出現順序が格納される。文献ＩＤ２２５ｆには、その文が含まれる文献の識別子が格納される。
【００３１】
文献ファイル２２６は、図７に示されるような特許文献の電子データである。本実施形態では、特許文献の形式としては、マークアップ言語の一種であるＸＭＬ（eXtensible Markup Language）を用いている。
【００３２】
次に、図８ないし図１１を用いて文書分類システムの処理について説明する。
【００３３】
先ず、図８および図９を用いて文書分類サーバ３００の学習処理部３１１がモデル情報３２１を作成する処理について説明する。
【００３４】
本実施形態の文書分類システムにおける文書分類の処理は、ニューラルネットワークの応用例であるニューラルアテンションモデル（以下、「ＮＡＭ」：Neural Attention Model）に基づく処理とする。ＮＡＭは、アテンション機構により入力側の隠れ層（中間層）のユニットを重みで加重平均した文脈ベクトルにより出力を予測するモデルである。特に、本実施形態のモデルでは、ＮＡＭの隠れ層で再帰的入力をおこなうＲＮＮ（Recurrent Neural Network）を用いる。
【００３５】
先ず、文献の単語列の読み込みをおこなう（図８のＳ０１、図９のＰＨ１）。図９のＰＨ１のｗ１，ｗ２，…は、単語列である。
【００３６】
次に、単語の埋込み表現として、各単語にワードベクトルを設定する（Ｓ０２、ＰＨ２）。ワードベクトルは、文脈において単語の特徴量を表現するベクトルである。図９のＰＨ１のｘ１，ｘ２，…は、ワードベクトルである。
【００３７】
次に、ＲＮＮ隠れ層の演算により、単語の文脈ベクトルを設定する（Ｓ０３、ＰＨ３）。単語の文脈ベクトルとは、単語の出現する文脈に応じた特徴量を表現するベクトルである。ＰＨ３では、順方向ｈ１１，ｈ１２，…の文脈ベクトルと、逆方向の文脈ベクトルｈ２１，ｈ２２，…とを結合して、文脈ベクトルｈｗ１，ｈｗ２，…とすることを示している。
【００３８】
次に、学習時に教師データから単語の文脈ベクトル重み計算部３１３で適正になるように調整し、単語の文脈ベクトルに重みαを付与する。そして、同じ文中の単語の文脈ベクトルを足し合わせて、文ベクトルを算出する（Ｓ０４、ＰＨ４）。ＰＨ４では、各々の単語の文脈ベクトルの重みをα１，α２，…とし、文ベクトルを、ｓ１，ｓ２，…としている。
【００３９】
次に、文ベクトルの各文の前後関係を考慮しながら、ＲＮＮ隠れ層演算により、文の文脈ベクトルを設定する（Ｓ０５、ＰＨ５）。ＰＨ５では、文の文脈ベクトルを、ｈｓ１，ｈｓ２，…としている。
【００４０】
次に、文の文脈ベクトルに重みβを付与し、足し合わせて文献ベクトルとする（Ｓ０６、ＰＨ６）。ＰＨ６では、各々の単語の文脈ベクトルの重みをβ１，β２，…とし、文献ベクトルを、ｖ１，ｖ２，…としている。
【００４１】
そして、文献ベクトルと予め文献に付与しておいた分類（教師データ）を比較し、適正になるように、単語の文脈ベクトル重み計算部３１３と文の文脈ベクトルの重み計算部３１４を調整して、各文脈ベクトルに対する適正な単語の文脈ベクトル重みαと文の文脈ベクトルの重みβを学習していく（Ｓ０７、ＰＨ８、ＰＨ９）。
【００４２】
分類に対する単語の文脈ベクトル重みαと文の文脈ベクトルの重みβは、それぞれ図５に示した単語重みテーブル２２４の重み２２４ｄ、図６に示した文重みテーブル２２５の重み２２５ｄに格納される。
【００４３】
次に、図１０および図９を用いて文書分類サーバ３００の分類付与処理部が文献に対する分類付与をおこなう処理について説明する。
【００４４】
図８のフローチャートによる学習によるモデル情報生成処理では、教師データに基づいて、分類に対する単語の文脈ベクトル重みαと文の文脈ベクトルの重みβを学習した。文献に対する分類付与に関する処理では、その重みαおよび重みβに基づいて、文献に対する分類を付与する。
【００４５】
先ず、文献の単語列の読み込みをおこなう（図１０のＳ１１、図９のＰＨ１）。 
次に、単語の埋込み表現として、各単語にワードベクトルを設定する（Ｓ１２、ＰＨ２）。
【００４６】
次に、ＲＮＮ隠れ層の演算により、単語の文脈ベクトルを設定する（Ｓ１３、ＰＨ３）。
【００４７】
次に、単語の文脈ベクトルにモデル情報３２１の重みα（単語重みテーブル２２４の重み２２４ｄ）を付与し、同じ文中の単語の文脈ベクトルを足し合わせて、文ベクトルを算出する（Ｓ１４、ＰＨ４）。
【００４８】
次に、文ベクトルの各文の前後関係を考慮しながら、ＲＮＮ隠れ層演算により、文の文脈ベクトルを設定する（Ｓ１５、ＰＨ５）。
【００４９】
次に、文の文脈ベクトルにモデル情報３２１の重みβ（文重みテーブル２２５の重み２２５ｄ）を付与し、足し合わせて文献ベクトルとする（Ｓ１６、ＰＨ６）。
【００５０】
そして、文献ベクトルに基づいて文献に対する分類を付与する（Ｓ１７、ＰＨ７）。
【００５１】
次に、図１１を用いて文献分類から結果表示までの処理について説明する。  
先ず、文書分類サーバ３００は、ＤＢサーバ２００を介して、分類をおこなう文献（文献ファイル２２６）を読み込む（Ｓ２１）。
【００５２】
次に、図１０のフローチャートに示した処理により、文書分類サーバ３００の分類付与処理部３１２が文献に対する分類付与をおこなう（Ｓ２２）。
【００５３】
次に、ＤＢサーバ２００の変換処理部２１１は、文書分類サーバ３００の分類付与処理部３１２が文献に対する分類付与情報を、図３に示した分類情報テーブル２２２に格納する（Ｓ２３）。
【００５４】
次に、ＤＢサーバ２００の変換処理部２１２は、文献に対する分類に対して、分類の精度を求め、図４に示した分類付与精度情報テーブル２２３に格納する（Ｓ２４）。
【００５５】
ここで、分類の精度とは、既に説明したように、文献の分類の妥当性を表す指標であり、高いほど、その分類が正確であることを意味しており、以下の（式１）で求められる。
【００５６】
【数１】
2018194881.tif 000003
【００５７】
なお、（式１）の再現率は、以下の（式２）で求められる。
【００５８】
【数２】
2018194881.tif 000004
【００５９】
また、（式１）の適合率は、以下の（式３）で求められる。
【００６０】
【数３】
2018194881.tif 000005
【００６１】
次に、分類結果表示をおこなう（Ｓ２５）。この処理では、ＡＰサーバ１００の付与根拠編集部１１２が、分類を付与した文献に対して、分類の付与根拠を編集して、画面表示データ作成部が画面表示のデータを作成して、利用者端末１０に配信する。ＡＰサーバ１００は、ＤＢサーバ２００を介して、対象の文献の文献ファイル２２６（図７）を読み出し、分類情報テーブル２２２（図３）からその文献の分類を抽出する。そして、当該分類に対応する情報を、分類付与根拠情報（単語重みテーブル２２４（図５）、文重みテーブル２２５（図６））から抽出する。そして、文献ファイル内の単語・文と、抽出した分類付与根拠情報中の単語・文を突き合わせて、一致した単語・文に、分類付与根拠情報中の重みを付加するなどの加工・編集処理をおこなう。
【００６２】
次に、図１２ないし図１５を用いて本実施形態に係る文書分類システムのユーザインタフェースについて説明する。
【００６３】
文書分類システムの分類結果表示画面５００は、図１２に示されるように、文書の分類とそれに関する情報を表示する画面である。利用者端末１０のＵＩ部１１が、ＡＰサーバ１００から受信した情報に基づいて表示する画面である。
【００６４】
文献表示欄５０１は、タブ５０２ごとにその文書の内容を表示する欄である。ユーザがその文書を見たいときには、タブ５０２の部分をクリックする。該当するときには、文献表示左欄５０３には、その分類対象とした文献の原文を表示し、文献表示右欄５０４には、その文献を機械翻訳した文章に内容を表示したり、ファミリ文献の内容を表示する。
【００６５】
分類表示欄５１０には、対象となる文献に付与された分類の一覧と、その分類精度が表示される。
【００６６】
オンライン修正ボタン５２０は、対象となる文献の分類をマニュアルで入力して修正する分類入力画面（図示せず）にアクセスするためのボタンである。
【００６７】
分類表示欄５１０に表示される分類をクリックすると、選択した分類について、文献表示左欄５０３に表示されている重みが大きい単語または文、あるいは、その両方をハイライトして表示する。ハイライトの仕方は、重みや精度に応じて変更する。例えば、重みが大きい単語は、濃い色や鮮明な色で強調し、重みが小さい単語は薄い色で強調する。また、ハイライトさせる単語または文は、重みが一番大きい単語のみならず、重みの大きい上位３語のようにランキングの高い単語または文をハイライトさせるようにしてもよい。
【００６８】
また、分類表示欄５１０の分類を複数選択した場合（マウスでドラッグ、ＣＴＲＬキーを押しながら選択などの操作）、分類ごとに色系統を変えてハイライトする。図１２に示した例では、例えば、５Ｂ０７５に関する単語は赤系統で強調し、５Ｂ０７７に関連する単語は、青系統にて強調する。
【００６９】
また、分類の類似度を考慮してもよい。例えば、５Ｂ０７５と５Ｂ０７７は、上位階層が同じなので、類似する赤系統で強調し、この分野に類似しない単語は、青系統にて強調するようにしてもよい。
【００７０】
さらに、文献表示右欄５０４についても、分類表示欄５１０に表示される分類が選択されたときには、機械翻訳により単語や文の対応がつくときには、選択した分類について、文献表示左欄５０３に表示されている重みが大きい単語または文、あるいは、その両方をハイライトして表示する。
【００７１】
文献表示左欄５０３および文献表示右欄５０４でハイライトした単語をクリックしたときには、図１３に示されるように、その選択した単語の重みが大きい文献の文献ファイル名の一覧を選択するための文献一覧メニュー５３０が表示され、ユーザがその文献一覧メニュー５３０を選択すると、その選択した文献を表示するための新しい文献表示欄５０１が開かれる。
【００７２】
また、図１４に示されるように、分類表示欄５１０に表示される分類をクリックして、右クリックなどにより、表示コマンドを入力することによって、単語・文情報表示欄５４０にその選択した分類の中で重みの大きい単語・文についての情報をランキング形式で表示する。
【００７３】
さらに、単語・文情報表示欄５４０の単語をクリックしたときには、図１５に示されるように、その選択した単語の重みが大きい文献の文献ファイル名の一覧を選択するための文献一覧メニュー５３０が表示され、ユーザがその文献一覧メニュー５３０を選択すると、その選択した文献を表示するための新しい文献表示欄５０１が開かれる。
【００７４】
以上のように、本実施形態の文書分類システムによれば、分類の付与されていない特許文献に対して、機械学習したモデル情報に基づいて自動的に文献の分類をおこなうことができる。
【００７５】
そのときに、文献の分類の根拠、すなわち、機械学習したモデルにおける重みの大きい単語・文を、文献の文書の中から明示的に表示するため、ユーザは、機械学習による分類を、レビューして、妥当性を検証し、必要ならば修正することができる。
【００７６】
また、文献の分類の根拠、すなわち、機械学習したモデルにおける重みの大きい単語・文を、選択して、その単語・文の分類寄与が大きい関連特許文献の表示をおこなうことができるため、関連特許文献の検索も容易になるという利点がある。
なお、本実施形態では、文書の分類を付与し、その分類過程で出力された情報を用いて関連特許文献の表示を行っているが、分類付与を行わずに関連特許文献の表示のみを行ってもよい。特許情報を利用する企業、研究所においては、特許庁等が付与した分類を用いることができるため、新たに分類を付与する必要はないからである。
この場合においても、システム構成は図１と同様となる。付与した分類以外の分類根拠などは、公開されない情報が多いからである。まずは、特許庁が分類付与した特許文献（すなわち、教師データ）を用いて、学習モデル情報３２１を作成する。その後、モデル情報３２１を用いて、分類付与済みの特許文献について、分類付与処理を行う。これによってＤＢサーバ２００の記憶部２２０に記憶される各情報が形成され、関連特許の表示が可能になる。
【００７７】
以上のように、本実施形態の文書分類システムは、審査のために、Ｆターム、ＦＩを付与する特許庁の審査部門関連部署においても有効に活用できるし、特許情報を利用する企業、研究所においても、特許情報の有効利用を促進して、研究・開発などの手段とすることができる。
【符号の説明】
【００７８】
１０…利用者端末、１００…ＡＰサーバ、２００…ＤＢサーバ、３００…文書分類サーバ
【図１】
2018194881.tif 000006
【図２】
2018194881.tif 000007
【図３】
2018194881.tif 000008
【図４】
2018194881.tif 000009
【図５】
2018194881.tif 000010
【図６】
2018194881.tif 000011
【図７】
2018194881.tif 000012
【図８】
2018194881.tif 000013
【図９】
2018194881.tif 000014
【図１０】
2018194881.tif 000015
【図１１】
2018194881.tif 000016
【図１２】
2018194881.tif 000017
【図１３】
2018194881.tif 000018
【図１４】
2018194881.tif 000019
【図１５】
2018194881.tif 000020