(57)【要約】  目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとを含むデータ集合を複数のクラスタにクラスタリングするクラスタリング部と、前記複数の未知データを、前記既知データを少なくとも１つ含むクラスタに属する前記未知データの少なくとも一部と、前記複数の既知データをいずれも含まないクラスタに属する前記未知データの少なくとも一部とに分別する分別部と、を含むデータ処理装置。
2020075485.tif 000002
【特許請求の範囲】
【請求項１】
目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとを含むデータ集合を複数のクラスタにクラスタリングするクラスタリング部と、
前記複数の未知データを、前記既知データを少なくとも１つ含むクラスタに属する前記未知データの少なくとも一部と、前記複数の既知データをいずれも含まないクラスタに属する前記未知データの少なくとも一部とに分別する分別部と、
を含む、データ処理装置。
【請求項２】
前記クラスタリング部は、前記データ集合に含まれる前記既知データがＭ個の場合、前記データ集合を、Ｍ／４より大きいクラスタ数にクラスタリングする、請求項１に記載のデータ処理装置。
【請求項３】
前記クラスタリング部は、前記クラスタ数を、Ｍより大きい数とする、請求項２に記載のデータ処理装置。
【請求項４】
前記クラスタリング部は、前記クラスタ数を、Ｍの２倍以上とする、請求項３に記載のデータ処理装置。
【請求項５】
前記クラスタリング部は、クラスタリングを複数回繰り返し行い、
前記分別部は、前記複数の未知データを、複数回のクラスタリングにおいて、前記既知データを少なくとも１つ含むクラスタに属した回数が所定回数以上である前記未知データの少なくとも一部と、前記既知データを少なくとも１つ含むクラスタに属した回数が前記所定回数未満である前記未知データとに分別する、
請求項１〜請求項４のいずれか１項に記載のデータ処理装置。
【請求項６】
前記分別部は、前記複数の既知データの全体に対する類似度をさらに用いて、前記複数の未知データを分別する、請求項１〜請求項５に記載のデータ処理装置。
【請求項７】
前記既知データ及び前記未知データの各々は、自然言語からなるテキストデータである、請求項１〜請求項６に記載のデータ処理装置。
【請求項８】
前記テキストデータは、予め定めたフォーマット、又は前記予め定めたフォーマットに類似するフォーマットに従って記述された文書である、請求項７に記載のデータ処理装置。
【請求項９】
前記文書は、特許文献又は科学技術論文の少なくとも一部である、請求項８に記載のデータ処理装置。
【請求項１０】
前記文書は、前記特許文献又は科学技術論文に含まれる、予め定めた項目内の記述、又は前記項目内の記述の少なくとも一部を改変した記述である、請求項９に記載のデータ処理装置。
【請求項１１】
前記項目は、概要、要旨、課題、効果、若しくは請求項、又は、概要、要旨、課題、効果、若しくは請求項に類似する用語で定義された項目である、請求項１０に記載のデータ処理装置。
【請求項１２】
クラスタリング部が、目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとを含むデータ集合を複数のクラスタにクラスタリングし、
分別部が、前記複数の未知データを、前記既知データを少なくとも１つ含むクラスタに属する前記未知データの少なくとも一部と、前記複数の既知データをいずれも含まないクラスタに属する前記未知データの少なくとも一部とに分別する、
データ処理方法。
【請求項１３】
コンピュータを、
目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとを含むデータ集合を複数のクラスタにクラスタリングするクラスタリング部、及び、
前記複数の未知データを、前記既知データを少なくとも１つ含むクラスタに属する前記未知データの少なくとも一部と、前記複数の既知データをいずれも含まないクラスタに属する前記未知データの少なくとも一部とに分別する分別部、
として機能させるための、データ処理プログラム。
【請求項１４】
目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとを含むデータ集合を複数のクラスタにクラスタリングするクラスタリング部と、
前記複数の未知データを、前記既知データを少なくとも１つ含むクラスタに属する前記未知データの少なくとも一部と、前記複数の既知データをいずれも含まないクラスタに属する前記未知データの少なくとも一部とに分別する分別部と、
を含む、データ処理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、データ処理装置、データ処理方法、データ処理プログラム、及びデータ処理システムに関する。
【背景技術】
【０００２】
人の個別的な関心事に合ったデータを得る手法として、キーワードや予め付与された分類を手掛かりに、所望のデータを検索する手法がある。また、データ集合に含まれる各データ間の類似性等に基づいて、データを複数のクラスタにクラスタリングする手法が存在する（例えば、特開２０１４−１２０１４０号公報、特開２００５−３４６２２３号公報、特開２００２−１８３１７１号公報、特開２００２−２６９１２０号公報）。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
人の個別的な関心事に合ったデータを検索により得る手法では、関心事が広範な場合や、多岐に亘る具体例が想定される場合などに、検索結果が例えば数千〜数万件といった膨大な件数になる場合がある。この場合、検索結果には、関心事との関連度が低い検索ノイズに相当するデータも含まれるが、どのデータが必要で、どのデータがノイズかを分別するためには、検索結果に含まれる各データを、人が目視判断する必要があり、多大な労力を要する。【０００４】
一方、昨今のデータ解析技術の進歩を取り入れた、機械学習済みＡＩ（Ａｒｔｉｆｉｃｉａｌ  Ｉｎｔｅｌｌｉｇｅｎｃｅ）システムが社会でも認知され始めている。ＡＩシステムを利用して、所定の条件に対する出力として、人の関心事に合ったデータを得ることが考えられる。しかし、人の関心事は個別的かつ多様であり、また、時節とともに変化するものであるから、全ての関心事に対して最適なデータを出力するＡＩシステムを準備することは現実的ではない。また、そのようなＡＩシステムを構築するためには、機械学習すべきデータ数が不十分な関心事が大半である。【０００５】
さらに、データのクラスタリング結果から、所望のデータを特定することも考えられるが、各クラスタに含まれるデータがどのような内容であるかなどは、人が目視判断する必要があり、目的とするデータを効率的に得ることはできない。【０００６】
本開示は、個別的かつ多様な関心事に対して、目的とするデータを効率的に得るためのデータ処理装置、データ処理方法、データ処理プログラム、及びデータ処理システムを提供する。
【課題を解決するための手段】
【０００７】
本開示の第１の態様は、データ処理装置であって、目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとを含むデータ集合を複数のクラスタにクラスタリングするクラスタリング部と、複数の未知データを、既知データを少なくとも１つ含むクラスタに属する未知データの少なくとも一部と、複数の既知データをいずれも含まないクラスタに属する未知データの少なくとも一部とに分別する分別部と、を含む。【０００８】
また、クラスタリング部は、データ集合に含まれる既知データがＭ個の場合、データ集合を、Ｍ／４より大きいクラスタ数にクラスタリングすることができ、また、クラスタリング部は、クラスタ数を、Ｍより大きい数とすることができ、さらに、クラスタリング部は、クラスタ数を、Ｍの２倍以上とすることができる。【０００９】
また、クラスタリング部は、クラスタリングを複数回繰り返し行い、分別部は、複数の未知データを、複数回のクラスタリングにおいて、既知データを少なくとも１つ含むクラスタに属した回数が所定回数以上である未知データの少なくとも一部と、既知データを少なくとも１つ含むクラスタに属した回数が所定回数未満である未知データとに分別することができる。【００１０】
また、分別部は、複数の既知データの全体に対する類似度をさらに用いて、複数の未知データを分別することができる。【００１１】
また、既知データ及び未知データの各々は、自然言語からなるテキストデータとすることができ、テキストデータは、予め定めたフォーマット、又は予め定めたフォーマットに類似するフォーマットに従って記述された文書とすることができる。さらに、文書は、特許文献又は科学技術論文の少なくとも一部とすることができ、文書は、特許文献又は科学技術論文に含まれる、予め定めた項目内の記述、又は項目内の記述の少なくとも一部を改変した記述とすることができる。また、項目は、概要、要旨、課題、効果、若しくは請求項、又は、概要、要旨、課題、効果、若しくは請求項に類似する用語で定義された項目とすることができる。【００１２】
また、本開示の第２の態様は、データ処理方法であって、クラスタリング部が、目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとを含むデータ集合を複数のクラスタにクラスタリングし、分別部が、複数の未知データを、既知データを少なくとも１つ含むクラスタに属する未知データの少なくとも一部と、複数の既知データをいずれも含まないクラスタに属する未知データの少なくとも一部とに分別する。【００１３】
また、本開示の第３の態様は、データ処理プログラムであって、コンピュータを、目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとを含むデータ集合を複数のクラスタにクラスタリングするクラスタリング部、及び、複数の未知データを、既知データを少なくとも１つ含むクラスタに属する未知データの少なくとも一部と、複数の既知データをいずれも含まないクラスタに属する未知データの少なくとも一部とに分別する分別部として機能させる。【００１４】
また、本開示の第４の態様は、データ処理システムであって、目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとを含むデータ集合を複数のクラスタにクラスタリングするクラスタリング部と、複数の未知データを、既知データを少なくとも１つ含むクラスタに属する未知データの少なくとも一部と、複数の既知データをいずれも含まないクラスタに属する未知データの少なくとも一部とに分別する分別部と、を含む。【００１５】
また、本開示の第５の態様は、データ処理装置であって、コンピュータに実行させるための命令を記憶するメモリと、記憶された命令を実行するよう構成されたプロセッサと、を備え、プロセッサは、目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとを含むデータ集合を複数のクラスタにクラスタリングし、複数の未知データを、既知データを少なくとも１つ含むクラスタに属する未知データの少なくとも一部と、複数の既知データをいずれも含まないクラスタに属する未知データの少なくとも一部とに分別する。
【発明の効果】
【００１６】
上記態様によれば、本開示のデータ処理装置、データ処理方法、データ処理プログラム、及びデータ処理システムは、個別的かつ多様な関心事に対して、目的とするデータを効率的に得ることができる。
【図面の簡単な説明】
【００１７】
【図１】例示的実施形態に係るデータ処理装置のハードウェア構成を示すブロック図である。
【図２】例示的実施形態に係るデータ処理装置の機能的構成を示すブロック図である。
【図３】類似性スコアの算出を説明するための図である。
【図４】クラスタリング、及びクラスタリングによる未知データの分別を説明するための図である。
【図５】分別結果の一例を示す図である。
【図６】分別結果の他の例を示す図である。
【図７】分別結果の他の例を示す図である。
【図８】データ処理の一例を示すフローチャートである。
【発明を実施するための形態】
【００１８】
以下、図面を参照して本開示の技術を実施するための例示的実施形態を詳細に説明する。
【００１９】
まず、本例示的実施形態に係るデータ処理装置のハードウェア構成について説明する。図１に示すように、データ処理装置１０は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）１２、メモリ１４、記憶装置１６、通信インタフェース（Ｉ／Ｆ）１８、入力装置２０、出力装置２２、及びＲ／Ｗ（Ｒｅａｄ／Ｗｒｉｔｅ）部２４を有する。各構成は、バスを介して相互に通信可能に接続されている。
【００２０】
記憶装置１６には、データ処理プログラムを含む各種プログラムが格納されている。ＣＰＵ１２は、中央演算処理ユニットであり、各種プログラムを実行したり、各構成を制御したりする。すなわち、ＣＰＵ１２は、記憶装置１６からプログラムを読み出し、メモリ１４を作業領域としてプログラムを実行する。ＣＰＵ１２は、記憶装置１６に記憶されているプログラムに従って、上記各構成の制御及び各種の演算処理を行う。
【００２１】
メモリ１４は、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）により構成され、作業領域として一時的にプログラム及びデータを記憶する。記憶装置１６は、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、及びＨＤＤ（Ｈａｒｄ  Ｄｉｓｋ  Ｄｒｉｖｅ）又はＳＳＤ（Ｓｏｌｉｄ  Ｓｔａｔｅ  Ｄｒｉｖｅ）により構成され、オペレーティングシステムを含む各種プログラム、及び各種データを格納する。
【００２２】
通信Ｉ／Ｆ１８は、他の機器と通信するためのインタフェースであり、例えば、イーサネット（登録商標）、ＦＤＤＩ（Ｆｉｂｅｒ−ｄｉｓｔｒｉｂｕｔｅｄ  ｄａｔａ  ｉｎｔｅｒｆａｃｅ）又はＷｉ−Ｆｉ（登録商標）等の規格が用いられる。
【００２３】
入力装置２０は、例えば、キーボードやマウス等の、各種の入力を行うための装置である。出力装置２２は、例えば、ディスプレイやプリンタ等の、各種の情報を出力するための装置である。出力装置２２として、タッチパネルディスプレイを採用することにより、入力装置２０として機能させてもよい。Ｒ／Ｗ部２４は、ＣＤ−ＲＯＭ（Ｃｏｍｐａｃｔ  Ｄｉｓｋ  Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＤＶＤ−ＲＯＭ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｋ  Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＵＳＢ（Ｕｎｉｖｅｒｓａｌ  Ｓｅｒｉａｌ  Ｂｕｓ）メモリなどの各種記録媒体に記憶されたデータの読み込みや、記録媒体に対するデータの書き込み等を制御する。
【００２４】
次に、データ処理装置１０の機能的構成について説明する。図２に示すように、データ処理装置１０は、入力部３２と、ベクトル化部３４と、類似性スコアリング部３６と、クラスタリング部３８と、分別部４０とを含む。
【００２５】
入力部３２は、複数の既知データを含む既知データ群と、複数の未知データを含む未知データ群とからなるデータ集合の入力を受け付ける。データ集合に含まれる既知データ及び未知データの各々は、互いに対照可能な同一形式のデータであればよく、データの種別に制限はない。例えば、遺伝子の塩基配列情報や、所定の文書を示すテキストデータを、既知データ及び未知データとすることができる。
【００２６】
テキストデータの場合、具体的には、自然言語からなる文書を示すテキストデータとすることができ、既知データ群と未知データ群とは同一言語とする。文書は、例えば、特許文献又は科学技術論文等の少なくとも一部のように、予め定めたフォーマット、又は、予め定めたフォーマットに類似するフォーマットに従って記述された文書とすることができる。特許文献又は科学技術論文等の少なくとも一部とは、特許文献又は科学技術論文等に含まれる、予め定めた項目内の記述、又はその項目内の記述の少なくとも一部を改変した記述である。
【００２７】
項目の一例としては、「概要」、「要旨」、「課題」、「効果」、「請求項」等や、これらに類似する用語で定義された項目が挙げられる。また、記述の少なくとも一部の改変とは、段落番号や、個々の文書の記述内容に影響を与えない定型的な文言、クラスタリング処理のノイズの原因となりうる文言の削除が挙げられる。その他では、未知データの言語に合うように既知データをその言語に翻訳する場合、一部の既知データの表現、単語をユーザの関心事に応じて変更する場合が挙げられる。
【００２８】
既知データとは、以前に、調査や確認などを行って、ユーザが内容を把握済みのデータであって、ユーザの関心事に対応する目的のデータであることが既知のデータである。既知データの各々には、そのデータが既知データであることを示すフラグが付与されている。既知データは、未知データを分別するための参照元のデータとなる。既知データ群に含まれる既知データの数は、例えば、１０件〜１０００件とすることができる。
【００２９】
未知データは、ユーザの関心事に対応する目的のデータであるか否かが未知のデータである。例えば、ユーザの関心事に沿って、一般的なデータ検索の手法により検索された検索結果を未知データ群とすることができる。検索結果には、ユーザの関心事との関連が低いデータも含まれる。すなわち、未知データ群には、目的のデータではない、ノイズに相当する未知データも含まれる。
【００３０】
未知データは、ユーザの関心事に対応する目的のデータであるか否かが未知であるため、ユーザは、調査や確認などを行って、その内容を把握する必要があるが、例えば、検索結果は、数百件〜数十万件に達する場合もあり、未知データの全てについてユーザが調査や確認を行うには、多大な労力を要する。そこで、本例示的実施形態は、未知データ群に含まれる未知データを、ユーザの関心事に対応する目的のデータか、又は、ノイズに相当するデータかに分別するものである。
【００３１】
なお、未知データ群に含まれる未知データの数は、例えば、５００件〜１０万件とすることができる。
【００３２】
ベクトル化部３４は、入力部３２で受け付けられたデータ集合に含まれる既知データ及び未知データの各々を形態素に分解して、既知データ及び未知データの各々に含まれる単語をベクトル表現することによりベクトル化する。形態素への分解、及び単語ベクトル化には、公知の手法を用いることができる。
【００３３】
例えば、ベクトル化部３４は、分解された形態素の中で予め設定された助詞、接続詞、語形変化、記号等の単独では意味をなさない形態素、予めストップワードとして設定した形態素（単語）を除き、データ集合に含まれる全ての既知データ及び未知データにおいて出現する全ての単語を抽出する。なお、既知データ及び未知データの全てのデータに共通する、クラスタリング処理に不要な単語を一般的なストップワードとして定めてもよいし、あるいは、既知データ及び未知データの種別に応じてクラスタリング処理に不要な単語をストップワードとして個別に定めてもよい。例えば、特許文献を対象とする場合、「請求項」などの単語をストップワードに加えることができる。
【００３４】
ベクトル化部３４は、全形態素からストップワードを除いて抽出した単語の各々を、ベクトルの１番目の要素（単語１）、２番目の要素（単語２）、３番目の要素（単語３）、・・・と割り振る。そして、ベクトル化部３４は、既知データ及び未知データの各々における、各要素に対応する単語の出現数を、その要素の値とするベクトルに変換する。例えば、ある既知データ（又は未知データ）に、単語１が１回、単語２が０回、単語３が２回出現する場合、その既知データ（又は未知データ）は、（１，０，２，・・・）というベクトルに変換される。
【００３５】
また、ベクトルの要素の値は、既知データ及び未知データの各々における該当の単語の出現数に限定されず、例えば、特に重要な単語である場合には、予め定めた荷重を出現数に乗じてもよい。また、ベクトルの要素の値を、既知データ及び未知データの各々に含まれる全ての単語の数（上述のストップワードを除いたもの）に対する、各単語の出現数、すなわち密度の数値に置き換えてもよい。
【００３６】
類似性スコアリング部３６は、未知データの各々について、複数の既知データを含む既知データ群全体に対する類似度を示す類似性スコアを算出する。具体的には、類似性スコアリング部３６は、ベクトル化部３４で得られた、既知データ及び未知データの各々を示すベクトル間の類似度により、類似性スコアを算出する。より具体的には、類似性スコアリング部３６は、各未知データについて、その未知データと全ての既知データの各々との間で算出したベクトルのコサイン類似度の合計を、その未知データの類似性スコアとして算出して、複数の既知データの全体に対する類似度とする。
【００３７】
例えば、既知データ群に含まれる既知データの数がＭ個、未知データ群に含まれる未知データの数がＮ個で、既知データの各々には１〜Ｍの番号が付与され、未知データの各々には１〜Ｎの番号が付与されているとする。以下では、番号ｍの既知データを「既知データｍ」、番号ｎの未知データを「未知データｎ」と表記する。
【００３８】
この場合、図３に示すように、未知データ１の類似性スコアＳ１は、未知データ１と既知データ１とのコサイン類似度ｓ１１、未知データ１と既知データ２とのコサイン類似度ｓ１２、・・・、未知データ１と既知データＭとのコサイン類似度ｓ１Ｍについて、ｓ１１〜ｓ１Ｍを合計した値である。同様に、未知データ２と、既知データ１、既知データ２、・・・、既知データＭの各々とのコサイン類似度ｓ２１、ｓ２２、・・・、ｓ２Ｍを合計して、未知データ２の類似性スコアＳ２が算出される。また、同様に、未知データＮと、既知データ１、既知データ２、・・・、既知データＭの各々とのコサイン類似度ｓＮ１、ｓＮ２、・・・、ｓＮＭを合計して、未知データＮの類似性スコアＳＮが算出される。
【００３９】
なお、図３において、既知データを白丸、未知データを斜線の丸で表し、丸内の数字は、既知データ及び未知データの各々に付与された番号を表している。
【００４０】
なお、ベクトル間の類似度は、コサイン類似度の場合に限定されず、ユークリッド距離、マハラノビス距離など、他の指標を用いてもよい。また、未知データと既知データとの個々の類似度を合計する際、各項に荷重をかけて合計してもよい。
【００４１】
上記のように類似性スコアを算出することにより、既知データ群に含まれる全ての形態素の中でストップワードを除き、出現頻度が高い形態素を含む未知データの類似性スコアは高くなる。その結果、未知データの類似性スコアは、ユーザの関心事を含むデータである場合に高くなる傾向が強いため、未知データの類似性スコアを指標にして、各未知データを序列化してユーザの関心事に対応する目的のデータを分別することができる。
【００４２】
クラスタリング部３８は、既知データ群及び未知データ群を含むデータ集合を、複数のクラスタにクラスタリングする。すなわち、図４に示すように、複数の既知データと複数の未知データとをまとめてクラスタリングする。
【００４３】
クラスタリング処理には、階層型クラスタリング又は非階層型クラスタリング（分割最適化型クラスタリングともいう）の公知の手法を用いることができる。また、階層型クラスタリングと非階層型クラスタリングを続けて行うこともできる。本例示的実施形態では、階層型クラスタリングに比べて計算量が少なく、クラスタの個数ｋを任意に選択できる非階層型クラスタリングを用いる場合について説明する。
【００４４】
非階層型のクラスタリングについては、既知又は未知の一個体のデータＸのクラスタＣｉ（ｉは１〜ｋのいずれか）への帰属度をＵｉで表した場合、ΣＵｉ＝１となる制約が課せられる。本例示的実施形態で用いられるクラスタリング処理は、Ｕｉの値が０又は１であるクリスプな分割であるクラスタリングと、Ｕｉが０〜１の間の実数を取りうるファジーな分割であるクラスタリング（ファジークラスタリングともいう）のいずれであってもよい。ファジーな分割であるクラスタリングの場合は、Ｕｉの値に閾値となる０．５未満の上限値（例えば０．１）を設定し、Ｕｉの値がその上限値未満であれば、データＸはクラスタＣｉに帰属しないという定義をし、Ｕｉの値がその上限値以上であれば、データＸはクラスタＣｉに帰属するという定義をする。
【００４５】
本例示的実施形態では、クリスプな分割であるクラスタリングとして、公知のＫ−平均法（Ｋ−ｍｅａｎｓ法ともいう）を用いる場合について説明する。Ｋ−平均法の計算に用いる距離の定義としては、ユークリッド距離が標準的であるが、ユークリッド距離の他ではマンハッタン距離、チェビシェフ距離、さらにはそれらを一般化したミンコフスキー距離のいずれの定義を採用してもよい。また、データ間に相関性があることを前提とするならばマハラノビス距離であってもよく、数学的に有意な距離の定義を適宜選択することができる。
【００４６】
クラスタリング部３８は、クラスタリング処理を、ユーザにより設定された処理回数繰り返す。Ｋ−平均法であるクラスタリング処理を連続的に複数回行なう場合は、処理回数毎にクラスタ数ｋの値を変更して行なってもよい。ただし、Ｋ−平均法には、重心計算開始時の初期値依存性があるため、一部の未知データの分別結果（詳細は後述）にばらつきが生じることを考慮して、クラスタ数ｋの値を一定のまま行なってもよい。ｋは、２回以上の任意の回数、例えば、３回〜１００回とすることができる。
【００４７】
なお、クラスタの個数ｋは、ユーザにより設定されるが、その適切な値の範囲については後述する。なお、図４では、ｋ＝３に設定された例を概略的に示している。
【００４８】
分別部４０は、類似性スコアリング部３６で算出された類似性スコア、及びクラスタリング部３８におけるクラスタリング処理の結果に基づいて、未知データ群に含まれる未知データを、目的のデータとノイズデータとに分別する観点で序列化する。
【００４９】
具体的には、分別部４０は、クラスタリング部３８におけるクラスタリング処理の結果に基づいて、既知データを少なくとも１つ含むクラスタに属する未知データの少なくとも一部と、既知データをいずれも含まないクラスタに属する未知データの少なくとも一部とを分別する。図４の例では、クラスタＡ及びクラスタＢには、既知データが含まれているが、クラスタＣには既知データが含まれていない。したがって、この場合、分別部４０は、クラスタＡ及びクラスタＢに属する未知データと、クラスタＣに属する未知データとを分別する。
【００５０】
これにより、既知データのいずれかに類似する未知データと、既知データのいずれにも類似しない未知データとを分別することができ、既知データのいずれにも類似しない未知データについては、検索結果に含まれるノイズであると判断することができる。
【００５１】
上記のような分別を行うためには、既知データをいずれも含まないクラスタが発生する必要がある。そのためには、上述したクラスタリング部３８でのクラスタリング処理の際に設定されるクラスタ数ｋは、既知データ群に含まれる既知データの数をＭとした場合、ｋ＞Ｍ／４とすることができる。この場合、個々の既知データが多数重複して一部のクラスタに帰属する傾向があるため、既知データを含まないクラスタが発生する可能性が高まる。また、確実に既知データを含まないクラスタを発生させるためには、ｋ＞Ｍとすればよい。さらに、ｋ＞２Ｍとすれば、既知データを含まないクラスタが、既知データを含むクラスタと同等数以上発生するため、未知データの分別精度及び分別の効率性が向上する。
【００５２】
クラスタリング数ｋが小さ過ぎると、既知データとの類似性が高い未知データと、ノイズの未知データとを確定的に分別できない可能性が高まるため、ｋの値は小さくなり過ぎないように設定する必要がある。Ｍ及びＮの値、クラスタリングの手法、対象のデータの種別等にもよるが、上記の点を考慮し、ｋの値の下限は、一例として、１５以上、２５以上、５０以上、１００以上とすることができる。
【００５３】
また、クラスタ数ｋの上限は、既知データ群に含まれる既知データの数をＭ、未知データ群に含まれる未知データの数をＮとした場合、Ｍ＋Ｎ未満である。ｋがＭ＋Ｎ以上の場合、全ての未知データが、既知データを含まないクラスタに属することになり、未知データの分別ができないためである。この点を考慮し、ｋの値の上限は、例えば、Ｍ＋Ｎの１／３以下、１／５以下等とすることができ、一例として、Ｍ＋Ｎ未満という制約の中で、１０，０００以下、１，０００以下等を上限とすることができる。
【００５４】
また、ｋ個に分割されたクラスタの各々に含まれる既知データ及び未知データの合計数の平均が、３〜１００個程度になるようにｋの値を設定してもよい。
【００５５】
分別部４０の処理の説明に戻って、例えば、分別部４０は、未知データの各々に、既知データを少なくとも１つ含むクラスタに属することを示すラベル、又は、既知データをいずれも含まないクラスタに属することを示すラベルを付与する。本例示的実施形態では、クラスタリング処理が複数回繰り返されることに対応して、既知データを少なくとも１つ含むクラスタに属した回数をラベルとして付与する。
【００５６】
より具体的には、分別部４０は、クラスタリング処理が行われる毎に、既知データを少なくとも１つ含むクラスタに属する未知データのカウントを１加算し、全処理回数を終了した時点でのカウントの値をラベルとして扱う。例えば、処理回数が３回の場合において、ある未知データが、いずれの処理回のクラスタリングにおいても、既知データを少なくとも１つ含むクラスタに属した場合、カウントの値は３となる。また、ある未知データが、既知データを少なくとも１つ含むクラスタに１回も属さなかった場合、カウントの値は０となる。
【００５７】
カウントの値は、いずれかの既知データとの類似性の高さを表す指標となり、カウントの値が大きい（例えば、処理回数全回に相当する値）未知データほど、いずれかの既知データとの類似性が高い未知データであるといえる。一方、カウントの値が小さい（例えば０）未知データほど、ノイズデータである可能性が極めて高いといえる。
【００５８】
分別部４０は、カウントの値が大きい順に、各未知データを序列化する。また、分別部４０は、類似性スコアリング部３６により算出された類似性スコアが高い順に、各未知データを序列化する。分別部４０は、序列化した結果に基づいて、未知データを分別したリストを、分別結果として作成する。
【００５９】
例えば、分別部４０は、類似性スコアによる序列の上位から予め定めた割合までの未知データを目的のデータに分別する。さらに、分別部４０は、残りの未知データについて、クラスタリングの結果であるカウントの値による序列の上位から予め定めた割合までの未知データを目的のデータに分別し、残りの未知データをノイズデータに分別する。例えば、類似性スコアによる序列の上位１０％を目的のデータに分別し、さらにクラスタリングの結果であるカウントの値による序列の上位１０％を目的のデータに分別する。これにより、合計２０％の未知データを目的のデータとして絞り込むことができ、残りの８０％の未知データをノイズデータとして、その内容の調査及び確認を省略するなどの対応をとることができる。図５に、分別結果の一例を示す。
【００６０】
なお、上記の例では、序列の上位からの割合で未知データを分別する場合について説明したが、予め定めた閾値で分別してもよい。例えば、分別部４０は、カウントの値が閾値ＴＨ１以上の未知データを目的のデータ、ＴＨ１未満の未知データをノイズデータに分別してもよい。閾値ＴＨ１は、処理回数全回に相当する値であってもよいし、処理回数の１／２等に相当する値であってもよい。また、分別部４０は、類似性スコアが閾値ＴＨ２以上の未知データを目的のデータ、ＴＨ２未満の未知データをノイズデータに分別してもよい。
【００６１】
また、分別結果の作成例は上記の例に限定されず、例えば、図６に示すように、番号順に並べた未知データに対して、上記のように分別した結果を付与したものであってもよい。また、図５及び図６に示すように、目的データとノイズデータとを明確に分別した分別結果に限定されず、例えば、図７に示すように、各未知データに対して、類似性スコア及びカウントの値を付与した分別結果を作成して出力してもよい。この場合、予め定めた割合や閾値で画一的に分別する場合に比べ、ユーザによる柔軟な判断で分別を行うことができる。さらに、図７の場合、類似性スコア若しくはカウントの値、又は、類似性スコアとカウントの値とを統合したスコアの順に未知データを並び替えた分別結果を作成してもよい。
【００６２】
次に、本例示的実施形態のデータ処理装置１０の作用を説明する。ＣＰＵ１２が、記憶装置１６に記憶されたデータ処理プログラムをメモリ１４に展開して実行することによって、図８に示すデータ処理が実行される。図８に示すデータ処理は、例えば、複数の既知データを含む既知データ群と、複数の未知データを含む未知データ群とからなるデータ集合がデータ処理装置１０へ入力された場合に開始される。
【００６３】
ステップＳ１２で、入力部３２が、入力されたデータ集合を受け付ける。ここでは、既知データ群に含まれる既知データを、既知データｍ（ｍ＝１，２，・・・，Ｍ、Ｍは既知データ群に含まれる既知データの数）とする。また、未知データ群に含まれる未知データを、未知データｎ（ｎ＝１，２，・・・，Ｎ、Ｎは未知データ群に含まれる未知データの数）とする。
【００６４】
次に、ステップＳ１４で、ベクトル化部３４が、入力部３２で受け付けられたデータ集合に含まれる既知データｍ及び未知データｎの各々を形態素に分解して、既知データｍ及び未知データｎの各々に含まれる単語をベクトル表現することによりベクトル化する。
【００６５】
次に、ステップＳ１６で、類似性スコアリング部３６が、上記ステップＳ１４で得られた既知データｍ及び未知データｎの各々を示すベクトルを用いて、未知データｎの各々について、類似性スコアＳｎを算出する。例えば、類似性スコアリング部３６は、未知データｎと全ての既知データｍの各々との間で算出したベクトルのコサイン類似度ｓｎｍの合計を、未知データｎの類似性スコアＳｎ（Ｓｎ＝ｓｎ１＋ｓｎ２＋・・・＋ｓｎＭ）として算出する。
【００６６】
次に、ステップＳ１８で、クラスタリング部３８が、クラスタリング処理におけるクラスタ数ｋ、及び繰り返しの処理回数Ｉを設定する。ｋ及びＩの値は、ユーザから入力された値を設定したり、予め所定の記憶部に記憶されていた値を読み出して設定したりすることができる。
【００６７】
次に、ステップＳ２０で、クラスタリング部３８が、現在の処理回数を示す変数ｉに１を設定する。
【００６８】
次に、ステップＳ２２で、クラスタリング部３８が、ステップＳ１２で受け付けられた既知データｍ（ｍ＝１，２，・・・，Ｍ）と未知データｎ（ｎ＝１，２，・・・，Ｎ）とをまとめて、例えば、Ｋ−平均法によりクラスタリングする。
【００６９】
次に、ステップＳ２４で、分別部４０が、既知データｍを少なくとも１つ含むクラスタに属する未知データｎのカウントを１加算する。
【００７０】
次に、ステップＳ２６で、クラスタリング部３８が、ｉがＩを超えたか否かを判定し、ｉがＩ以下の場合には、ステップＳ２８へ移行し、ｉを１インクリメントして、ステップＳ２２に戻る。一方、ｉがＩを超えた場合には、ステップＳ３０へ移行する。
【００７１】
ステップＳ３０では、分別部４０が、上記ステップＳ２４で加算されたカウントの値が大きい順に、各未知データｎを序列化する。また、分別部４０が、上記ステップＳ１６で算出された類似性スコアＳｎが高い順に、各未知データｎを序列化する。そして、分別部４０は、序列化した結果に基づいて、未知データｎを、目的のデータかノイズデータかに分別した分別結果のリストを作成する。
【００７２】
次に、ステップＳ３２で、分別部４０が、上記ステップＳ３０で作成した分別結果のリストを出力して、データ処理は終了する。
【００７３】
次に、上記例示的実施形態の具体例について説明する。
【００７４】
本具体例では、既知データ及び未知データの種別を、日本語の特許公報から抽出した請求項の記述とした。未知データは、ユーザの関心事に基づく検索により得られた約２，０００件の特許公報の特許番号、及びその特許公報に含まれる請求項とした。また、既知データは、事前に調査や確認などがなされて、ユーザの関心事に関係する内容を示す記述であった、既知の特許公報に含まれる請求項７０件分とした。また、既知データ及び未知データのベクトル化においては、形態素に分解した後に、記号や非特徴語等の所定のストップワードを除外した。さらに、類似性スコアは、上記例示的実施形態と同様に算出し、クラスタリングにはＫ−平均法を用いて、クラスタ数ｋ＝２００、繰り返しの処理回数＝３回とした。
【００７５】
未知データを、目的のデータとノイズデータとに分別する条件は、以下の通りとした。
（１）類似スコアの序列上位１０％の未知データを目的のデータとする。
（２）クラスタリング全３回中２回以上、既知データを含むクラスタに属した未知データを目的のデータとする。
（３）上記（１）及び（２）で目的のデータに分別されなかった未知データをノイズデータとする（クラスタリング全３回とも既知データを含むクラスタに属さなかった未知データを含む）。
【００７６】
この場合、約４００件の未知データが目的のデータに分別され、約１，６００件の未知データがノイズデータに分別された。
【００７７】
以上説明したように、本例示的実施形態に係るデータ処理装置によれば、目的のデータであることが既知の複数の既知データと、目的のデータであるか否かが未知の複数の未知データとをまとめて複数のクラスタにクラスタリングする。そして、既知データを少なくとも１つ含むクラスタに属する未知データの少なくとも一部と、既知データをいずれも含まないクラスタに属する未知データの少なくとも一部とを分別する。これにより、膨大な未知データの中から、ユーザが内容を確認すべき未知データの件数を絞り込むことができ、個別的かつ多様な関心事に対して、目的とするデータを効率的に得ることができる。
【００７８】
また、上記例示的実施形態では、クラスタリングによる未知データの分別と、類似性スコアによる分別とを併用している。類似性スコアによる分別では、既知データ群全体の単語的特徴を反映し易いが、既知データの個々の単語的特徴は反映し難い。一方、クラスタリングによる分別では、既知データ群全体の単語的特徴を反映し難いが、既知データの個々の単語的特徴は反映し易い。このように相補的な効果を有する手法を組み合わせることにより、より精度良く未知データを分別することができる。
【００７９】
また、上記例示的実施形態では、クラスタリング処理を連続的に複数回行ない、既知データを含むクラスタに属した回数をカウントし、この回数に基づいて目的データとノイズデータとを分別する。これにより、分別の精度が向上する。
【００８０】
なお、上記例示的実施形態では、クラスタリングによる未知データの分別と、類似性スコアによる分別とを併用する場合について説明したが、これに限定されず、クラスタリングのみにより未知データの分別を行ってもよい。
【００８１】
また、上記例示的実施形態では、クラスタリングを複数回繰り返す場合について説明したが、これに限定されず、１回のクラスタリング結果に基づいて、未知データの分別を行ってもよい。
【００８２】
また、上記例示的実施形態で例示した、既知データ及び未知データの種別、数、クラスタリングの手法、各種数値は一例であり、上記の例に限定されるものではない。
【００８３】
また、上記例示的実施形態では、データ処理装置を構成する各機能部を１つのコンピュータで実現する場合について説明したが、各機能部を複数のコンピュータに分散したシステムとして構成してもよい。
【００８４】
また、上記例示的実施形態において、例えば、入力部３２、ベクトル化部３４、類似性スコアリング部３６、クラスタリング部３８、及び分別部４０といった各種の処理を実行する処理部（ｐｒｏｃｅｓｓｉｎｇ  ｕｎｉｔ）のハードウェア的な構造としては、次に示す各種のプロセッサ（ｐｒｏｃｅｓｓｏｒ）を用いることができる。上記各種のプロセッサには、前述したように、ソフトウェア（プログラム）を実行して各種の処理部として機能する汎用的なプロセッサであるＣＰＵに加えて、ＦＰＧＡ（Ｆｉｅｌｄ−Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス（Ｐｒｏｇｒａｍｍａｂｌｅ  Ｌｏｇｉｃ  Ｄｅｖｉｃｅ：ＰＬＤ）、ＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ  Ｓｐｅｃｉｆｉｃ  Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
【００８５】
１つの処理部は、これらの各種のプロセッサのうちの１つで構成されてもよいし、同種又は異種の２つ以上のプロセッサの組み合わせ（例えば、複数のＦＰＧＡの組み合わせや、ＣＰＵとＦＰＧＡとの組み合わせ）で構成されてもよい。また、複数の処理部を１つのプロセッサで構成してもよい。
複数の処理部を１つのプロセッサで構成する例としては、第１に、クライアント及びサーバ等のコンピュータに代表されるように、１つ以上のＣＰＵとソフトウェアの組み合わせで１つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第２に、システムオンチップ（Ｓｙｓｔｅｍ  Ｏｎ  Ｃｈｉｐ：ＳｏＣ）等に代表されるように、複数の処理部を含むシステム全体の機能を１つのＩＣ（Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサの１つ以上を用いて構成される。
【００８６】
更に、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子などの回路素子を組み合わせた電気回路（ｃｉｒｃｕｉｔｒｙ）を用いることができる。
【００８７】
また、上記例示的実施形態では、プログラムが記憶部に予め記憶（インストール）されている態様を説明したが、これに限定されない。プログラムは、ＣＤ−ＲＯＭ、ＤＶＤ−ＲＯＭ、ＵＳＢメモリ等の記録媒体に記録された形態で提供されてもよい。また、プログラムは、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
【００８８】
本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
【００８９】
２０１８年１０月１１日出願の日本国特許出願２０１８−１９２６６９号の開示は、その全体が参照により本明細書に取り込まれる。
【図１】
2020075485.tif 000003
【図２】
2020075485.tif 000004
【図３】
2020075485.tif 000005
【図４】
2020075485.tif 000006
【図５】
2020075485.tif 000007
【図６】
2020075485.tif 000008
【図７】
2020075485.tif 000009
【図８】
2020075485.tif 000010
【国際調査報告】
2020075485.tif 000011
2020075485.tif 000012
2020075485.tif 000013
2020075485.tif 000014