(57)【要約】  入力部８１は、アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する。回答統合部８２は、アノテーション結果を統合してデータのラベルを推定する。スキル推定部８３は、推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定する。更新部８４は、ラベル付加情報に基づいてラベル間の構造が特定されるラベルをデータに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、アノテーション結果に合致するように更新する。出力部８５は、回答統合部８２により推定されたラベルを出力する。回答統合部８２は、ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定する。
2020090076.tif 000002
【特許請求の範囲】
【請求項１】
アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力部と、
前記アノテーション結果を統合して前記データのラベルを推定する回答統合部と、
推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定部と、
前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新する更新部と、
前記回答統合部により推定されたラベルを出力する出力部とを備え、
前記回答統合部は、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定する
ことを特徴とする回答統合装置。
【請求項２】
出力部は、ラベル付加情報で特定される各ラベルの構造を、アノテータのスキルに応じた態様で出力する
請求項１記載の回答統合装置。
【請求項３】
出力部は、ラベル付加情報がラベルの階層構造で表現されている場合、各ラベルについてのアノテータのスキルに応じて対応するノードが強調表示された前記階層構造を出力する
請求項１または請求項２に記載の回答統合装置。
【請求項４】
出力部は、アノテータのスキルが高いほど対応するノードのラベルを強調表示する
請求項３記載の回答統合装置。
【請求項５】
回答統合部は、アノテータのスキルおよびタスクの特徴に応じて、アノテーション結果に対する重みを算出し、重みの総和が最も大きいラベルを、データのラベルとして推定する
請求項１から請求項４のうちのいずれか１項に記載の回答統合装置。
【請求項６】
回答統合部は、特徴ベクトルとスキルベクトルとの内積で算出される重みをアノテーション結果に対する重みとして算出する
請求項１から請求項５のうちのいずれか１項に記載の回答統合装置。
【請求項７】
回答統合部は、アノテータのスキルの変化およびタスクの特徴の変化が収束していない場合、アノテーション結果を再統合してデータのラベルを推定する
請求項１から請求項６のうちのいずれか１項に記載の回答統合装置。
【請求項８】
アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力し、
前記アノテーション結果を統合して前記データのラベルを推定し、
推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定し、
前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新し、
推定されたラベルを出力し、
前記アノテーション結果を統合する際、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定する
ことを特徴とする回答統合方法。
【請求項９】
ラベル付加情報で特定される各ラベルの構造に応じたアノテータのスキルを出力する
請求項８記載の回答統合方法。
【請求項１０】
コンピュータに、
アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力処理、
前記アノテーション結果を統合して前記データのラベルを推定する回答統合処理、
推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定処理、
前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新する更新処理、および、
前記回答統合処理で推定されたラベルを出力する出力処理を実行させ、
前記回答統合処理で、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定させる
ための回答統合プログラム。
【請求項１１】
コンピュータに、
出力処理で、ラベル付加情報で特定される各ラベルの構造に応じたアノテータのスキルを出力させる
請求項１０記載の回答統合プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、教師データとして用いられるデータに対して付加すべきラベルについての回答を統合する回答統合装置、回答統合方法および回答統合プログラムに関する。
【背景技術】
【０００２】
データ分析の需要の高まりから、大量のデータに基づく予測や分析が一般に行われている。予測や分析を行う際、収集されたデータに対するラベル付け（アノテーション）を行うことで、ラベル付けされたデータを教師データとして用いることが可能になる。【０００３】
ラベルなしデータを大量に収集することは可能だが、収集されたデータへのラベル付け（すなわち、アノテーション）はコストが高い。ただし、アノテーションは、データ分析の準備として、人間（アノテータ）によって行われる必要がある。【０００４】
ただし、人間がラベル付けを行った場合、一定のノイズが発生する可能性が高い。ラベル付きデータにノイズが含まれていると、学習に悪影響を与えてしまうため、品質の高い教師データの作成、および、モデルの学習に効果的な教師データの収集が必要になる。教師データの品質は、アノテータのスキルに依存する部分が多いため、アノテータのスキルを考慮した学習方法が各種提案されている。【０００５】
非特許文献１には、アノテータのスキルを考慮して真のラベルを推定する方法が記載されている。非特許文献１に記載された方法では、多次元ベクトルによってアノテータのスキルやタスクの特徴をモデル化し、アノテーションの結果に関する生成モデルに基づいて同時分布を最大化するパラメータを求めることで、真のラベルを推定する。【０００６】
また、非特許文献２には、より具体的な知識を獲得するために外部の知識を組み込む方法が記載されている。非特許文献２に記載された方法では、アノテータのスキルが一次元の信頼度で表され、ラベル間の構造を利用して回答が統合される。【０００７】
なお、非特許文献３には、階層構造の各ノードに対応する数値（ベクトル）表現を獲得するための手法であるポアンカレ埋め込みについて記載されている。
【先行技術文献】
【非特許文献】
【０００８】
【非特許文献１】Peter Welinder, Steve Branson, Serge Belongie, and Pietro Perona, “The Multidimensional Wisdom of Crowds”, Advances in Neural Information Processing Systems 23, NIPS, 2010.
【非特許文献２】Tao Han, Hailong Sun, Yangqiu Song, Yili Fang, Xudong Liu, “Incorporating External Knowledge into Crowd Intelligence for More Specific Knowledge Acquisition”, IJCAI, 25th, 2016.
【非特許文献３】Nickel M. et al., "Poincare Embeddings for Learning Hierarchical Representations", NIPS, 2017.
【発明の概要】
【発明が解決しようとする課題】
【０００９】
非特許文献１に記載された方法では、アノテータのスキルについて考慮される一方、付加するラベルについての考慮がなされていない。これに対し、非特許文献２に記載された方法では、ラベル間の構造を利用して回答が統合されるため、より統合する精度を向上させることは可能である。しかし、非特許文献２に記載された方法では、アノテータの信頼度およびタスクの難易度が一次元の変数のみで扱われており、アノテータのスキルやタスクの特徴が信頼度や難易度の多寡でしか測ることができない。そのため、非特許文献２に記載された方法では、アノテーションへの回答を統合する精度が十分とは言い切れない。【００１０】
そこで、本発明では、教師データとして用いられるデータに対して付加すべきラベルについての回答を効率的に統合できる回答統合装置、回答統合方法および回答統合プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１１】
本発明による回答統合装置は、アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力部と、アノテーション結果を統合してデータのラベルを推定する回答統合部と、推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定部と、ラベル付加情報に基づいてラベル間の構造が特定されるラベルをデータに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、アノテーション結果に合致するように更新する更新部と、回答統合部により推定されたラベルを出力する出力部とを備え、回答統合部が、ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定することを特徴とする。【００１２】
本発明による回答統合方法は、アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力し、アノテーション結果を統合してデータのラベルを推定し、推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定し、ラベル付加情報に基づいてラベル間の構造が特定されるラベルをデータに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、アノテーション結果に合致するように更新し、推定されたラベルを出力し、アノテーション結果を統合する際、ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定することを特徴とする。【００１３】
本発明による回答統合プログラムは、コンピュータに、アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力処理、アノテーション結果を統合してデータのラベルを推定する回答統合処理、推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定処理、ラベル付加情報に基づいてラベル間の構造が特定されるラベルをデータに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、アノテーション結果に合致するように更新する更新処理、および、回答統合処理で推定されたラベルを出力する出力処理を実行させ、回答統合処理で、ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定させることを特徴とする。
【発明の効果】
【００１４】
本発明によれば、アノテータのスキルやタスクの特徴が事前に不明な場合であっても、教師データとして用いられるデータに対して付加すべきラベルについての回答を効率的に統合できる。
【図面の簡単な説明】
【００１５】
【図１】本発明による回答統合装置の一実施形態の構成例を示すブロック図である。
【図２】ラベル付加情報の例を示す説明図である。
【図３】ラベル付加情報の他の例を示す説明図である。
【図４】アノテータのスキルを可視化した例を示す説明図である。
【図５】アノテータのスキルを可視化した他の例を示す説明図である。
【図６】回答統合装置の動作例を示すフローチャートである。
【図７】本発明による回答統合装置の概要を示すブロック図である。
【図８】少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。
【発明を実施するための形態】
【００１６】
以下、本発明の実施形態を図面を参照して説明する。
【００１７】
図１は、本発明による回答統合装置の一実施形態の構成例を示すブロック図である。本実施形態の回答統合装置１００は、記憶部１０と、アノテーション結果入力部３０と、回答統合部４０と、スキル推定部５０と、更新部６０と、出力部７０とを備えている。
【００１８】
記憶部１０は、教師データとして用いられるデータに対して付加すべきラベルの付加情報（以下、単にラベル付加情報と記す。）を記憶する。本実施形態のラベル付加情報とは、ラベル間の構造を示す情報であり、具体的には、ラベル間の関連度合いや、近さ、類似度や、ラベルの意味を示すテキストなどである。
【００１９】
図２は、ラベル付加情報の例を示す説明図である。図２に示すラベル付加情報２１は、ラベルの階層構造を木構造で表しており、各ノードの上位のラベルが、下位のノードの上位概念のラベルを表わしている。例えば、図２に示すラベル付加情報２１は、「柴犬」は、「イヌ」に含まれ、「イヌ」は動物に含まれ、同じ「イヌ」に属する「柴犬」と「秋田犬」は、ラベル同士の結びつきが強い、などを意味している。
【００２０】
また、図２に例示するラベル付加情報２１は、ベクトル表現によるラベル付加情報２２でも表すことが可能である。図２に例示するラベル付加情報２２は、ラベル付加情報２１における「柴犬」と「秋田犬」をそれぞれベクトル表現で表した例を示す。図２に例示するベクトルは、パスが通るノードに１を設定したバイナリベクトルであり、最後の枝の部分２２ａのみ異なるため、ベクトル表現が近いことからも、ラベル同士の結びつきの強さを表わしていると言える。
【００２１】
なお、階層構造を表現する方法は木構造に限定されず、例えば、非特許文献３に記載されたポアンカレ埋め込みの技術を用いて階層構造を表現してもよい。このような階層構造のラベル付加情報を用いることで、重複する部分のスキル（図２に示す例では、「柴犬」に関するスキルと「イヌ」に関するスキル）を共通で使用することが可能になる。
【００２２】
また、図３は、ラベル付加情報の他の例を示す説明図である。図３に例示する付加情報３１は、各ラベル間の類似度を行列形式で表していることを示す。例えば、「柴犬」と「秋田犬」は類似度が０．８で類似していることを示し、「柴犬」と「カモノハシ」は類似度が０．２で類似していないことを示す。このラベル付加情報によれば、「柴犬」に詳しいアノテータは、類似度の高い「秋田犬」にも詳しいが、類似度の低い「カモノハシ」については詳しいか否か不明であると想定できる。
【００２３】
なお、類似度（関係性）が保たれる表現であれば、図３に例示する表現に限定されず、例えば、次元圧縮（Spectral Embedding）によるベクトル表現など、任意の方法でラベル間の類似度が表されてもよい。
【００２４】
また、記憶部１０は、各アノテータによるアノテーション結果を記憶する。ここで、アノテーション結果とは、アノテータによってラベルが付与されたデータである。このアノテーション結果に基づいて最終的な教師データの統合が行われることから、アノテーション結果のことを教師データ候補と言うこともできる。本実施形態では、このアノテーション結果がすでに得られている場合を想定する。
【００２５】
また、記憶部１０は、アノテータのスキルを表わす情報およびタスクの特徴を表わす情報（以下、単に、アノテータのスキル、および、タスクの特徴と記す。）を記憶する。本実施形態のタスクとは、あるデータに対して付与されるラベルを問い合わせることである。特に、本実施形態では、タスクとは、ラベル付加情報に基づいてラベル間の構造が特定されるラベルをデータに対して付与することである。例えば、図２に示す例では、タスクとは、ある画像に対して「階層の末端ラベル」に示される「三毛猫かどうか（Ｙｅｓ／Ｎｏ）」を問い合わせることである。
【００２６】
タスクの特徴とは、あるデータに対して所定のラベルを付与することを抽象化した概念であり、具体的には、タスクの各特徴を示すベクトルで表される。特に、本実施形態では、ラベルの特徴は、ラベル付加情報を含めて表される。すなわち、同種のデータに対してラベルを付与する場合、ラベルの特徴は、ラベル付加情報が示すラベルの構造が近いほど、タスクの特徴も近くなる。例えば、図２に例示するラベル付加情報の場合、タスクの共通度合いが、ベクトル表現で表されているとも言える。
【００２７】
アノテータのスキルとは、あるタスクに対して付与するラベルについてのアノテータの専門性を表わす概念であり、具体的には、アノテータが付与するラベルに関するスキルを示すベクトルで表される。特に、本実施形態では、アノテータのスキルは、ラベル付加情報が示すラベルの構造が近いほど、アノテータのスキルも近いと想定する。例えば、ラベル「柴犬」とラベル「イヌ」が近い場合、「柴犬」に詳しいアノテータは、「イヌ」についても詳しいと想定される。
【００２８】
本実施形態では、複数のアノテータにタスクを割り当てて回答（アノテーション結果）を収集する。すなわち、本実施形態では、１つのデータに対して複数のアノテータによって回答された複数のアノテーション結果（教師データ候補）が存在する。複数のアノテータが関わっていることから、収集されたアノテーション結果にはノイズが含まれていることが想定されるため、本実施形態では、収集したアノテーション結果を統合して、各データに付与すべきラベルを決定する。
【００２９】
なお、複数のアノテータは、それぞれスキル（専門性）を有し、タスクもラベル付加情報に合わせた特徴を有するが、本実施形態では、アノテータのスキル（専門性）や、タスクの特徴は事前には不明であるとする。
【００３０】
アノテーション結果入力部３０は、アノテーション結果およびラベル付加情報を回答統合部４０に入力する。本実施形態では、アノテーション結果入力部３０は、記憶部１０に記憶されたアノテーション結果を取得して回答統合部４０に入力するものとする。ただし、アノテーション結果入力部３０は、他のストレージサーバ（図示せず）から、通信ネットワークを介してアノテーション結果を取得して、回答統合部４０に入力してもよい。
【００３１】
なお、ラベル付加情報が、ラベルの意味を示すテキストで表されている場合、アノテーション結果入力部３０は、各ラベルのテキストの類似度に基づいて、ラベル間の関連度合いを算出してもよい。テキストの類似度を算出する方法は広く知られており、ここでは詳細な説明は省略する。
【００３２】
回答統合部４０は、アノテーション結果を統合して、各データのラベルを推定する。回答統合部４０は、初期状態では、各データについて、付与されたラベルが最も多いラベルを各データのラベルとして推定してもよい。本実施形態では、回答統合部４０は、アノテータのスキルおよびタスクの特徴に応じて、各データのラベルを推定する。
【００３３】
具体的には、回答統合部４０は、各ラベルについてのアノテータのスキル（専門性）が高いほど大きくなるように重みを算出してもよい。また、回答統合部４０は、タスクの特徴が近いラベルのスキル（専門性）が高いほど、アノテーション結果に対する重みが大きくなるように算出してもよい。そして、回答統合部４０は、重みの総和が最も大きいラベルを、各データのラベルとして推定してもよい。これは、専門性の低いアノテータの回答よりも専門性の高いアノテータの回答を優先的に適用し、対象とするラベルと構造が近い（タスクの特徴が近い）ラベルのタスクについてのスキルを、より考慮に入れることを意味する。なお、アノテータのスキルおよびタスクの特徴を推定する方法については後述される。
【００３４】
回答統合部４０は、例えば、タスクの特徴を表わす特徴ベクトルと、アノテータのスキルを表わすスキルベクトルとの内積を算出して、各アノテータが各タスクに対してどの程度適合するかを示す値（尤度）を算出し、算出された尤度を重みとして用いてもよい。この値は、あるアノテータがラベルの適否について、どの程度適切に回答しているかを表わす指標であるとも言える。また、アノテータのスキルと、タスクの特徴とがマッチしているほど、上述する特徴ベクトルとスキルベクトルとの内積は、大きく算出されることになる。
【００３５】
スキル推定部５０は、アノテーション結果に基づいて、アノテータのスキルを推定する。具体的には、スキル推定部５０は、回答統合部４０によるラベルの推定結果と、各アノテータによるアノテーション結果との差が小さいほど、スキル（専門性）が高くなるように、アノテーションのスキルを推定する。アノテーション結果とラベルの推定結果とが一致するほど、ラベルを適切に選択するスキルがあると想定されるからである。スキル推定部５０は、例えば、上述する尤度とラベルの推定結果との差が最小になるように各アノテータのスキルを最適化するようにしてもよい。
【００３６】
更新部６０は、タスクの特徴を更新する。具体的には、更新部６０は、スキル推定部５０によって推定されたアノテータのスキルに基づいて、実際のアノテーション結果に合致するようにタスクの特徴を更新する。更新部６０は、例えば、図２に例示する木構造のパスのベクトル表現をタスクの生成モデルのパラメータとして用いることで、ラベル付加情報を考慮したタスクの特徴を更新してもよい。また、更新部６０は、例えば、図３に例示するラベル間の類似度行列をベクトル化してタスクの生成モデルのパラメータとして用いることで、ラベル付加情報を考慮したタスクの特徴を更新してもよい。
【００３７】
なお、本実施形態では、スキル推定部５０と更新部６０とが、それぞれ、スキルの推定およびタスクの特徴の更新を行う場合について説明した。ただし、スキル推定部５０および更新部６０が一体となって、スキルの推定およびタスクの特徴の更新を行ってもよい。
【００３８】
回答統合部４０は、スキル推定部５０によって推定されたアノテータのスキルの変化および更新部６０により算出されたタスクの特徴の変化が収束したか否か判定する。変化が収束していない場合、回答統合部４０は、アノテーション結果の再統合を行い、スキル推定部５０および更新部６０は、それぞれ、アノテータのスキルの推定処理、および、タスクの特徴の更新処理を繰り返す。収束したか否かを判定する基準は、予め定めておけばよい。
【００３９】
出力部７０は、変化が収束したと判定された場合、回答統合部４０により推定されたラベルを出力する。出力部７０は、推定されたラベルと対応するデータとをディスプレイ装置などの表示装置（図示せず）に表示してもよく、推定ラベルとデータとを対応付けた結果を記憶部１０に出力して記憶させてもよい。
【００４０】
また、出力部７０は、推定された各アノテータのスキルを出力してもよい。本実施形態では、アノテータのスキルが、あるタスクに対して付与するラベルについてのアノテータの専門性を表わしており、かつ、各ラベルの構造は、ラベル付加情報によって特定される。そこで、出力部７０は、ラベル付加情報で特定される各ラベルの構造に応じたアノテータのスキルを出力してもよい。
【００４１】
具体的には、出力部７０は、ラベル付加情報で特定される各ラベルの構造を、アノテータのスキルに応じた態様で出力してもよい。例えば、ラベル付加情報がラベルの階層構造で表現されている場合、出力部７０は、各ラベルについてのアノテータのスキルに応じて、階層構造において対応する各ノードのラベルを強調表示してもよい。このとき、出力部７０は、アノテータのスキルが高いほど対応するノードのラベルを強調表示してもよい。すなわち、出力部７０は、各ラベルについてのアノテータのスキルに応じて対応するノードが強調表示されたラベルの階層構造を出力してもよい。
【００４２】
図４は、アノテータのスキルを可視化した例を示す説明図である。図４は、ラベル付加情報が木構造で表される場合に、出力部７０が木構造で特定されるアノテータのスキルを可視化したグラフの例を示す。具体的には、図４に例示するグラフは、ノードの色が濃いほどラベルに関するスキルが高い（専門性が高い）ことを示し、ノードの色が薄くなるにしたがってラベルに関するスキルが専門外になることを示す。
【００４３】
図４に例示するグラフ４１の場合、アノテータが「イヌ」はとても詳しいが、鳥はほとんど把握していないことを示す。また、図４に例示するグラフ４２の場合、アノテータが鳥はある程度詳しく、「イヌ」も多少は把握しているが、犬種までは把握していないことを示す。
【００４４】
なお、図４に示す例では、ノードの色の濃さで専門性の高さを強調表示したが、専門性の強調表示の方法は、色の態様を変化させる方法に限定されない。出力部７０は、例えば、領域の大きさや外周の線の太さ、明度や輝度などを変更させて、各ノードのラベルを強調表示してもよいし、数値化したスキルをラベルに対応付けて各ノードのラベルを強調表示してもよい。
【００４５】
図５は、アノテータのスキルを可視化した他の例を示す説明図である。図５は、ラベル付加情報が各ラベル間の類似度を表す行列形式の場合に、出力部７０が類似度の大きさに応じてアノテータのスキルを可視化したグラフの例を示す。図５に例示するグラフ５１は、ラベル間の類似度が予め定めた閾値（例えば、０．５）以上の場合に、各ラベルを表わすノードをエッジで結んで表されたグラフである。
【００４６】
このように、出力部７０が、ラベル付加情報で特定される各ラベルの構造に応じてアノテータのスキルを出力することで、アノテータのスキルを明示的に理解することが可能になる。
【００４７】
アノテーション結果入力部３０と、回答統合部４０と、スキル推定部５０と、更新部６０と、出力部７０とは、プログラム（回答統合プログラム）に従って動作するコンピュータのプロセッサ（例えば、ＣＰＵ（Central Processing Unit ）、ＧＰＵ（Graphics Processing Unit）、ＦＰＧＡ（field-programmable gate array ））によって実現される。
【００４８】
例えば、プログラムは、回答統合装置が備える記憶部１０に記憶され、プロセッサは、そのプログラムを読み込み、プログラムに従って、アノテーション結果入力部３０、回答統合部４０、スキル推定部５０、更新部６０および出力部７０として動作してもよい。また、回答統合装置の機能がＳａａＳ（Software as a Service ）形式で提供されてもよい。
【００４９】
アノテーション結果入力部３０と、回答統合部４０と、スキル推定部５０と、更新部６０と、出力部７０とは、それぞれが専用のハードウェアで実現されていてもよい。また、各装置の各構成要素の一部又は全部は、汎用または専用の回路（circuitry ）、プロセッサ等やこれらの組合せによって実現されもよい。これらは、単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。各装置の各構成要素の一部又は全部は、上述した回路等とプログラムとの組合せによって実現されてもよい。
【００５０】
また、回答統合装置の各構成要素の一部又は全部が複数の情報処理装置や回路等により実現される場合には、複数の情報処理装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、情報処理装置や回路等は、クライアントサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。
【００５１】
次に、本実施形態の回答統合装置の動作を説明する。図６は、本実施形態の回答統合装置１００の動作例を示すフローチャートである。アノテーション結果入力部３０は、アノテーション結果およびラベル付加情報を回答統合部４０に入力する（ステップＳ１１）。回答統合部４０は、アノテーション結果を統合してデータのラベルを推定する（ステップＳ１２）。初期状態では、アノテーション結果を統合する際に用いるアノテータのスキルは推定されていないため、回答統合部４０は、例えば、選択されたラベルの多数決により、データのラベルを推定してもよい。
【００５２】
スキル推定部５０は、推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定する（ステップＳ１３）。更新部６０は、推定されたアノテータのスキルに基づいて、アノテーション結果に合致するようにタスクの特徴を更新する（ステップＳ１４）。ここで更新するタスクの特徴は、ラベル付加情報に基づいてラベル間の構造が特定されるラベルをデータに対して付与するタスクを表わすような特徴である。
【００５３】
回答統合部４０は、アノテータのスキルの変化およびタスクの特徴の変化が収束しているか否か判断する（ステップＳ１５）。変化が収束している場合（ステップＳ１５におけるＹｅｓ）、出力部７０は、回答統合部４０により推定されたラベルを出力する（ステップＳ１６）。なお、出力部７０は、推定されたラベル以外にも、推定されたアノテータのスキルを出力してもよい。
【００５４】
一方、変化が収束していない場合（ステップＳ１５におけるＮｏ）、回答統合部１６は、ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてアノテーション結果を統合することで、データのラベルを推定する（ステップＳ１７）。以降、ステップＳ１３以降の処理が繰り返される。
【００５５】
以上のように、本実施形態では、アノテーション結果入力部３０が、アノテーション結果とラベル付加情報とを入力し、回答統合部４０が、アノテーション結果を統合してデータのラベルを推定し、出力部７０が、推定されたラベルを出力する。ここで、スキル推定部５０が、推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定し、更新部６０が、推定されたアノテータのスキルに基づいて、アノテーション結果に合致するようにタスクの特徴を更新する。そして、回答統合部４０は、ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてアノテーション結果を統合することで、データのラベルを推定する。
【００５６】
このように、ラベル付加情報をアノテータのスキルおよびタスクの特徴に反映できるため、ラベル付加情報を活用して、効率的な回答統合（品質管理）ができる。すなわち、教師データとして用いられるデータに対して付加すべきラベルについての回答を効率的に統合できる。
【００５７】
例えば、非特許文献１に記載された方法では、ラベルそのものの構造を示すラベル付加情報を利用するという思想は存在しなかった。また、非特許文献２に記載された方法では、階層的な木構造で表される知識ラベルを利用することは記載されているが、アノテータのスキルそのものをラベル構造に対応させるという技術的思想は存在しなかった。一方、本実施形態では、ラベル付加情報を利用して、アノテータのスキルおよびタスクの特徴を効率的に学習できるため、高精度な回答統合が可能になる。
【００５８】
さらに、一般的には、アノテータのスキルは潜在的な特徴であったが、本実施形態では、出力部７０が、ラベル付加情報で特定される各ラベルの構造に応じたアノテータのスキルを出力する。そのため、ラベル付加情報に対するアノテータのスキル（専門性）の依存関係を容易に示すことができる。
【００５９】
次に、本発明の概要を説明する。図７は、本発明による回答統合装置の概要を示すブロック図である。本発明による回答統合装置８０（例えば、回答統合装置１００）は、アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力部８１（例えば、アノテーション結果入力部３０）と、アノテーション結果を統合してデータのラベルを推定する回答統合部８２（例えば、回答統合部４０）と、推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定部８３（例えば、スキル推定部５０）と、ラベル付加情報に基づいてラベル間の構造が特定されるラベルをデータに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、アノテーション結果に合致するように更新する更新部８４（例えば、更新部６０）と、回答統合部８２により推定されたラベルを出力する出力部８５とを備えている。
【００６０】
回答統合部８２は、ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定する。
【００６１】
そのような構成により、アノテータのスキルやタスクの特徴が事前に不明な場合であっても、教師データとして用いられるデータに対して付加すべきラベルについての回答を効率的に統合できる。
【００６２】
また、出力部８５は、ラベル付加情報で特定される各ラベルの構造を、アノテータのスキルに応じた態様で出力してもよい。そのような構成により、ラベル付加情報に対するアノテータのスキル（専門性）の依存関係を把握することが可能になる。
【００６３】
具体的には、出力部８５は、ラベル付加情報がラベルの階層構造で表現されている場合、各ラベルについてのアノテータのスキルに応じて対応するノードが強調表示された前記階層構造を出力してもよい。
【００６４】
出力部８５は、例えば、アノテータのスキルが高いほど対応するノードのラベルを強調表示してもよい。
【００６５】
また、回答統合部８２は、アノテータのスキルおよびタスクの特徴に応じて、アノテーション結果に対する重みを算出し、重みの総和が最も大きいラベルを、データのラベルとして推定してもよい。
【００６６】
また、回答統合部８２は、特徴ベクトルとスキルベクトルとの内積で算出される重みをアノテーション結果に対する重みとして算出してもよい。
【００６７】
また、回答統合部８２は、アノテータのスキルの変化およびタスクの特徴の変化が収束していない場合、アノテーション結果を再統合してデータのラベルを推定してもよい。そのような構成により、付与すべきラベルの精度を向上させることが可能になる。
【００６８】
図８は、少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。コンピュータ１０００は、プロセッサ１００１、主記憶装置１００２、補助記憶装置１００３、インタフェース１００４を備える。
【００６９】
上述の回答統合装置は、コンピュータ１０００に実装される。そして、上述した各処理部の動作は、プログラム（回答統合プログラム）の形式で補助記憶装置１００３に記憶されている。プロセッサ１００１は、プログラムを補助記憶装置１００３から読み出して主記憶装置１００２に展開し、当該プログラムに従って上記処理を実行する。
【００７０】
なお、少なくとも１つの実施形態において、補助記憶装置１００３は、一時的でない有形の媒体の一例である。一時的でない有形の媒体の他の例としては、インタフェース１００４を介して接続される磁気ディスク、光磁気ディスク、ＣＤ−ＲＯＭ（Compact Disc Read-only memory ）、ＤＶＤ−ＲＯＭ（Read-only memory）、半導体メモリ等が挙げられる。また、このプログラムが通信回線によってコンピュータ１０００に配信される場合、配信を受けたコンピュータ１０００が当該プログラムを主記憶装置１００２に展開し、上記処理を実行してもよい。
【００７１】
また、当該プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、当該プログラムは、前述した機能を補助記憶装置１００３に既に記憶されている他のプログラムとの組み合わせで実現するもの、いわゆる差分ファイル（差分プログラム）であってもよい。
【００７２】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
【００７３】
（付記１）アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力部と、前記アノテーション結果を統合して前記データのラベルを推定する回答統合部と、推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定部と、前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新する更新部と、前記回答統合部により推定されたラベルを出力する出力部とを備え、前記回答統合部は、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定することを特徴とする回答統合装置。
【００７４】
（付記２）出力部は、ラベル付加情報で特定される各ラベルの構造を、アノテータのスキルに応じた態様で出力する付記１記載の回答統合装置。
【００７５】
（付記３）出力部は、ラベル付加情報がラベルの階層構造で表現されている場合、各ラベルについてのアノテータのスキルに応じて対応するノードが強調表示された前記階層構造を出力する付記１または付記２に記載の回答統合装置。
【００７６】
（付記４）出力部は、アノテータのスキルが高いほど対応するノードのラベルを強調表示する付記３記載の回答統合装置。
【００７７】
（付記５）回答統合部は、アノテータのスキルおよびタスクの特徴に応じて、アノテーション結果に対する重みを算出し、重みの総和が最も大きいラベルを、データのラベルとして推定する付記１から付記４のうちのいずれか１つに記載の回答統合装置。
【００７８】
（付記６）回答統合部は、特徴ベクトルとスキルベクトルとの内積で算出される重みをアノテーション結果に対する重みとして算出する付記１から付記５のうちのいずれか１つに記載の回答統合装置。
【００７９】
（付記７）回答統合部は、アノテータのスキルの変化およびタスクの特徴の変化が収束していない場合、アノテーション結果を再統合してデータのラベルを推定する付記１から付記６のうちのいずれか１つに記載の回答統合装置。
【００８０】
（付記８）アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力し、前記アノテーション結果を統合して前記データのラベルを推定し、推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定し、前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新し、推定されたラベルを出力し、前記アノテーション結果を統合する際、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定することを特徴とする回答統合方法。
【００８１】
（付記９）ラベル付加情報で特定される各ラベルの構造に応じたアノテータのスキルを出力する付記８記載の回答統合方法。
【００８２】
（付記１０）コンピュータに、アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力処理、前記アノテーション結果を統合して前記データのラベルを推定する回答統合処理、推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定処理、前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新する更新処理、および、前記回答統合処理で推定されたラベルを出力する出力処理を実行させ、前記回答統合処理で、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定させるための回答統合プログラム。
【００８３】
（付記１１）コンピュータに、出力処理で、ラベル付加情報で特定される各ラベルの構造に応じたアノテータのスキルを出力させる付記１０記載の回答統合プログラム。
【符号の説明】
【００８４】
１０  記憶部
３０  アノテーション結果入力部
４０  回答統合部
５０  スキル推定部
６０  更新部
７０  出力部
１００  回答統合装置
【図１】
2020090076.tif 000003
【図２】
2020090076.tif 000004
【図３】
2020090076.tif 000005
【図４】
2020090076.tif 000006
【図５】
2020090076.tif 000007
【図６】
2020090076.tif 000008
【図７】
2020090076.tif 000009
【図８】
2020090076.tif 000010
【手続補正書】
【提出日】令和3年4月21日(2021.4.21)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力部と、
前記アノテーション結果を統合して前記データのラベルを推定する回答統合部と、
推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定部と、
前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新する更新部と、
前記回答統合部により推定されたラベルを出力する出力部とを備え、
前記回答統合部は、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定する
ことを特徴とする回答統合装置。
【請求項２】
出力部は、ラベル付加情報で特定される各ラベルの構造を、アノテータのスキルに応じた態様で出力する
請求項１記載の回答統合装置。
【請求項３】
出力部は、ラベル付加情報がラベルの階層構造で表現されている場合、各ラベルについてのアノテータのスキルに応じて対応するノードが強調表示された前記階層構造を出力する
請求項１または請求項２に記載の回答統合装置。
【請求項４】
出力部は、アノテータのスキルが高いほど対応するノードのラベルを強調表示する
請求項３記載の回答統合装置。
【請求項５】
回答統合部は、アノテータのスキルおよびタスクの特徴に応じて、アノテーション結果に対する重みを算出し、重みの総和が最も大きいラベルを、データのラベルとして推定する
請求項１から請求項４のうちのいずれか１項に記載の回答統合装置。
【請求項６】
回答統合部は、特徴ベクトルとスキルベクトルとの内積で算出される重みをアノテーション結果に対する重みとして算出する
請求項１から請求項５のうちのいずれか１項に記載の回答統合装置。
【請求項７】
回答統合部は、アノテータのスキルの変化およびタスクの特徴の変化が収束していない場合、アノテーション結果を再統合してデータのラベルを推定する
請求項１から請求項６のうちのいずれか１項に記載の回答統合装置。
【請求項８】
アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力し、
前記アノテーション結果を統合して前記データのラベルを推定し、
推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定し、
前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新し、
推定されたラベルを出力し、
前記アノテーション結果を統合する際、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定する
ことを特徴とする回答統合方法。
【請求項９】
ラベル付加情報で特定される各ラベルの構造に応じたアノテータのスキルを出力する
請求項８記載の回答統合方法。
【請求項１０】
コンピュータに、
アノテータの回答に基づいてラベルが付加されたデータであるアノテーション結果とラベル間の構造を示すラベル付加情報とを入力する入力処理、
前記アノテーション結果を統合して前記データのラベルを推定する回答統合処理、
推定されたラベルとアノテーション結果に含まれるラベルとの差に基づいてアノテータのスキルを推定するスキル推定処理、
前記ラベル付加情報に基づいてラベル間の構造が特定されるラベルを前記データに対して付与するタスクの特徴を、推定されたアノテータのスキルに基づいて、前記アノテーション結果に合致するように更新する更新処理、および、
前記回答統合処理で推定されたラベルを出力する出力処理を実行させ、
前記回答統合処理で、前記ラベルに対するアノテータのスキルおよびタスクの特徴との近さに応じて算出される重みに基づいてラベルを推定させる
ための回答統合プログラム。
【国際調査報告】
2020090076.tif 000011
2020090076.tif 000012