(57)【要約】【課題】メッセージごとに行為の種別を特定し、メッセージ間の関係性を求めることにより議論の分析を行う場合において、各メッセージに対する返信に基づき、メッセージとメッセージに対する返信とを関連付けた木構造の分析だけを行うよりも、精度よくテキスト間の関係性を求めること。【解決手段】議論分析装置１は、ラベル付きのテキストの返信関係、及びテキストの送信者の情報を記憶するＤＢ２Ａ、２Ｂの記憶内容に基づいて、テキスト間の返信関係を表現した木構造を生成する木構造生成部３と、データベース２Ａ、２Ｂの記憶内容に基づいて、テキスト間の送信者の関係を表現したグラフ構造を生成するグラフ構造生成部４と、木構造とグラフ構造とを統合する構造統合部５と、構造統合部５により統合された結果から得られたラベル、及びテキストに予め付与されたラベルに基づいて、木構造生成部３及びグラフ構造生成部４を学習させる学習部６とを備える。【選択図】図１
2020027549.tif 000002
【特許請求の範囲】
【請求項１】
ラベル付きのテキストの返信関係、及び前記テキストの送信者の情報を記憶するデータベースの記憶内容に基づいて、前記テキスト間の前記返信関係を表現した木構造を生成する木構造生成手段と、
前記データベースの記憶内容に基づいて、前記テキスト間の前記送信者の同一又は類似の関係を表現したグラフ構造を生成するグラフ構造生成手段と、
前記木構造と前記グラフ構造を統合する統合手段と、
前記統合手段により統合された結果から得られたラベル、及び前記テキストに予め付与された前記ラベルに基づいて、前記木構造生成手段及び前記グラフ構造生成手段を学習させる学習手段と、
を備えた議論分析装置。
【請求項２】
前記木構造生成手段は、
前記テキストについて形態素解析を行って単語を抽出する単語抽出手段と、
抽出された前記単語を単語分散表現に変換する単語分散表現変換手段と、
変換された前記単語分散表現に対して系列処理を行う系列処理手段と、
前記系列処理の結果を集約してテキスト表現を抽出するテキスト表現抽出手段と、
前記テキスト表現に基づいて前記テキスト間の前記返信関係を表現した前記木構造に対して木構造処理を行う木構造処理手段と、
を備えた請求項１に記載の議論分析装置。
【請求項３】
前記系列処理手段は、ニューラルネットワークを用いて前記系列処理を行い、
前記木構造処理手段は、ニューラルネットワークを用いて前記木構造処理を行う、
請求項２に記載の議論分析装置。
【請求項４】
前記木構造処理手段は、前記ニューラルネットワークとしてＣｈｉｌｄ−Ｓｕｍ  Ｔｒｅｅ−ＬＳＴＭ（Long short-term memory）を用いる、
請求項３に記載の議論分析装置。
【請求項５】
前記グラフ構造生成手段は、
前記データベースの記憶内容に基づいて前記送信者を頂点、前記テキスト間の関係を節とするユーザグラフを構築するユーザグラフ構築手段と、
前記ユーザグラフからユーザ分散表現を抽出するユーザ分散表現抽出手段と、
前記木構造生成手段の前記テキスト表現抽出手段が算出したテキスト分散表現及び前記ユーザ分散表現からスレッドグラフを生成し、前記スレッドグラフに対してグラフ構造処理を行うグラフ構造処理手段と、
を備えた請求項２から４のいずれか１項に記載の議論分析装置。
【請求項６】
前記グラフ構造処理手段は、ニューラルネットワークを用いて前記グラフ構造を生成する、
請求項５に記載の議論分析装置。
【請求項７】
前記グラフ構造処理手段は、前記ニューラルネットワークとしてＧＣＮ（Graph Convolutional Networks）を用いる、
請求項６に記載の議論分析装置。
【請求項８】
コンピュータを、
ラベル付きのテキストの返信関係、及び前記テキストの送信者の情報を記憶するデータベースの記憶内容に基づいて、前記テキスト間の前記返信関係を表現した木構造を生成する木構造生成手段と、
前記データベースの記憶内容に基づいて、前記テキスト間の前記送信者の同一又は類似の関係を表現したグラフ構造を生成するグラフ構造生成手段と、
前記木構造と前記グラフ構造を統合する統合手段と、
前記統合手段により統合された結果から得られたラベル、及び前記テキストに予め付与された前記ラベルに基づいて、前記木構造生成手段及び前記グラフ構造生成手段を学習させる学習手段、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、議論分析装置及びプログラムに関する。
【背景技術】
【０００２】
近年、メッセージ間の関係性を求める議論状況把握支援装置が提案されている（例えば、特許文献１参照。）。
【０００３】
特許文献１に記載された議論状況把握支援装置は、メッセージに対して形態素解析を行い、解析結果と予め定められた行為の種別（質問、確認、要望、疑問、回答、同意等）、適合パターン（品詞を用いて表現されたパターン）、適合例から構成された行為判定用パターンとのパターンマッチングを行い、メッセージごとに行為の種別を特定し、メッセージ間の関係性を求めるものである。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００９−２６１３７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
本発明の課題は、メッセージごとに行為の種別を特定し、メッセージ間の関係性を求めることにより議論の分析を行う場合において、各メッセージに対する返信に基づき、メッセージとメッセージに対する返信とを関連付けた木構造の分析だけを行うよりも、精度よくテキスト間の関係性を求めることができる議論分析装置及びプログラムを提供することにある。
【課題を解決するための手段】
【０００６】
［１］ラベル付きのテキストの返信関係、及び前記テキストの送信者の情報を記憶するデータベースの記憶内容に基づいて、前記テキスト間の前記返信関係を表現した木構造を生成する木構造生成手段と、
前記データベースの記憶内容に基づいて、前記テキスト間の前記送信者の同一又は類似の関係を表現したグラフ構造を生成するグラフ構造生成手段と、
前記木構造と前記グラフ構造を統合する統合手段と、
前記統合手段により統合された結果から得られたラベル、及び前記テキストに予め付与された前記ラベルに基づいて、前記木構造生成手段及び前記グラフ構造生成手段を学習させる学習手段と、を備えた議論分析装置。
［２］前記木構造生成手段は、
前記テキストについて形態素解析を行って単語を抽出する単語抽出手段と、
抽出された前記単語を単語分散表現に変換する単語分散表現変換手段と、
変換された前記単語分散表現に対して系列処理を行う系列処理手段と、
前記系列処理の結果を集約してテキスト表現を抽出するテキスト表現抽出手段と、
前記テキスト表現に基づいて前記テキスト間の前記返信関係を表現した前記木構造に対して木構造処理を行う木構造処理手段と、を備えた前記［１］に記載の議論分析装置。
［３］前記系列処理手段は、ニューラルネットワークを用いて前記系列処理を行い、
前記木構造処理手段は、ニューラルネットワークを用いて前記木構造処理を行う、前記［２］に記載の議論分析装置。
［４］前記木構造処理手段は、前記ニューラルネットワークとしてＣｈｉｌｄ−Ｓｕｍ  Ｔｒｅｅ−ＬＳＴＭ（Long short-term memory）を用いる、前記［３］に記載の議論分析装置。
［５］前記グラフ構造生成手段は、
前記データベースの記憶内容に基づいて前記送信者を頂点、前記テキスト間の関係を節とするユーザグラフを構築するユーザグラフ構築手段と、
前記ユーザグラフからユーザ分散表現を抽出するユーザ分散表現抽出手段と、
前記木構造処理手段の前記テキスト表現抽出手段が算出したテキスト分散表現及び前記ユーザ分散表現からスレッドグラフを生成し、前記スレッドグラフに対してグラフ構造処理を行うグラフ構造処理手段と、を備えた前記［２］から［４］のいずれか１つに記載の議論分析装置。
［６］前記グラフ構造処理手段は、ニューラルネットワークを用いて前記グラフ構造を生成する、前記［５］に記載の議論分析装置。
［７］前記グラフ構造処理手段は、前記ニューラルネットワークとしてＧＣＮ（Graph Convolutional Networks）を用いる、前記［６］に記載の議論分析装置。
［８］コンピュータを、ラベル付きのテキストの返信関係、及び前記テキストの送信者の情報を記憶するデータベースの記憶内容に基づいて、前記テキスト間の前記返信関係を表現した木構造を生成する木構造生成手段と、
前記データベースの記憶内容に基づいて、前記テキスト間の前記送信者の同一又は類似の関係を表現したグラフ構造を生成するグラフ構造生成手段と、
前記木構造と前記グラフ構造を統合する統合手段と、
前記統合手段により統合された結果から得られたラベル、及び前記テキストに予め付与された前記ラベルに基づいて、前記木構造生成手段及び前記グラフ構造生成手段を学習させる学習手段、として機能させるためのプログラム。
【発明の効果】
【０００７】
請求項１、８に係る発明によれば、メッセージごとに行為の種別を特定し、メッセージ間の関係性を求めることにより議論の分析を行う場合において、各メッセージに対する返信に基づき、メッセージとメッセージに対する返信とを関連付けた木構造の分析だけを行うよりも、精度よくテキスト間の関係性を求めることができる。
請求項２、３に係る発明によれば、ニューラルネットワークにより木構造を学習することができる。
請求項４、７に係る発明によれば、他のニューラルネットワークと比べて高い精度でテキストを分類することができる。
請求項５、６に係る発明によれば、ニューラルネットワークによりグラフ構造を学習することができる。
【図面の簡単な説明】
【０００８】
【図１】図１は、本発明の実施の形態に係る議論分析装置の概略の構成例を示すブロック図である。
【図２】図２は、テキストのやりとりが行われた一例を示す図である。
【図３】図３は、ラベル付きテキストＤＢに記憶されているテキストの一例を示す図である。
【図４】図４は、ネットワークテキストＤＢに記憶されているテキスト間の関係を示す情報の一例を示す図である。
【図５】図５は、ユーザグラフの一例を示す図である。
【図６】図６は、テキスト間の関係が返信関係にある木構造の一例を示す図である。
【図７】図７は、テキスト間の関係をユーザの関係で表したグラフ構造の一例を示し、（ａ）はユーザが同一の場合のグラフ構造の一例を示す図、（ｂ）はユーザが類似の場合のグラフ構造の一例を示す図である。
【図８】図８は、図７に示すグラフ構造に図６に示す木構造を統合した木構造・グラフ構造の一例を示し、（ａ）はユーザが同一の場合の木構造・グラフ構造の一例を示す図、（ｂ）はユーザが類似の場合の木構造・グラフ構造の一例を示す図である。
【図９】図９は、議論分析装置の動作の一例を示すフローチャートである。
【発明を実施するための形態】
【０００９】
以下、本発明の実施の形態について図面を参照して説明する。なお、各図中、実質的に同一の機能を有する構成要素については、同一の符号を付してその重複した説明を省略する。
【００１０】
［実施の形態の要約］
本実施の形態に係る議論分析装置は、ラベル付きのテキストの返信関係、及びテキストの送信者の情報を記憶するデータベースの記憶内容に基づいて、テキスト間の返信関係を表現した木構造を生成する木構造生成手段と、データベースの記憶内容に基づいて、テキスト間の送信者の同一又は類似の関係を表現したグラフ構造を生成するグラフ構造生成手段と、木構造とグラフ構造とを統合する処理を行ってラベルを出力する統合手段と、出力されたラベル、及びテキストに予め付与されたラベルに基づいて、木構造生成手段及びグラフ構造生成手段を学習させる学習手段とを備える。
【００１１】
「テキスト」とは、議論の内容（文字列）のことをいい、音声が文字列に変換されたものでもよい。文字列は、メッセージ、コメント等でもよい。「返信関係」とは、１つの送信（例えば、問合せ）に対する複数の返信（例えば、応答）のようにツリー構造で表現できる関係をいう。
【００１２】
［実施の形態］
図１は、本発明の実施の形態に係る議論分析装置の概略の構成例を示すブロック図である。この議論分析装置１は、ラベル付きテキストデータベース（ＤＢ）２Ａと、テキストネットワークデータベース（ＤＢ）２Ｂと、木構造生成部３と、グラフ構造生成部４と、構造統合処理部５と、学習部６とを有して構成されている。なお、ラベル付きテキストＤＢ２Ａ及びテキストネットワークＤＢ２Ｂは、１つのデータベースで構成されてもよい。また、ラベル付きテキストＤＢ２Ａ及びテキストネットワークＤＢ２Ｂは、クラウドサーバ等の外部サーバに格納されたものでもよい。木構造生成部３は、木構造生成手段の一例である。グラフ構造生成部４は、グラフ構造生成手段の一例である。構造統合処理部５は、統合手段の一例である。学習部６は、学習手段の一例である。
【００１３】
木構造生成部３、グラフ構造生成部４、構造統合処理部５及び学習部６は、例えば、ＣＰＵが図示しないプログラムに従って動作することにより実現される。また、これらの木構造生成部３、グラフ構造生成部４、構造統合処理部５及び学習部６は、それぞれ一部又は全部を再構成可能回路（ＦＰＧＡ：Field Programmable Gate Array）、特定用途向け集積回路（ＡＳＩＣ：Application Specific Integrated Circuit）等のハードウエア回路によって構成してもよい。
【００１４】
木構造生成部３は、ラベル付きのテキストの返信関係、及びテキストの送信者の情報を記憶するデータベース２Ａ、２Ｂの記憶内容に基づいて、テキスト間の返信関係を表現した木構造（後述する図６参照）を生成する。木構造生成部３は、単語抽出手段３０と、単語分散表現変換手段３１と、系列処理手段３２と、テキスト分散表現抽出手段３３と、木構造処理手段３４とを備える。これらの手段３０〜３４については後述する。
【００１５】
グラフ構造生成部４は、ラベル付きのテキストの返信関係、及びテキストの送信者の情報を記憶するデータベース２Ａ、２Ｂの記憶内容に基づいて、テキスト間の送信者の同一又は類似の関係を表現したグラフ構造（後述する図７参照）を生成する。グラフ構造生成部４は、ユーザ抽出手段４０と、ユーザグラフ構築手段４１と、ユーザ分散表現抽出手段４２と、グラフ構造処理手段４３とを備える。これらの手段４０〜４３については後述する。構造統合処理部５及び学習部６についても後述する。
【００１６】
図２は、テキストのやりとりが行われた一例を示す図である。なお、図２においてｕ１〜ｕ４は、それぞれユーザを識別するユーザＩＤを示す（他の図においても同じ。）。図２は、テキスト間には返信関係があることから、テキスト間の関係をツリー構造で表現したものである。ユーザｕ１が「Ａ社のスマホＢを買おうと思っているのですが良いスマホでしょうか？」という質問のテキスト１０を他のユーザに送信したとする。このテキスト１０に対し、ユーザｕ２は、「スマホで重視するものは何ですか？」という質問のテキスト１１ａをユーザｕ１に返信し、ユーザｕ３は、「性能に価格が見合っていないので私なら買いません。」という反対のテキスト１１ｂをユーザｕ１に返信し、ユーザｕ４は、「Ａ社は高性能な製本を作るのでお勧めできます。」という賛成のテキスト１１ｃをユーザｕ１に返信したとする。ユーザｕ１がユーザｕ２からの質問のテキスト１１ａに対して「とにかく動きがサクサクであって欲しいです。」という補足のテキスト１１ｄを返信したとする。この具体例の場合、図６に示す木構造が作成される。なお、図２では、図６に示すテキスト１１ｅは省略している。
【００１７】
図２に示すようなテキストのやりとりが行われると、ラベル付きテキストＤＢ２Ａ及びネットワークテキストＤＢ２Ｂには、次に説明する情報が記憶される。
【００１８】
図３は、ラベル付きテキストＤＢ２Ａに記憶されているテキストの一例を示す図である。ラベル付きテキストＤＢ２Ａには、同図に示すように、ラベル付きテキストＤＢ２Ａには、スレッドのタイトル、スレッドを識別するスレッドＩＤ、テキストを識別するテキストＩＤ、及びテキストを作成又は送信したユーザを識別するユーザＩＤに対応付けて、テキスト、及び予め手動で付与されたラベルが時系列的に記憶されている。ユーザは、送信者の一例である。なお、同図に記載のテキストは、図２に対応する。
【００１９】
ここで、「スレッド」とは、１つの議題（タイトル）に対する議論のかたまり（テキストの集合）をいう。「テキスト」とは、議論の内容（文字列）のことであり、具体的には、例えば、電子メールや、電子掲示板における投稿等で表される。「ラベル」とは、例えば、テキスト間の関係を分類するための問合せ、問合せに対する応答（又は返信ともいう。）等の分類情報をいう。問合せには、例えば、質問、確認、依頼等がある。応答には、例えば、賛成、反対、補足、質問、承諾等がある。問合せと応答の両方に質問があるのは、問合せの質問に対して応答として質問する場合があることを考慮したものである。応答に補足があるのは、問合せの質問に対して応答として質問があった場合に、その応答として補足する場合があることを考慮したものである。なお、ラベルは、問合せや応答の分類情報に限られない。
【００２０】
図４は、ネットワークテキストＤＢ２Ｂに記憶されているテキスト間の関係を示す情報の一例を示す図である。テキストネットワークＤＢ２Ｂには、同図に示すように、スレッドＩＤ、及びテキストＩＤに対応付けて、テキスト間の関係、例えば、問合せに対する応答等の返信関係を示す情報（テキストの分類）が時系列的に記憶されている。
【００２１】
図５は、ユーザグラフの一例を示す図である。ユーザ間の節は、返信回数に応じて重み付けが設定される。なお、各スレッドごとではなく、データ全体でユーザ間の節を設定してもよい。ユーザグラフは、各ユーザの頂点が節によって結び付けられている。ユーザグラフは、後述するユーザグラフ構築手段４１によって生成される。ここで、「ユーザグラフ」とは、ユーザ間の関係性をネットワーク構造で表したものをいう。
【００２２】
図６は、テキスト間の関係が返信関係にある木構造の一例を示す図である。また、同図中、符号１０、１１ａ〜１１ｅは、テキストを示し、それぞれのテキストＩＤをText01〜Text06とする（他の図において同じ。）。ユーザｕ１から質問のテキスト１０に対し、ユーザｕ２から応答（例えば、質問）のテキスト１１ａ、ユーザｕ３から応答（例えば、反対）のテキスト１１ｂ、及びユーザｕ４から応答（例えば、賛成）のテキスト１１ｃがあった場合、同図に示すように、テキスト１０の頂点とテキスト１１ａ、１１ｂ、１１ｃの各頂点とが返信関係で結び付けられる。また、ユーザｕ２から応答（例えば、質問）のテキスト１１ａに対し、ユーザｕ１から応答（例えば、補足）のテキスト１１ｄと、ユーザｕ３から応答（例えば、補足）のテキスト１１ｅがあった場合、同図に示すように、テキスト１１ａの頂点とテキスト１１ｄ、１１ｅの各頂点とが返信関係で結び付けられる。木構造は、後述する木構造処理手段３４の処理対象である。
【００２３】
図７は、テキスト間の関係をユーザの関係で表したグラフ構造の一例を示す図である。図７（ａ）は、ユーザが同一の関係を表したグラフ構造を示し、図７（ｂ）は、ユーザが類似する関係を表したグラフ構造を示す。グラフ構造は、後述するグラフ構造処理手段４３の処理対象である。ユーザ間のコサイン類似度が１の場合、同図（ａ）に示すように、テキスト１０とテキスト１１ｄが同一のユーザｕ１として結び付けされ、テキスト１１ｂとテキスト１１ｅが同一のユーザｕ３として結び付けられる。ユーザ間のコサイン類似度が閾値ｔ以上１未満の場合、同図（ｂ）に示すように、テキスト１１ｂ及びテキスト１１ｅのユーザｕ３とテキスト１１ｃのユーザｕ４とが類似するユーザ関係があるとして結び付けられる。
【００２４】
図８は、図６に示すグラフ構造に図４に示す木構造を統合した木構造・グラフ構造の一例を示す図である。図８の破線は返信関係にある木構造を示す。図８（ａ）は、図７（ａ）に示すグラフ構造に図６に示す木構造を統合した木構造・グラフ構造の一例を示し、図８（ｂ）は、図７（ｂ）に示すグラフ構造に図６に示す木構造を統合した木構造・グラフ構造の一例を示す。木構造・グラフ構造は、後述する構造統合処理部５の処理対象である。
【００２５】
（木構造生成部の構成）
次に、木構造生成部３を構成する単語抽出手段３０、単語分散表現変換手段３１、系列処理手段３２、テキスト分散表現抽出手段３３、及び木構造処理手段３４について説明する。
【００２６】
単語抽出手段３０は、ラベル付きテキストＤＢ２Ａからスレッドを選択し、当該スレッドから選択したテキストから形態素解析器を用いて単語を抽出する。形態素解析器としては、例えば、ＭｅＣａｂ（http://taku910.github.io/mecab/参照）等を用いることができる。抽出する単語の品詞には、名詞、動詞、形容詞等が含まれる。
【００２７】
単語分散表現変換手段３１は、抽出された各単語に対応するｎ次元の単語分散表現（https://en.wikipedia.org/wiki/Word_embedding参照）の系列に変換する。ここで、ここで、「単語分散表現」とは、単語の意味をｎ次元のベクトルで特徴ベクトルをいう。
【００２８】
系列処理手段３２は、単語列に対してニューラルネットワークに基づく系列処理を行う。系列処理には、例えば、ＬＳＴＭ（Long short-term memory）を用いる。ＬＳＴＭでは、次の式（１）〜（６）で単語分散表現を処理し、単語の特徴ベクトルｘｓ，ｔから要素積ｈｓ，ｔを求める。この系列処理により、単語間の依存関係が分かる。１テキストが１単語列となる。
【００２９】
【数１】
2020027549.tif 000003
【００３０】
また、Ｗ＊、Ｕ＊、ｂ＊は、学習によって決定されるパラメータである。
【００３１】
テキスト表現抽出手段３３は、系列処理の結果（ＬＳＴＭであればｈｔ）を集約してテキスト表現ｘＴ，ｎを抽出する。集約処理には、例えば、式（７）の分散表現の次元ｄ毎に単語位置ｔの最大を採るマックスプーリング（max pooling）処理を行い、要素積ｈｓ，ｔからテキスト表現ｘＴ，ｎを求める。ここで、「テキスト表現」とは、テキストを構成する単語の語数に依存しない固定長のｎ次元のベクトルで表現したものをいう。このマックスプーリング処理により固定長のｎ次元の表現が得られる。
【００３２】
【数２】
2020027549.tif 000004
【００３３】
木構造処理手段３４は、木構造（例えば、図６参照）に対してスレッド内の全てのテキストに対して木構造処理を行う。木構造処理には、例えば、Ｃｈｉｌｄ−Ｓｕｍ  Ｔｒｅｅ−ＬＳＴＭを用いる。Ｃｈｉｌｄ−Ｓｕｍ  Ｔｒｅｅ−ＬＳＴＭでは、式（８）〜（１４）で式（７）で求めたテキスト表現ｘＴ，ｎを処理し、要素積ｈＴ，ｎを求める。
【００３４】
【数３】
2020027549.tif 000005
【００３５】
（グラフ構造生成部の構成）
次に、グラフ構造生成部４を構成するユーザ抽出手段４０、ユーザグラフ構築手段４１、ユーザ分散表現抽出手段４２、及びグラフ構造処理手段４３について説明する。
【００３６】
ユーザ抽出手段４０は、テキストネットワークＤＢ２Ｂからテキストとユーザとの対応関係を抽出する。
【００３７】
ユーザグラフ構築手段４１は、テキストネットワークＤＢ２Ｂからテキスト間の関係（例えば返信関係）を取得し、テキスト間の関係及びテキストとユーザとの対応関係に基づいて、ユーザを頂点（Ｖ）、テキスト間の関係を節（Ｅ）とするユーザグラフ（例えば、図５参照）を作成する。例えば、ユーザＩＤ＝ｕ１、ｕ２、ｕ３のユーザ間であれば、各ユーザに対応する頂点ｖ１、ｖ２、ｖ３の間に節ｅ１２＝１．０、ｅ１３＝１．０を設定する。
【００３８】
ユーザ分散表現抽出手段４２は、ユーザグラフからユーザ分散表現を計算する。ユーザ分散表現の計算には、例えば、ユーザグラフのノードの分散表現をＲａｎｄｏｍ  ｗａｌｋとＳｋｉｐ−Ｇｒａｍを用いて計算するＤｅｅｐＷａｌｋを用いる。ここで、「ユーザ分散表現」とは、ユーザの属性をｎ次元のベクトルで表現したものをいう。
【００３９】
グラフ構造処理手段４３は、テキスト表現抽出手段３３が算出したテキスト分散表現Ｈｌ、及びユーザ分散表現抽出手段４２が算出したユーザ分散表現からスレッドグラフ（後述するグラフ構造と実質的に同一のもの。）を生成する。スレッド内の各テキストを頂点（Ｕ）として、関係のあるテキスト間に節（Ｒ）を設定する。テキスト間の関係には、例えば、以下を想定する。
【００４０】
（ａ）返信関係（返信関係にあるテキストペア）
（ｂ）同一関係（同一ユーザによるテキストペア）
（ｃ）類似関係（類似したユーザによるテキストペア）
【００４１】
上記（ｃ）については、ユーザ分散表現を基に計算する。例えば、次の式（１５）のように、ユーザＩＤ＝ｕ１、ｕ２間のコサイン類似度が閾値ｔ以上であれば、両者に同一又は類似の関係があるとする。
【００４２】
【数４】
2020027549.tif 000006
【００４３】
グラフ構造処理手段４３は、図７に示すようなスレッドグラフ（グラフ構造）に対し、グラフ構造処理を行う。グラフ構造処理には、例えば、ＧＣＮ（Graph Convolutional Networks）を用いる。ＧＣＮでは、式（１６）でスレッドグラフ上の各頂点を隣接する頂点を用いて更新する。この処理をＬ回繰り返すことにより、距離Ｌまでの頂点の情報を利用することができる。
【００４４】
【数５】
2020027549.tif 000007
【００４５】
構造統合処理部５は、木構造・グラフ構造（図８参照）に対して木構造処理の結果（木構造）とグラフ構造処理の結果（グラフ構造）を統合する処理を行う。する。統合処理には、例えばｓ、各テキストごとに上記式（７）の分散表現の次元ｎ毎にｃ＝２の構造位置の最大を採るマックスプーリング（max pooling）処理を行う。
【００４６】
学習部６は、統合処理の結果をラベル数の次元に全結合し、ソフトマックス関数を適用し、各ラベルの確率値ｐを得て、得られたラベル（例えば、最も確率の高いラベル）と予めテキストに付与されたラベルに基づいて木構造生成部３及びグラフ構造生成部４を学習、すなわちパラメータを決定させる。また、学習部６は、各ラベルの確率と真のラベルｙ（予めテキストに付与されたラベル）との交差エントロピーを式（１８）により損失として計算する。
【００４７】
【数６】
2020027549.tif 000008
【００４８】
ここで、ｌはラベルの索引であり、ｌからＬ番目のラベルに対応する。ｙｌについては対応するラベルの箇所が１（例えば、２番目のラベルであれば、ｙ＝｛０，１，０，…｝）。
【００４９】
（実施の形態の動作）
次に、議論分析装置１の動作の一例について図２〜図９を参照して説明する。図９は、議論分析装置１の動作の一例を示すフローチャートである。
【００５０】
まず、単語抽出手段３０は、ラベル付きテキストＤＢ２Ａから最初のスレッド（例えば、スレッドＩＤ＝Thread01）を選択し（Ｓ１）、当該スレッドから最初のテキスト（例えば、テキストＩＤ＝Text01）を選択する（Ｓ２）。次に、単語抽出手段３０は、選択したテキストから単語を抽出する（Ｓ３）。
【００５１】
次に、単語分散表現変換手段３１は、抽出された各単語に対応するｎ次元の単語分散表現に変換する。次に、系列処理手段３２は、単語列に対して、例えば、ＬＳＴＭを用いてニューラルネットワークに基づく系列処理を行う（Ｓ４）。ＬＳＴＭでは、上記式（１）〜（６）で単語分散表現を処理し、単語の特徴ベクトルｘｓ，ｔから要素積ｈｓ，ｔを求める。
【００５２】
次に、テキスト表現抽出手段３３は、系列処理の結果（ＬＳＴＭであればｈｔ）を集約してテキスト表現ｘＴ，ｎを抽出する（Ｓ５）。集約処理として、例えば、マックスプーリング（max pooling）処理を行い、要素積ｈｓ，ｔからテキスト表現ｘＴ，ｎを求める。
【００５３】
当該スレッドにテキストが残っていれば（Ｓ６：Ｎｏ）、次のテキストを選択し（Ｓ７）、上記ステップＳ３〜Ｓ５の処理を行う。
【００５４】
全てのテキストに対し処理が終了し場合（Ｓ６：Ｙｅｓ）、木構造処理手段３４は、図６に示すような木構造に対してスレッド内の全てのテキストに対して木構造処理を行う（Ｓ８）。木構造処理には、例えば、Ｃｈｉｌｄ−Ｓｕｍ  Ｔｒｅｅ−ＬＳＴＭを用いて、上記式（８）〜（１４）で式（７）で求めたテキスト分散表現ｘＴ，ｎを処理し、要素積ｈＴ，ｎを求める。
【００５５】
次に、ユーザ抽出手段４０は、テキストネットワークＤＢ２Ｂからテキストとユーザとの対応関係を抽出する（Ｓ９）。例えば、テキストＩＤ＝Text01のテキストは、ユーザＩＤ＝ｕ１のユーザが記述したという関係を抽出する。
【００５６】
次に、ユーザグラフ構築手段４１は、テキストネットワークＤＢ２Ｂからテキスト間の関係（例えば返信関係）を取得し、テキスト間の関係及びテキストとユーザとの対応関係に基づいて、図５に示すようなユーザグラフを作成する（Ｓ１０）。
【００５７】
次に、ユーザ分散表現抽出手段４２は、例えば、ＤｅｅｐＷａｌｋを用いてユーザグラフからユーザ分散表現を計算する（Ｓ１１）。
【００５８】
グラフ構造処理手段４３は、テキスト表現抽出手段３３が算出したテキスト分散表現Ｈｌ、及びユーザ分散表現抽出手段４２が算出したユーザ分散表現から図７に示すようなスレッドグラフを生成する（Ｓ１２）。グラフ構造処理手段４３は、スレッドグラフ（グラフ構造）に対し、例えば、ＧＣＮを用いたグラフ構造処理を行う。
【００５９】
構造統合処理部５は、図８に示すような木構造・グラフ構造に対して木構造処理結果とグラフ構造処理結果を統合する処理を行う（Ｓ１３）。統合処理として、例えば、マックスプーリング（max pooling）処理を行う。
【００６０】
次に、学習部６は、構造統合処理部５により統合された結果をラベル数の次元に全結合し、ソフトマックス関数を適用し、各ラベルの確率値ｐを得る（Ｓ１４）。学習部６は、得られたラベルと予めテキストに付与されたラベルに基づいて木構造生成部４及びグラフ構造生成部４を学習させる。また、学習部６は、各ラベルの確率と真のラベルｙ（予めテキストに付与されたラベル）との交差エントロピーを上記式（１８）により損失として計算する。損失は、バックプロパゲーションアルゴリズムによりフローの逆方向に伝搬させ、重み及びバイアス項を更新する。
【００６１】
スレッドが残っていれば（Ｓ１６：Ｎｏ）、ステップＳ１に戻り、次のスレッドを選択する（Ｓ１７）。
【００６２】
以上、本発明の実施の形態を説明したが、本発明の実施の形態は上記実施の形態に限定されるものではなく、本発明の要旨を変更しない範囲内で種々の変形、実施が可能である。
【００６３】
また、本発明の要旨を変更しない範囲内で、上記実施の形態の構成要素の一部を省くことや変更することが可能である。また、本発明の要旨を変更しない範囲内で、上記実施の形態のフローにおいて、ステップの追加、削除、変更、入替え等が可能である。また、上記実施の形態で用いたプログラムをＣＤ−ＲＯＭ等のコンピュータで読み取り可能な記録媒体に記録して提供することができ、クラウドサーバ等の外部サーバに格納しておき、ネットワークを介して利用することもできる。
【符号の説明】
【００６４】
１…議論分析装置、２Ａ…ラベル付きテキストデータベース（ＤＢ）、
２Ｂ…テキストネットワークデータベース（ＤＢ）、３…木構造生成部、
４…グラフ構造生成部、５…構造統合処理部、６…学習部、１０…質問のテキスト、
１１ａ-１１ｅ…応答のテキスト、３０…単語抽出手段、
３１…単語分散表現変換手段、３２…系列処理手段、３３…テキスト表現抽出手段、
３４…木構造処理手段、４０…ユーザ抽出手段、４１…ユーザグラフ構築手段、
４２…ユーザ分散表現抽出手段、４３…グラフ構造処理手段、
【図１】
2020027549.tif 000009
【図２】
2020027549.tif 000010
【図３】
2020027549.tif 000011
【図４】
2020027549.tif 000012
【図５】
2020027549.tif 000013
【図６】
2020027549.tif 000014
【図７】
2020027549.tif 000015
【図８】
2020027549.tif 000016
【図９】
2020027549.tif 000017