(57)【要約】【課題】ユーザの対話に出現しない単語についても該ユーザの興味の有無を高精度に判定できること。【解決手段】興味判定装置は、ユーザの対話情報に含まれる単語の特徴を示すデータ情報を取得するデータ取得手段と、データ取得手段により取得されたデータ群と、所定単語の特徴を示すデータ群と、を関連付けたデータ群を入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて学習する第１学習手段と、判定対象である単語の特徴を示すデータ群と、データ取得手段によって取得されたデータ群と、を関連付けたデータ群が第１学習手段に入力された場合に、該第１学習手段から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定する判定手段と、を備える。【選択図】図１
2018190136.tif 000002
【特許請求の範囲】
【請求項１】
ユーザの対話情報に含まれる単語の特徴を示すデータ情報を取得するデータ取得手段と、
前記データ取得手段により取得されたデータ群と、所定単語の特徴を示すデータ群と、を関連付けたデータ群を入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて学習する第１学習手段と、
判定対象である単語の特徴を示すデータ群と、前記データ取得手段によって取得されたデータ群と、を関連付けたデータ群が前記第１学習手段に入力された場合に、該第１学習手段から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定する判定手段と、
を備える、
ことを特徴とする興味判定装置。
【請求項２】
請求項１記載の興味判定装置であって、
前記データ取得手段によって取得される前記データ群は、ユーザの対話情報に含まれる単語の特徴を、定量化しベクトル化された情報として表現されるベクトル情報であり、
前記第１学習手段は、
前記データ取得手段により取得された前記ベクトル情報と、予め設定された所定単語の特徴を示すデータ群としてのベクトル情報と、を関連付けたベクトル情報を入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて学習し、
前記判定手段は、
判定対象である単語の特徴を示す前記ベクトル情報と、前記データ取得手段によって取得されたベクトル情報と、を関連付けたベクトル情報が前記第１学習手段に入力された場合に、該第１学習手段から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定する、
ことを特徴とする興味判定装置。
【請求項３】
請求項２記載の興味判定装置であって、
前記データ取得手段によって取得される前記データ群は、ユーザの対話情報に含まれる単語の特徴を、該ユーザの嗜好を示すモデルとして表した嗜好モデルである、
ことを特徴とする興味判定装置。
【請求項４】
請求項３記載の興味判定装置であって、
前記データ取得手段は、
前記ユーザの対話情報の中で、該ユーザが興味を示す興味推定単語と、該興味推定単語から所定個前の前半文脈語と、該興味推定単語から所定個後の後半文脈語と、を単語のベクトルに変換する単語ベクトル変換部と、
前記単語ベクトル変換部により変換された前半文脈語及び後半文脈語のベクトルを、第２学習手段を用いて、それぞれ、文の特徴を示す前文脈ベクトルおよび後文脈ベクトルを変換し、該変換した前文脈ベクトルおよび後文脈ベクトルと前記興味推定単語のベクトルと、を結合した結合ベクトルを生成する文ベクトル生成部と、
を有する、ことを特徴とする興味判定装置。
【請求項５】
請求項４記載の興味判定装置であって、
前記文ベクトル生成部は、ユーザが興味を示した対話情報に関して、前記結合ベクトルをそれぞれ生成し、
前記データ取得手段は、前記文ベクトル生成部により生成された前記各結合ベクトルの平均値を、前記嗜好モデルにおけるユーザのベクトル情報として算出する嗜好モデル生成部を更に有する、
ことを特徴とする興味判定装置。
【請求項６】
請求項４又は５記載の興味判定装置であって、
前記文ベクトル生成部により生成される結合ベクトルを入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて最適化される第３学習手段を更に備える、
ことを特徴とする興味判定装置。
【請求項７】
請求項６記載の興味判定装置であって、
前記第１乃至第３学習手段は、同時に最適化される、ことを特徴とする興味判定装置。
【請求項８】
請求項６又は７記載の興味判定装置であって、
前記第１乃至第３学習手段は、ニューラルネットワークで構成されている、ことを特徴とする興味判定装置。
【請求項９】
ユーザの対話情報に含まれる単語の特徴を示すデータ情報を取得するステップと、
前記取得されたデータ群と、所定単語の特徴を示すデータ群と、を関連付けたデータ群を入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて第１学習手段を学習させるステップと、
判定対象である単語の特徴を示すデータ群と、前記取得されたデータ群と、を関連付けたデータ群が前記第１学習手段に入力された場合に、該第１学習手段から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定するステップと、
を含む、
ことを特徴とする興味判定方法。
【請求項１０】
ユーザの対話情報に含まれる単語の特徴を示すデータ情報を取得する処理と、
前記取得されたデータ群と、所定単語の特徴を示すデータ群と、を関連付けたデータ群を入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて第１学習手段を学習させる処理と、
判定対象である単語の特徴を示すデータ群と、前記取得されたデータ群と、を関連付けたデータ群が前記第１学習手段に入力された場合に、該第１学習手段から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定する処理と、
をコンピュータに実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ユーザの興味を判定する興味判定装置、興味判定方法、及びプログラムに関する。
【背景技術】
【０００２】
ユーザの対話に出現する単語の特徴を表すベクトルを用いて、そのユーザの興味の有無を判定する装置が知られている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１７−０２７１６８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上記装置においては、ユーザの対話に出現する単語を用いて、そのユーザの興味の有無を判定している。このため、ユーザの対話に出現しない単語に対して、そのユーザの興味の有無を判定するのは困難となる。
【０００５】
本発明は、このような問題点を解決するためになされたものであり、ユーザの対話に出現しない単語についても該ユーザの興味の有無を高精度に判定できる興味判定装置、興味判定方法、及びプログラムを提供することを主たる目的とする。
【課題を解決するための手段】
【０００６】
上記目的を達成するための本発明の一態様は、ユーザの対話情報に含まれる単語の特徴を示すデータ情報を取得するデータ取得手段と、前記データ取得手段により取得されたデータ群と、所定単語の特徴を示すデータ群と、を関連付けたデータ群を入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて学習する第１学習手段と、判定対象である単語の特徴を示すデータ群と、前記データ取得手段によって取得されたデータ群と、を関連付けたデータ群が前記第１学習手段に入力された場合に、該第１学習手段から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定する判定手段と、を備える、ことを特徴とする興味判定装置である。
この一態様において、前記データ取得手段によって取得される前記データ群は、ユーザの対話情報に含まれる単語の特徴を、定量化しベクトル化された情報として表現されるベクトル情報であり、前記第１学習手段は、前記データ取得手段により取得された前記ベクトル情報と、予め設定された所定単語の特徴を示すデータ群としてのベクトル情報と、を関連付けたベクトル情報を入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて学習し、前記判定手段は、判定対象である単語の特徴を示す前記ベクトル情報と、前記データ取得手段によって取得されたベクトル情報と、を関連付けたベクトル情報が前記第１学習手段に入力された場合に、該第１学習手段から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定してもよい。
この一態様において、前記データ取得手段によって取得される前記データ群は、ユーザの対話情報に含まれる単語の特徴を、該ユーザの嗜好を示すモデルとして表した嗜好モデルであってもよい。
この一態様において、前記データ取得手段は、前記ユーザの対話情報の中で、該ユーザが興味を示す興味推定単語と、該興味推定単語から所定個前の前半文脈語と、該興味推定単語から所定個後の後半文脈語と、を単語のベクトルに変換する単語ベクトル変換部と、前記単語ベクトル変換部により変換された前半文脈語及び後半文脈語のベクトルを、第２学習手段を用いて、それぞれ、文の特徴を示す前文脈ベクトルおよび後文脈ベクトルを変換し、該変換した前文脈ベクトルおよび後文脈ベクトルと前記興味推定単語のベクトルと、を結合した結合ベクトルを生成する文ベクトル生成部と、を有していてもよい。
この一態様において、前記文ベクトル生成部は、ユーザが興味を示した対話情報に関して、前記結合ベクトルをそれぞれ生成し、前記データ取得手段は、前記文ベクトル生成部により生成された前記各結合ベクトルの平均値を、前記嗜好モデルにおけるユーザのベクトル情報として算出する嗜好モデル生成部を更に有していてもよい。
この一態様において、前記文ベクトル生成部により生成される結合ベクトルを入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて最適化される第３学習手段を更に備えていてもよい。
この一態様において、前記第１乃至第３学習手段は、同時に最適化されてもよい。
この一態様において、前記第１乃至第３学習手段は、ニューラルネットワークで構成されていてもよい。
上記目的を達成するための本発明の一態様は、ユーザの対話情報に含まれる単語の特徴を示すデータ情報を取得するステップと、前記取得されたデータ群と、所定単語の特徴を示すデータ群と、を関連付けたデータ群を入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて第１学習手段を学習させるステップと、判定対象である単語の特徴を示すデータ群と、前記取得されたデータ群と、を関連付けたデータ群が前記第１学習手段に入力された場合に、該第１学習手段から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定するステップと、を含む、ことを特徴とする興味判定方法であってもよい。
上記目的を達成するための本発明の一態様は、ユーザの対話情報に含まれる単語の特徴を示すデータ情報を取得する処理と、前記取得されたデータ群と、所定単語の特徴を示すデータ群と、を関連付けたデータ群を入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて第１学習手段を学習させる処理と、判定対象である単語の特徴を示すデータ群と、前記取得されたデータ群と、を関連付けたデータ群が前記第１学習手段に入力された場合に、該第１学習手段から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定する処理と、をコンピュータに実行させることを特徴とするプログラムであってもよい。
【発明の効果】
【０００７】
本発明によれば、ユーザの対話に出現しない単語についても該ユーザの興味の有無を高精度に判定できる興味判定装置、興味判定方法、及びプログラムを提供することができる。
【図面の簡単な説明】
【０００８】
【図１】本発明の一実施形態に係る興味判定装置の概略的なシステム構成を示すブロック図である。
【図２】対話ログから文ベクトルを生成する一例を示す図である。
【図３】第１及び第２ニューラルネットワークの構造を説明するための図である。
【図４】第１及び第２ニューラルネットワークの最適化方法を説明するための図である。
【図５】嗜好モデルの生成過程の一例を説明した図である。
【図６】第３ニューラルネットワークの構造を示す図である。
【図７】第３ニューラルネットワークの最適化方法を説明するための図である。
【図８】判定対象の単語に対するユーザの興味の有無判定方法を説明する図である。
【図９】本発明の一実施形態に係る興味判定方法のフローを示す概略的なフローチャートである。
【図１０】使用したデータの統計情報の一例を示す図である。
【図１１】実験結果を示す図である。
【図１２】実験で用いた１対話の前半から一部を抜き出した図である。
【図１３】uniteモデルで潜在的興味の推定を行った結果の一部を示す図である。
【図１４】ＳＶＭで推定を行った結果の一部を示す図である。
【発明を実施するための形態】
【０００９】
以下、図面を参照して本発明の実施の形態について説明する。
本発明の一実施形態に係る興味判定装置は、ユーザの対話ログ（対話情報）に出現していないがユーザが興味を示す可能性がある潜在的な単語（以下、潜在的興味対象単語）に対しても、ユーザの興味を高精度に判定できるものである。
【００１０】
例えば、従来、ユーザの対話に出現する単語を用いてそのユーザの興味の有無を判定していた。このため、ユーザの対話に出現しない単語に対しては、そのユーザの興味の有無を判定するのは困難となっていた。
【００１１】
これに対し、本実施形態に係る興味判定装置は、ユーザの対話情報に含まれる単語の特徴を示すベクトル情報であって、ユーザの嗜好を示す嗜好モデルを取得し、取得された嗜好モデルのベクトル情報と、予め設定された所定単語の特徴を示すベクトル情報と、を関連付けたベクトル情報を入力値とし、ユーザの興味の有無を示す情報を出力値とした学習器（後述の第３ニューラルネットワーク９）を、該入力値及び出力値を用いて学習させ、判定対象である単語の特徴を示すベクトル情報と、嗜好モデルのベクトル情報と、を関連付けたベクトル情報が学習器に入力された場合に、該学習器から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定する。ここで学習とは、ニューラルネットワークを最適化することを意味する。
【００１２】
本実施形態に係る興味判定装置において、上述の如く、ユーザの嗜好を総合的に集約した嗜好モデルと、対話情報には出現していない任意の所定単語と、を関連付けたベクトル情報を用いて、学習器（学習手段）を学習させる。したがって、学習器には、対話情報に出現するユーザが興味を示す単語による嗜好だけでなく、対話情報には出現しないがユーザが興味を示す単語も含む所定単語による嗜好も反映される。すなわち、この学習器を用いて、判定対象の単語に対するユーザの興味の有無を判定することで、ユーザの対話に出現する単語だけでなく、出現しない単語についても該ユーザの興味の有無を高精度に判定できる。
【００１３】
本実施形態において、上述の如く、「予め設定された所定単語」と「判定対象の単語」とは、これらがたまたま同じ場合であっても、違う場合でもあっても良い。本実施形態に係る興味判定装置１は、後者のような違う場合であっても、ユーザの興味の有無を精度良く判定できる。
【００１４】
なお、対話ログに出現しない、例えば、名詞などの単語を判定する上で、対話ログ中の話題に対するユーザの興味が手がかりとなると考えられる。そこで、本実施形態においては、後述の如く、まず対話ログ中の全単語に対してユーザが興味を持っているか否かを判定する。また、ユーザがある単語に興味があるか否かは、その単語の前後の文脈が重要であると推定できる。従って、本実施形態においては、この単語前後の文脈を考慮して、ユーザが興味を持っているか否かを判定する。
【００１５】
図１は、本発明の一実施形態に係る興味判定装置の概略的なシステム構成を示すブロック図である。本実施形態に係る興味判定装置１は、形態素解析を行う形態素解析部２と、単語をベクトルに変換する単語ベクトル変換部３と、文ベクトルを生成する文ベクトル生成部４と、嗜好モデルを生成する嗜好モデル生成部５と、ユーザの興味を判定する興味判定部６と、学習器である第１乃至第３ニューラルネットワーク７、８、９と、を備えている。
【００１６】
なお、興味判定装置１は、例えば、演算処理等を行うＣＰＵ（Central Processing Unit）、ＣＰＵによって実行される演算プログラム等が記憶されたＲＯＭ（Read Only Memory）やＲＡＭ（Random Access Memory）からなるメモリ、外部と信号の入出力を行うインターフェイス部（Ｉ／Ｆ）、などからなるマイクロコンピュータを中心にして、ハードウェア構成されている。ＣＰＵ、メモリ、及びインターフェイス部は、データバスなどを介して相互に接続されている。
【００１７】
形態素解析部２は、対話ログ（対話のテキスト情報）に対し形態素解析を行う。対話ログは、例えば、メモリなどに記憶されている。なお、対話ログは、入力装置などを介して、適宜、形態素解析部２に入力される構成であってもよい。形態素解析部２は、対話ログを形態素（単語）に分割し、単語の集合である単語列を生成する。形態素解析部２は、例えば、Ｍｅｃａｂ（日本語形態素解析システム）などを用いて、形態素解析を行う。
【００１８】
単語ベクトル変換部３は、単語列を、その単語列の意味を表す単語ベクトルに変換することで、単語の意味を数値化する。単語ベクトル変換部３は、形態素解析部２により生成された単語列を、単語ベクトル列に変換する。単語ベクトル変換部３は、例えば、Ｗｏｒｄ２Ｖｅｃ［Ｍｉｋｏｌｏｖ１３］（単語をベクトル化して表現する定量化手法）などを用いて、形態素解析部２により生成された単語列を、ｄ次元の単語ベクトル列ｘ＝（ｘ１、ｘ２、・・・・、ｘｔ、ｘｋ）に変換する。ここで、興味推定単語ｘｔとは、例えば、ユーザが興味を持っていると推定される単語であり、メモリなどに予め設定されている。
【００１９】
文ベクトル生成部４は、単語ベクトル列を、その文の特徴を示す文ベクトルに変換することで、その文の意味を凝縮する。文ベクトル生成部４は、単語ベクトル変換部３により変換された単語ベクトル列を、文ベクトル列に変換する。
【００２０】
ここで、上記文ベクトル列への変換方法について、具体例を用いて詳細に説明する。
ユーザの興味推定に有用なのは、興味推定単語ｘtの周辺の単語であると考えられる。このため、文ベクトル生成部４は、この興味推定単語ｘｔの前後J個の単語のベクトルを文脈として用いる。
【００２１】
すなわち、文ベクトル生成部４は、興味推定単語ｘｔより前の単語のベクトル列ｘｆ＝（ｘｔ−１、ｘｔ−（ｌ＋１）、・・・、ｘｔ−１）と、後の単語のベクトル列ｘｓ＝（ｘｔ＋１、ｘｔ＋２、・・・、ｘｔ＋ｌ）とを、それぞれ、第１ニューラルネットワーク７を用いて、文ベクトルに変換する。
【００２２】
第１ニューラルネットワーク７は、第２学習手段の一具体例である。第１ニューラルネットワーク７は、例えば、ＲＮＮ（Recurrent  neural  Network）である。このＲＮＮは、中間層にＬＳＴＭ（Long Short Term Memory）を有している。第１ニューラルネットワーク７の代わりに、ＳＶＭ（Support Vector Machine）などの他の学習器が用いられてもよい。なお、後述の実験結果が示すように、ＲＮＮの第１ニューラルネットワーク７を用いるのが、判定精度が良好となるためより好ましい。
【００２３】
第１ニューラルネットワーク７への入力時には、各単語ベクトル列の終端を意味する＜ＥＯＳ＞を挿入する。この＜ＥＯＳ＞もベクトルであり、その要素は１次元目から、ｄ次元目までが０、ｄ＋１次元目が１のベクトルである。各単語ベクトル列は、逐次第１ニューラルネットワーク７に入力され、＜ＥＯＳ＞ベクトルが入力された時点の第１ニューラルネットワーク７の出力が文ベクトルとなる。
【００２４】
文ベクトル生成部４は、このｘｆとｘｓをそれぞれ第１ニューラルネットワーク７によって文ベクトル列ｖｉｆ、ｖｉｓにそれぞれ変換する。例えば、図２に示す如く、文ベクトル生成部４は、「寝る前ＳＮＳを見ます」という対話ログに基づいて、文ベクトルを生成する。この対話ログにおける興味推定単語は「ＳＮＳ」である。なお、図２の単語は、日本語で表記されているが、実際にはｗｏｒｄ２ｖｅｃなどで変換済みのベクトルである。
【００２５】
文ベクトル生成部４は、最初に、単語ベクトル列ｘｆ(「寝る」、「前」、「＜ＥＯＳ＞」)を、文頭から１単語ずつ第１ニューラルネットワーク７に入力していき、＜ＥＯＳ＞が入力された時点での第１ニューラルネットワーク７の出力を、前文脈ベクトルｖｆとする。文ベクトル生成部４は、同様に、単語ベクトル列ｘｓ（「を」、「見」、「ます」、「＜ＥＯＳ＞」に基づいて、後文脈ベクトルｖｉｓを生成する。文ベクトル生成部４は、興味推定単語（「ＳＮＳ」）を第１ニューラルネットワーク７に入力せず、その単語ベクトルをそのまま興味推定単語ｘｔとして利用する。
【００２６】
次に、文ベクトル生成部４は、前文脈ベクトルｖｆ、興味推定単語ｘｔのベクトル、および後文脈ベクトルｖｓを結合した結合ベクトルｖｓｅｎｔ＝［ｖｆ；ｘｔ；ｖｓ］を生成する。なお、セミコロンはベクトルの結合を表し、以下同様に表記する。文ベクトル生成部４は、この結合ベクトルｖｓｅｎｔを用いて、興味推定単語ｘｔに対するユーザの興味有無の判定を行う。文ベクトル生成部４は、結合ベクトルｖｓｅｎｔを第２ニューラルネットワーク８に入力する。
【００２７】
第２ニューラルネットワーク８は、第３学習手段の一具体例である。この第２ニューラルネットワーク８は、２次元の確率分布であり、それぞれ興味推定単語ｘｔに興味がある「興味；有り」の確率と、興味がない「興味；無し」の確率と、を出力する。第２ニューラルネットワーク８は、「興味；有り」の確率のみを出力する構成であってもよい。
【００２８】
第２ニューラルネットワーク８の代わりに、ＳＶＭ（Support Vector Machine）などの他の学習器が用いられてもよい。なお、後述の実験結果が示すように、全結合層の第２ニューラルネットワーク８を用いるのが、判定精度が良好となるためより好ましい。
【００２９】
図３は、上述した第１及び第２ニューラルネットワーク７、８の構造を説明するための図である。図３に示す如く、形態素解析部２は、対話ログに対し形態素解析を行い、興味推定単語（判定単語）と、その判定単語より前の前半文脈語（単語１、・・・、単語Ｎ、ＥＯＳ）と、その判定単語より後の後半文脈語（単語１、・・・、単語Ｎ、ＥＯＳ）と、を単語ベクトル変換部３に出力する。単語ベクトル変換部３は、形態素解析部２からの前半文脈語、興味推定単語、および後半文脈語をそれぞれ単語ベクトル列に変換し、変換した単語ベクトル列を文ベクトル生成部４に出力する。
【００３０】
文ベクトル生成部４は、単語ベクトル変換部３からの前半文脈語、および後半文脈語、の単語ベクトル列を、第１ニューラルネットワーク７に入力する。第１ニューラルネットワーク７は、その入力に応じて、前文脈ベクトルおよび後文脈ベクトルを出力する。文ベクトル生成部４は、第１ニューラルネットワーク７から出力される前文脈ベクトルおよび後文脈ベクトルと、興味推定単語のベクトルと、を、ベクトル結合器を用いて結合することで結合ベクトルｖｓｅｎｔを生成し、生成した結合ベクトルｖｓｅｎｔを第２ニューラルネットワーク８に入力する。
【００３１】
ここで、第２ニューラルネットワーク８は、例えば、全結合層（Ｒｅｓ−Ｎｅｔ８層）として構成されている。第２ニューラルネットワーク８は、上記入力に対して、２次元のクラス「興味；有り」の確率と、クラス「興味；無し」の確率と、を出力する。
【００３２】
文ベクトル生成部４は、例えば、メモリなどに記憶された学習データを用いて、上述した第１及び第２ニューラルネットワーク７、８を最適化する。
【００３３】
図４は、第１及び第２ニューラルネットワークの最適化方法を説明するための図である。学習データは、例えば、対話ログ（ｎ）と、その対話ログ（ｎ）（ｎ＝１、・・・、Ｎ）に対するユーザの興味を示す興味タグ（ｎ）と、を対応付けたデータである。クラス「興味；有り」の場合、興味タグ（ｎ）には１が設定され（興味タグ（ｎ）＝１）、クラス「興味；無し」の場合、興味タグ（ｎ）には０が設定される（興味タグ（ｎ）＝０）。
【００３４】
図４に示す如く、全対話ログ（ｎ）（ｎ＝１、・・・、Ｎ）に関して上述した処理を繰り返し、さらにエポック（epoch）回数繰返し、第１及び第２ニューラルネットワーク７、８を最適化する。このとき、文ベクトル生成部４は、対話ログ（ｎ）に対し、第２ニューラルネットワーク８から出力されるクラス「興味；有り」の確率およびクラス「興味；無し」の確率と、対話ログ（ｎ）に対応付けられた興味タグ（ｎ）と、の誤差を最小化するように、第１及び第２ニューラルネットワーク７、８を最適化する。
【００３５】
文ベクトル生成部４は、上述の最適化した第２ニューラルネットワーク８に基づいて、興味推定単語ｘｔに関するユーザの興味有無を判定する。このとき「興味あり」と判定された結合ベクトルｖｓｅｎｔは、主目的である潜在的興味推定のための手掛かりと見なせる。したがって、文ベクトル生成部４は、「興味あり」と判定した場合に、その結合ベクトルｖｓｅｎｔをメモリなどに保存する。本実施形態に係る興味判定装置１は、後述の如く、このメモリに保存された結合ベクトルｖｓｅｎｔを基づいて嗜好モデルの生成し、この嗜好モデルに基づいて、判定対象の単語に対するユーザの興味有無の判定を行う。
【００３６】
嗜好モデル生成部５は、ユーザ嗜好を表現する嗜好モデルを生成する。これにより、ユーザが興味を持つ単語情報を集約できる。すなわち、この嗜好モデルは、ユーザの嗜好を総合的に集約した情報となる。したがって、このユーザ嗜好を高精度に反映した嗜好モデルを用いることで、後述の如く、ユーザの興味有無を高精度に判定できる。
【００３７】
次に、嗜好モデルの生成方法について詳細に説明する。
嗜好モデルは、各ユーザの対話ログに含まれる単語の特徴を示すベクトル情報をユーザ毎に分類した情報である。嗜好モデル生成部５は、文ベクトル生成部４により生成された結合ベクトルｖｓｅｎｔに基づいて、嗜好モデルを生成する。
【００３８】
嗜好モデル生成部５は、上記メモリに保存した結合ベクトルｖｓｅｎｔに基づいて、例えば、ユーザ毎の結合ベクトルｖｓｅｎｔの平均値を嗜好モデルとして算出する。このように、結合ベクトルｖｓｅｎｔの平均値を算出することで、より高精度にユーザ嗜好を表現した嗜好モデルを生成でき、この嗜好モデルを用いて、後述の如く、判定対象の単語に対して、ユーザの興味の有無をより高精度に判定できる。
【００３９】
なお、嗜好モデル生成部５は、ユーザ毎の結合ベクトルｖｓｅｎｔの平均値を嗜好モデルとして算出しているが、これに限定されない。例えば、嗜好モデル生成部５は、上記メモリに保存した結合ベクトルｖｓｅｎｔを加算した加算値を嗜好モデルとして算出してもよい。さらに、嗜好モデル生成部５は、上記メモリに保存した結合ベクトルｖｓｅｎｔにそれぞれ重み付けを行い、加算した加算値を嗜好モデルとして算出してもよく、ユーザ嗜好がより適切に反映できれば任意の算出方法を適用してもよい。
【００４０】
図５は、嗜好モデルの生成過程の一例を説明した図である。
例えば、図５に示す如く、形態素解析部２は、学習データ（興味タグ＝１（興味有り判定）である対話ログ（１）〜対話ログ（Ｎ１））に対し形態素解析を行い、前半文脈語と、興味推定単語と、後半文脈語と、を単語ベクトル変換部３に出力する。単語ベクトル変換部３は、形態素解析部２からの前半文脈語、興味推定単語、および後半文脈語をそれぞれ単語ベクトル列に変換し、変換した単語ベクトル列を文ベクトル生成部４に出力する。
【００４１】
文ベクトル生成部４は、単語ベクトル変換部３からの前半文脈語および後半文脈語の単語ベクトル列を、上記最適化された第１ニューラルネットワーク７に入力する。最適化された第１ニューラルネットワーク７は、その入力に応じて、前文脈ベクトルおよび後文脈ベクトルを出力する。文ベクトル生成部４は、最適化された第１ニューラルネットワーク７から出力される前文脈ベクトルおよび後文脈ベクトルと、興味推定単語のベクトルと、を、ベクトル結合器を用いて、結合し、結合ベクトルｖｓｅｎｔを生成する。
【００４２】
文ベクトル生成部４のベクトル結合器は、上述の如く、対話ログ（１）〜対話ログ（Ｎ１）に関して、それぞれ、結合ベクトルｖｓｅｎｔを生成し、出力する。
【００４３】
嗜好モデル生成部５は、ベクトル結合器からの対話ログ（１）〜対話ログ（Ｎ１）の結合ベクトルｖｓｅｎｔの平均値を算出（平均化処理）することで、嗜好モデルを生成する。
なお、嗜好モデルは、予めメモリになどに記憶されていてもよい。この場合、興味判定部６は、メモリに記憶された嗜好モデルを適宜読み込むようにしてもよい。
【００４４】
興味判定部６は、任意の判定対象の単語に対して、ユーザの興味の有無を判定することで、対話ログにない単語に対しても興味の有無を判定する。興味判定部６は、判定手段の一具体例である。興味判定部６は、嗜好モデル生成部５により生成された嗜好モデルに基づき、第３ニューラルネットワーク９を用いて、任意の単語に対して、ユーザの興味の有無を判定する。第３ニューラルネットワーク９は、第１学習手段の一具体例である。
【００４５】
図６は、第３ニューラルネットワークの構造を示す図である。第３ニューラルネットワーク９は、例えば、第２ニューラルネットワーク８と同様に、全結合層（Ｒｅｓ−Ｎｅｔ８層）として構成されている。
【００４６】
なお、第３ニューラルネットワーク９の代わりに、ＳＶＭ（Support Vector Machine）などの他の学習器が用いられてもよい。なお、後述の実験結果が示すように、全結合層の第３ニューラルネットワーク９を用いるのが、判定精度が良好となるため最も好ましい。
【００４７】
単語ベクトル変換部３は、単語を単語ベクトル列に変換し、変換した単語ベクトル列を文ベクトル生成部４に出力する。文ベクトル生成部４のベクトル結合器は、単語ベクトル変換部３からの単語ベクトル列と、嗜好モデル生成部５からの嗜好モデルの結合ベクトルｖｓｅｎｔの平均値と、を結合した結合ベクトルを第３ニューラルネットワーク９に入力する。ここで、単語の単語ベクトル列に、嗜好モデルの結合ベクトルｖｓｅｎｔの平均値を結合するのは、その単語に嗜好モデルの嗜好を付与する意味合いがあり、この結合により、単語に嗜好モデルの嗜好が反映される。
【００４８】
例えば、ユーザｕｊ（ｊ＝０、１、・・・）に関する結合ベクトルｖｓｅｎｔの平均値をａｕｊとする。また、任意の単語の単語ベクトル列をｗｕｊ＝（ｗ１ｕｊ、ｗ２ｕｊ、・・・、ｗｎｕｊ）とする。ベクトル結合器は、結合ベクトルｖｓｅｎｔの平均値ａｕｊと、単語ベクトル列ｗｕｊと、を結合した結合ベクトル［ａｕｊ；ｗｉｕｊ］を第３ニューラルネットワーク９に入力する。第３ニューラルネットワーク９は、その入力に応じて、２次元のクラス「興味；有り」の確率と、クラス「興味；無し」の確率と、を出力する。第３ニューラルネットワーク９は、その入力に応じて、「興味；有り」の確率のみを出力する構成であってよい。
【００４９】
興味判定部６は、上述のように構成された第３ニューラルネットワーク９を最適化する。興味判定部６は、例えば、メモリなどに記憶された学習データを用いて、上述した第３ニューラルネットワーク９を最適化する。
【００５０】
図７は、第３ニューラルネットワークの最適化方法を説明するための図である。
第３ニューラルネットワーク９の最適化に用いられる学習データは、例えば、所定単語（ｍ）と、その所定単語（ｍ）（ｍ＝１、・・・、Ｍ）に対するユーザの興味を示す興味タグ（ｍ）と、を対応付けたデータである。所定単語は、例えば、ユーザの対話ログに出現しない単語も含む任意の単語である。
【００５１】
クラス「興味；有り」の場合、興味タグ（ｍ）には１が設定され（興味タグ（ｍ）＝１）、クラス「興味；無し」の場合、興味タグ（ｍ）には０が設定される（興味タグ（ｍ）＝０）。学習データは、例えば、メモリなどに予め記憶されている。
【００５２】
図７に示す如く、全所定単語（ｍ）（ｍ＝１、・・・、Ｍ）に関して上述した処理を繰り返し、さらにエポック（epoch）回数繰返し、第３ニューラルネットワーク９を最適化する。このとき、興味判定部６は、所定単語（ｍ）に対し、第３ニューラルネットワーク９から出力されるクラス「興味；有り」の確率およびクラス「興味；無し」の確率と、所定単語（ｍ）に対応付けられた興味タグ（ｍ）と、の誤差を最小化するように、第３ニューラルネットワーク９を最適化する。
【００５３】
興味判定部６は、嗜好モデル生成部５により生成された嗜好モデルに基づき、上述のように最適化された第３ニューラルネットワーク９を用いて、判定対象の単語に対して、ユーザの興味の有無を判定する。
【００５４】
上述の如く、所定単語の単語ベクトル列に、嗜好モデルの結合ベクトルｖｓｅｎｔの平均値を結合するのは、その所定単語に嗜好モデルの嗜好を付与する意味合いがあり、この結合により、所定単語に嗜好モデルの嗜好が反映される。そして、所定単語は対話ログに出現しない単語も含む任意の単語であることから、対話ログに出現しない単語についてもユーザの嗜好を反映することができる。このようにして、生成した学習データを用いて第３ニューラルネットワーク９を最適化し、この最適化した第３ニューラルネットワーク９を用いることで、ユーザの対話に出現する単語だけでなく、出現しない単語についても該ユーザの興味の有無を高精度に判定できる。
【００５５】
図８は、判定対象の単語に対するユーザの興味の有無判定方法を説明するための図である。単語ベクトル変換部３は、判定対象の単語を単語ベクトル列に変換し、変換した単語ベクトル列を文ベクトル生成部４に出力する。文ベクトル生成部４のベクトル結合器は、単語ベクトル変換部３からの単語ベクトル列ｗｕｊと、嗜好モデル生成部５からの嗜好モデルの結合ベクトルｖｓｅｎｔの平均値ａｕｊと、を結合した結合ベクトル［ａｕｊ；ｗｉｕｊ］を生成する。
【００５６】
そして、文ベクトル生成部４は、生成した結合ベクトル［ａｕｊ；ｗｉｕｊ］を第３ニューラルネットワーク９に入力する。第３ニューラルネットワーク９は、その入力に応じて、２次元のクラス「興味；有り」の確率と、クラス「興味；無し」の確率と、を出力する。この第３ニューラルネットワーク９の出力は、対話ログ中の単語の興味推定時と同様、興味の有無に関する２次元の確率分布である。興味判定部６は、第３ニューラルネットワーク９から出力されるクラス「興味；有り」の確率と、クラス「興味；無し」の確率と、に基づいて、判定対象の単語に対する潜在的興味有無を判定できる。
【００５７】
本実施形態において、上述した第１乃至第３ニューラルネットワーク７、８、９は、互いに独立ではなく、相互に関連していてもよい。すなわち、第１および第２ニューラルネットワーク８の出力に応じて、第３ニューラルネットワーク９の入力が変化する関係となっていてもよい。
【００５８】
さらに、これら第１乃至第３ニューラルネットワーク７、８、９を効率良く学習させるため、例えば、上述した第２ニューラルネットワーク８の最適化時における正解との誤差と、第３ニューラルネットワーク９の最適化時における正解との誤差と、の和を損失関数とする。このように、損失関数を用いて第１乃至第３ニューラルネットワーク９を同時に最適化することで、対話ログからの適切な文ベクトルの抽出できつつ、潜在的興味対象単語に対しても興味の有無を高精度に判定できる。
【００５９】
次に、上述した本実施形態に係る興味判定装置１による興味判定方法のフローを説明する。図９は、本実施形態に係る興味判定方法のフローを示す概略的なフローチャートである。
【００６０】
第１及び第２ニューラルネットワーク７、８は、ユーザの対話ログに基づいて、最適化される（ステップＳ１０１）。
【００６１】
嗜好モデル生成部５は、最適化された第１ニューラルネットワーク７から出力される文ベクトルを結合した結合ベクトルｖｓｅｎｔの平均値を算出することで、嗜好モデルを生成する（ステップＳ１０２）。
【００６２】
第３ニューラルネットワーク９は、嗜好モデルの結合ベクトルの平均値と、予め設定された所定単語のベクトルと、を結合した結合ベクトルと、を用いて、学習し、最適化される（ステップＳ１０３）。
【００６３】
最適化された第３ニューラルネットワーク９は、判定対象の単語のベクトルと、嗜好モデルの結合ベクトルの平均値と、を結合したベクトルが入力されると、クラス「興味；有り」の確率、および、クラス「興味；無し」の確率を、出力する（ステップＳ１０４）。
【００６４】
興味判定部６は、最適化された第３ニューラルネットワーク９から出力されるクラス「興味；有り」の確率、および、クラス「興味；無し」の確率に基づいて、該判定対象の単語に対するユーザの興味の有無を判定する（ステップＳ１０５）。
【００６５】
次に、本実施形態に係る興味判定装置１において、２人のユーザによる対話データを用いて性能評価実験を行った。その実験結果について、以下に説明する。
【００６６】
対話データ中の全ての名詞には、ユーザの興味の有無を意味するラベルを付与している。性能評価実験において、対話データは、１対話に含まれる発話数で２等分され、前半部を興味判定装置１に与える対話ログ、後半部の名詞を潜在的興味の推定対象とした(後半部の対話データは興味判定装置１には与えない)。潜在的興味推定の名詞は、後半部の対話データにおいて、どのユーザの発話に含まれていたかという観点からユーザ別に与えられ、その名詞を含む発話を行ったユーザが興味を持つか否かを判定することで本実施形態に係る興味判定装置１を評価する。
【００６７】
ここで、実験で使用した対話データについて詳細に説明する。
対話データはクラウドソーシングサービスで被験者を募集し、１対話１時間のデータを１００件収集した。学習および評価のため、収集した対話データに含まれる全ての名詞に対してユーザが興味を持っているか否かのアノテーションを付与した。名詞の抽出は形態素解析部２により自動で行った。アノテータは、対話データと対話中で使用された名詞が与えられ、各名詞に対し、「興味あり」もしくは「判断不能ｏｒ興味なし」の２種類のラベルのいずれかを付与した。付与基準は「アノテーション対象の名詞を含む発話をしたユーザに「あなた〇〇(当該名詞が入る)」に興味がありますか?」もしくは「あなたは「〇〇(当該名詞が入る)」に関する話題に興味がありますか?」という質問をした際の、そのユーザの予想回答」とした。質問の「〇〇に名詞を入れた際、日本語として意味が通らない場合は「判断不能・興味なし」のラベルを付与することとした。以上の基準により、募集したアノテータ１０名が個別にアノテーションを行い、多数決により正解ラベルを決定した。「興味あり」と「判断不能ｏｒ興味なし」がそれぞれ同数(５名ずつ)だった場合は「判断不能or興味なし」とした。図１０は、使用したデータの統計情報の一例を示す図である。アノテータ間のアノテーションの一致度を示すFleiss'Kappaは０．５０であり、中程度の一致を示した。
【００６８】
次に、実験設定について詳細に説明する。
Ｗｏｒｄ２Ｖｅｃは、ウインドウサイズは５、最小出現頻度は１０、ベクトルの次元数は１０００とし、約１００ＧＢのデータを用いて学習を行った。文脈ベクトルヘのエンコードには、興味推定名詞の前後５個ずつを用いた(Ｊ＝５)。文脈ベクトルヘのエンコードを行うＲＮＮ（第１ニューラルネットワーク７）の入力層は１００１次元、対話中の名詞の興味推定のための第２ニューラルネットワーク８の入力層は３０００次元、潜在的興味推定のための第３ニューラルネットワーク９の入力層は４０００次元、その他の中間層の次元は全て１０００次元とした。また、全ての中間層にdropoutを適用し、dropout率は３０％とした。学習エポック数は３０とし、１０分割交差検定で「興味あり」判定の精度、再現率、Ｆ値により評価した。
【００６９】
次に、比較手法について詳細に説明する。
本実施形態に係る手法の評価のため、２つのニューラルネットワークを同時に更新するuniteモデルと、潜在的興味推定のための第３ニューラルネットワーク９を分離したseparateモデル、および第１乃至第３ニューラルネットワーク７、８、９の層の数を全て１層としたshallowモデルと、全て８層のＲｅｓＮｅｔ[Ｈｅ１６]としたdeepモデルを用意した。separateモデルは、文脈ベクトルヘのエンコードのための第１及び第２ニューラルネットワーク７、８と、第３ニューラルネットワーク９と、を分離し、損失関数も別とした。また、この第３ニューラルネットワーク９を分離するため、潜在的興味推定のために第１ニューラルネットワーク７の出力(文脈ベクトル)を使用せず、平均文ベクトルの代わりに平均単語ベクトルを用いる。平均する単語ベクトルの選択には、uniteモデルと同じく、第２ニューラルネットワーク８の結果を用いる。実験では、上記のそれぞれを組み合せたseparate shallow、separate deep、unite shallow、unite deepの４つの設定で実験を行った。またベースライン手法として、以下の２つの手法による実験を行った。
【００７０】
ベースライン１:単語類似度
ベースラインとして、対話ログ中の名詞との類似度により、潜在的興味の推定を行う。本手法は、対話ログに含まれる全名詞をＷｏｒｄ２Ｖｅｃにより単語ベクトルに変換し、その単語ベクトルの平均と、潜在的興味推定名詞のベクトルとのコサイン類似度により「興味あり」か「判断不能ｏｒ興味なし」か、を判定する。類似度の閾値は０．０から１．０まで０．１刻みで変更させて評価を行い、Ｆ値が最大となった結果をこの手法の結果とする。
【００７１】
ベースライン２:ＳＶＭ
もう一つのベースラインとして、ＳＶＭによる判定を行う。本手法では、ベースライン１の単語類似度で用いた平均ベクトルと、潜在的興味推定名詞のベクトルを結合したベクトルを入カベクトルとし、潜在的興味の有無をＳＶＭにより２値分類する。
【００７２】
次に、実験結果について、詳細に説明する。
図１１は、実験結果を示す図である。図１１に示す如く、unite deepのＦ値が最も高く、続いて、unite shallow、separate shallow、separate deepの順となり、上記ベースライン手法の単語類似度およびＳＶＭよりも優れた性能を示した。
【００７３】
単語類似度の手法では、対話ログに含まれる全名詞を用いたため、平均単語ベクトルの計算に興味の有無とは無関係の単語も多く使用されることになったため、低い性能に留まったと考えられる。
【００７４】
上記ニューラルネットベースの興味判定方法がＳＶＭよりも優れていた理由としては、ニューラルネットベースの４つのモデルがＲＮＮを用いて発話の文脈情報を利用しているのに対し、ＳＶＭモデルが発話中の名詞のみに注目して推定していることが考えられる。
【００７５】
ニューラルネットベースのモデル同士で比較すると、separate shallowモデルとseparate deepモデルに対して、unite shal1owモデルおよびunite deepモデルが優れた推定結果を示している。
【００７６】
このことから、２つの累積誤差を統合してモデル全体を学習させるという本実施形態に係る興味判定方法が有効であったことが分かる。simpleとdeepの違いに注目すると、separateモデルにおいては、shallowの方がdeepよりＦ値が大きく良い結果となっている。一方でuniteモデルにおいては、shallowよりdeepの方が、わずかにＦ値が大きく良い結果になっている。特に、unite deepモデルは全ての手法の中でも最良の結果となっている。このことから、多くの層を持つニューラルネットワークとuniteモデルの組み合わせが有効であったことが示唆された。
【００７７】
図１２は、実験で用いた１対話の前半から一部を抜き出した図である。この対話中の後半から抽出した潜在的興味推定名詞に対して、uniteモデルで潜在的興味の判定を行った結果の一部を図１３に、ＳＶＭで判定を行った結果の一部を図１４に示す。図１３及び１４では「興味あり」を○、「不明・興味なし」を×で表す。
【００７８】
対話例より、ユーザ１とユーザ２はともにお酒に興味を持っていることがわかる。ここから、酒のおつまみに対して一定の興味があると考えられるが、本実施形態に係るニューラルネットワーク、ＳＶＭともに「チーズ」、「燻製」、「生ハム」に対して正しく興味判定ができていることがわかる。また、本実施形態に係るニューラルネットワークによれば、ユーザ１は「楽器」や「ギター」など音楽に関するものに興味があり、ユーザ２はあまり興味が無いことも正しく判定できている。一方、ＳＶＭでは、話者別の判定に失敗しており、ユーザ１とユーザ２で共通している単語「チーズ」、「楽器」、「ギター」は両者とも全て興味ありと判定されていることがわかる。以上の結果から、本実施形態に係るニューラルネットワークによって、ユーザ別に正しく潜在的興味が判定できていることが確認できた。
【００７９】
以上、本実施形態に係る興味判定装置において、第３ニューラルネットワーク９は、ユーザの嗜好を示す嗜好モデルのベクトル情報と、予め設定された所定単語のベクトルと、を関連付けたベクトル情報を入力値とし、ユーザの興味の有無を示す情報を出力値とし、該入力値及び出力値を用いて学習する。判定対象である単語の特徴を示すベクトル情報と、嗜好モデルのベクトル情報と、を関連付けたベクトル情報が第３ニューラルネットワーク９に入力される。興味判定部６は、第３ニューラルネットワーク９から出力された出力値に基づいて、該判定対象の単語に対するユーザの興味の有無を判定する。
【００８０】
これにより、ユーザの嗜好を総合的に集約した嗜好モデルと、対話情報に出現していない任意の所定単語と、を関連付けたベクトル情報を用いて、第３ニューラルネットワーク９を学習させる。したがって、第３ニューラルネットワーク９には、対話情報に出現するユーザが興味を示す単語による嗜好だけでなく、対話情報には出現しないがユーザが興味を示す単語も含む所定単語による嗜好も反映される。すなわち、この第３ニューラルネットワーク９を用いて、判定対象の単語に対するユーザの興味の有無を判定することで、ユーザの対話に出現する単語だけでなく、出現しない単語についても該ユーザの興味の有無を高精度に判定できる。
【００８１】
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
例えば、上記実施形態において、興味判定装置１に含まれる各構成（形態素解析部２、単語ベクトル変換部３、文ベクトル生成部４、嗜好モデル生成部５、興味判定部６、第１乃至第３ニューラルネットワーク７、８、９）や図４等に記載の「学習データ」は、それらが一つ装置、ＣＰＵ等の中に閉じている場合だけでなく、それぞれ又は任意の組み合わせごとにＣＰＵやＰＣを設けるようにしても良く、それらを通信回線でつなぐことも可能である。
【００８２】
本発明は、例えば、図９に示す処理を、ＣＰＵにコンピュータプログラムを実行させることにより実現することも可能である。
【００８３】
プログラムは、様々なタイプの非一時的なコンピュータ可読媒体（non-transitory computer readable medium）を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体（tangible storage medium）を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体（例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ）、光磁気記録媒体（例えば光磁気ディスク）、ＣＤ−ＲＯＭ（Read Only Memory）、ＣＤ−Ｒ、ＣＤ−Ｒ／Ｗ、半導体メモリ（例えば、マスクＲＯＭ、ＰＲＯＭ（Programmable ROM）、ＥＰＲＯＭ（Erasable PROM）、フラッシュＲＯＭ、ＲＡＭ（random access memory））を含む。
【００８４】
プログラムは、様々なタイプの一時的なコンピュータ可読媒体（transitory computer readable medium）によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
【符号の説明】
【００８５】
１  興味判定装置、２  形態素解析部、３  単語ベクトル変換部、４  文ベクトル生成部、５  嗜好モデル生成部、６  興味判定部、７  第１ニューラルネットワーク、８  第２ニューラルネットワーク、９  第３ニューラルネットワーク
【図１】
2018190136.tif 000003
【図２】
2018190136.tif 000004
【図３】
2018190136.tif 000005
【図４】
2018190136.tif 000006
【図５】
2018190136.tif 000007
【図６】
2018190136.tif 000008
【図７】
2018190136.tif 000009
【図８】
2018190136.tif 000010
【図９】
2018190136.tif 000011
【図１０】
2018190136.tif 000012
【図１１】
2018190136.tif 000013
【図１２】
2018190136.tif 000014
【図１３】
2018190136.tif 000015
【図１４】
2018190136.tif 000016