(57)【要約】【課題】ユーザに対する興味を効果的に高めることができる要約情報を生成すること。【解決手段】本願にかかる学習装置は、取得部と、学習部とを有する。取得部は、文字情報と当該文字情報に対応する要約情報とに基づき学習された第１のモデルを用いて生成された要約情報を取得する。学習部は、取得部により取得された要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値に基づいて、第１のモデルを学習する。【選択図】図３
2019053558.tif 000002
【特許請求の範囲】
【請求項１】
文字情報と当該文字情報に対応する要約情報とに基づき学習された第１のモデルを用いて生成された要約情報を取得する取得部と、
前記取得部により取得された要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値に基づいて、第１のモデルを学習する学習部と
を有することを特徴とする学習装置。
【請求項２】
前記取得部は、前記文字情報と当該文字情報に対応する要約情報との組合せのうち、所定のキーワードを含む文字情報と要約情報との組合せに基づき学習された第１のモデルを用いて生成された要約情報を取得する
ことを特徴とする請求項１に記載の学習装置。
【請求項３】
前記取得部は、前記所定のキーワードとして、ユーザによる使用頻度に基づくキーワードを含む前記組合せに基づき学習された第１のモデルを用いて生成された要約情報を取得する
ことを特徴とする請求項２に記載の学習装置。
【請求項４】
前記学習部は、文字情報に対応する要約情報と当該要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値とに基づき学習された第２のモデルを用いて前記取得部により取得された要約情報について予測された評価値に基づいて、前記第１のモデルを学習する
ことを特徴とする請求項１〜３のいずれか１つに記載の学習装置。
【請求項５】
前記学習部は、前記文字情報に対応する要約情報と、当該要約情報に含まれるキーワードに対するユーザの使用頻度と、前記要約情報を評価する評価値とに基づき学習された第２のモデルを用いて前記取得部により取得された要約情報について予測された評価値に基づいて、前記第１のモデルを学習する
ことを特徴とする請求項４に記載の学習装置。
【請求項６】
前記学習部は、前記取得部により取得された要約情報を評価する評価値の実績値に基づいて、第１のモデルを学習する
ことを特徴とする請求項１〜５のいずれか１つに記載の学習装置。
【請求項７】
前記学習部は、前記取得部により取得された要約情報を評価する評価値として、ユーザ属性毎の評価値に基づいて、当該ユーザ属性毎に第１のモデルを学習する
ことを特徴とする請求項１〜６のいずれか１つに記載の学習装置。
【請求項８】
前記学習部は、前記ユーザ属性毎の第２のモデルを用いて予測された評価値であって前記ユーザ属性毎の評価値に基づいて、当該ユーザ属性毎に第１のモデルを学習する
ことを特徴とする請求項７に記載の学習装置。
【請求項９】
前記取得部は、前記文字情報として記事コンテンツに含まれる本文と、前記文字情報に対応する要約情報として当該本文に対応する見出しを取得する
ことを特徴とする請求項１〜８のいずれか１つに記載の学習装置。
【請求項１０】
前記学習部により学習された第１のモデルを用いて生成された要約情報の中から所定の要約情報を配信対象の要約情報として抽出する抽出部をさらに有する
ことを特徴とする請求項１〜９のいずれか１つに記載の学習装置。
【請求項１１】
前記抽出部は、第１のモデルを用いて生成された要約情報を、第２のモデルに適用することにより予測された評価値に基づいて、第１のモデルを用いて生成された要約情報の中から所定の要約情報を抽出する
ことを特徴とする請求項１０に記載の学習装置。
【請求項１２】
前記抽出部は、第１のモデルのうち要約情報が提供される対象ユーザのユーザ属性に応じた第１のモデルを用いて生成された要約情報を、第２のモデルのうち当該対象ユーザのユーザ属性に応じた第２のモデルに適用することにより予測された評価値に基づいて、当該対象ユーザのユーザ属性に応じた第１のモデルを用いて生成された要約情報の中から所定の要約情報を抽出する
ことを特徴とする請求項１０または１１に記載の学習装置。
【請求項１３】
前記抽出部は、第１のモデルを用いて生成された要約情報のうち、第２のモデルに適用することにより予測された評価値がより高い要約情報を抽出する
ことを特徴とする請求項１０〜１２のいずれか１つに記載の学習装置。
【請求項１４】
前記抽出部は、第１のモデルを用いて生成された要約情報のうち、使用頻度がより高いキーワードを含む要約情報を抽出する
ことを特徴とする請求項１０〜１３のいずれか１つに記載の学習装置。
【請求項１５】
学習装置が実行する学習方法であって、
文字情報と当該文字情報に対応する要約情報とに基づき学習された第１のモデルを用いて生成された要約情報を取得する取得工程と、
前記取得工程により取得された要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値に基づいて、前記第１のモデルを学習する学習工程と
を含んだことを特徴とする学習方法。
【請求項１６】
文字情報と当該文字情報に対応する要約情報とに基づき学習された第１のモデルを用いて生成された要約情報を取得する取得手順と、
前記取得手順により取得された要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値に基づいて、前記第１のモデルを学習する学習手順と
をコンピュータに実行させることを特徴とする学習プログラム。
【請求項１７】
文字情報と当該文字情報に対応する要約情報とに基づいて、入力された文字情報に対応する要約情報を出力するよう、コンピュータを機能させるための第１のモデル。
【請求項１８】
文字情報に対応する要約情報と当該要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値とに基づいて、入力された要約情報に対応する評価値を出力するよう、コンピュータを機能させるための第２のモデル。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施形態は、学習装置、学習方法、学習プログラム、第１のモデルおよび第２のモデルに関する。
【背景技術】
【０００２】
近年、インターネットの飛躍的な普及に伴い、ネットワークを介して様々なコンテンツの提供が盛んに行われている。また、ユーザにより適したコンテンツを提供する技術が知られている。
【０００３】
例えば、特許文献１では、サーバから提供される任意のコンテンツの表示スタイルをユーザの嗜好に合わせてパーソナライズ化する技術が提案されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１３−７７２４０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、上記の従来技術では、必ずしもユーザに対する興味を効果的に高めることができる要約情報を生成することができるとは限らない。例えば、上記の従来技術では、端末から要求があったコンテンツをサーバから取得し、取得したコンテンツに対して嗜好データに対応する部分をパーソナライズ化し、パーソナライズ化されたコンテンツと取得したコンテンツを切り替えて端末に送信する。
【０００６】
このように、上記の従来技術は、ユーザの嗜好に合わせてコンテンツをパーソナライズ化するものに過ぎず、文字情報から要約情報を生成するものではない。したがって、上記の従来技術では、必ずしもユーザに対する興味を効果的に高めることができる要約情報を生成することができるとは限らない。
【０００７】
本願は、上記に鑑みてなされたものであって、ユーザに対する興味を効果的に高めることができる要約情報を生成することができる学習装置、学習方法、学習プログラム、第１のモデルおよび第２のモデルを提供することを目的とする。
【課題を解決するための手段】
【０００８】
本願にかかる学習装置は、文字情報と当該文字情報に対応する要約情報とに基づき学習された第１のモデルを用いて生成された要約情報を取得する取得部と、前記取得部により取得された要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値に基づいて、第１のモデルを学習する学習部とを有することを特徴とする。
【発明の効果】
【０００９】
実施形態の一態様によれば、ユーザに対する興味を効果的に高めることができる要約情報を生成することができるといった効果を奏する。
【図面の簡単な説明】
【００１０】
【図１】図１は、実施形態にかかる学習処理の一例を示す図である。
【図２】図２は、実施形態にかかる学習処理システムの構成例を示す図である。
【図３】図３は、実施形態にかかる学習装置の構成例を示す図である。
【図４】図４は、実施形態にかかる編集情報記憶部の一例を示す図である。
【図５】図５は、実施形態にかかる評価情報記憶部の一例を示す図である。
【図６】図６は、実施形態にかかるコンテンツ記憶部の一例を示す図である。
【図７】図７は、実施形態にかかるモデル情報記憶部の一例を示す図である。
【図８】図８は、実施形態にかかるキーワード記憶部の一例を示す図である。
【図９】図９は、実施形態にかかるユーザ情報記憶部の一例を示す図である。
【図１０】図１０は、強化学習にかかる学習処理を模式的に示す図である。
【図１１】図１１は、実施形態にかかる学習装置による学習処理手順を示すフローチャートである。
【図１２】図１２は、実施形態にかかる学習装置による配信処理手順を示すフローチャートである。
【図１３】図１３は、学習装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【発明を実施するための形態】
【００１１】
以下に、本願にかかる学習装置、学習方法、学習プログラム、第１のモデルおよび第２のモデルを実施するための形態（以下、「実施形態」と呼ぶ）について図面を参照しつつ説明する。なお、この実施形態により本願にかかる学習装置、学習方法、学習プログラム、第１のモデルおよび第２のモデルが限定されるものではない。また、以下の実施形態において、同一の部位には同一の符号を付し、重複する説明は省略される。
【００１２】
〔１．学習処理〕
まず、図１を用いて、実施形態にかかる学習処理の一例について説明する。図１は、実施形態にかかる学習処理の一例を示す図である。実施形態にかかる学習処理は、図１に示す学習装置１００によって行われる。
【００１３】
端末装置１０は、ユーザによって利用される情報処理装置である。端末装置１０は、例えば、スマートフォンや、タブレット型端末や、ノート型ＰＣ（Personal  Computer）や、デスクトップＰＣや、携帯電話機や、ＰＤＡ（Personal  Digital  Assistant）等により実現される。図１に示す例においては、端末装置１０がタッチパネル機能を有するスマートフォンである場合を示す。なお、以下では、端末装置１０をユーザと表記する場合がある。すなわち、以下では、ユーザを端末装置１０と読み替えることもできる。また、図１に示す端末装置１０は、ユーザＵ１によって利用されるものとする。
【００１４】
学習装置１００は、ユーザに対してタイトルを含む記事コンテンツを配信するサービスを行うサーバ装置である。例えば、学習装置１００は、記事コンテンツの本文（以下、「記事本文」とする）が要約された文章を、記事コンテンツのタイトルとして、このタイトルの一覧をユーザに提示する。このような状態において、ユーザがタイトルの一覧の中から特定のタイトルを選択した場合に、学習装置１００は、選択されたタイトルに対応する記事本文をユーザに対して配信する。
【００１５】
このようなことから、本実施形態では、タイトルは要約情報の一例に相当する。また、タイトルに対応する記事本文は、文字情報の一例に相当する。なお、文字情報は、必ずしも記事コンテンツの本文である必要はなく、記事コンテンツ以外のコンテンツ（例えば、広告コンテンツ）の本文であってもよい。また、タイトルは、「見出し」や「トピックス」と言い換えることができる。
【００１６】
ここで、学習装置１００が以下に示す学習処理を行ううえでの前提について説明する。記事本文がユーザに効果的に閲覧されるには、まず、タイトルがユーザの興味を引き付けるものでなければならない。したがって、まず、どのようなタイトルがよりユーザの興味を引き付けるものであるかを学習し分析する必要がある。一例を示すと、どのようなキーワードを含むタイトルがよりユーザの興味を引き付けるものであるかを学習し分析する必要がある。
【００１７】
このため、実施形態にかかる学習装置１００は、文字情報と当該文字情報に対応する要約情報とに基づいて、第１のモデルを学習する。具体的には、学習装置１００は、所定の文字情報が入力された場合に、入力された文字情報に対応する要約情報を出力として生成する第１のモデルを学習する。ここで、第１のモデルを用いて生成される要約情報は、ユーザの興味を引き付けるものであるとは限らない。したがって、学習装置１００は、所定の要約情報と、この要約情報を評価する評価値とに基づき学習された第２のモデルを用いて予測された評価値であって、第１のモデルを用いて生成された要約情報に対応する評価値に基づいて、第１のモデルを学習する。具体的には、学習装置１００は、第１のモデルを用いて生成された要約情報と、この要約情報を評価する評価値とに基づき学習された第２のモデルを用いて予測された評価値に基づいて、第１にモデルをより強化する強化学習を行う。
【００１８】
これにより、実施形態にかかる学習装置１００は、評価値の高い、すなわちユーザの興味を引き付け易い要約情報を生成可能なモデルを学習することができる。なお、以下の実施形態では、第１のモデルを「要約生成モデル」と表記する場合がある。また、第２のモデルを「評価値予測モデル」と表記する場合がある。
【００１９】
また、以下の実施形態では、要約情報を評価する評価値として、ユーザの閲覧に関する評価値を用いる。ユーザの閲覧に関する評価値とは、例えば、要約情報がユーザによって選択される確率（クリック率（ＣＴＲ：Crick  Through  Rate））である。また、ユーザの閲覧に関する評価値は、要約情報または要約情報に対応する文字情報がユーザによって閲覧された回数（ＰＶ：Page  View）であってもよい。以下では、実施形態にかかる学習処理の一例について説明する。
【００２０】
まず、学習装置１００は、図１に示すように、編集情報記憶部１２１を有する。編集情報記憶部１２１は、これまでにユーザに配信された記事コンテンツを記憶する記憶部である。例えば、編集情報記憶部１２１は、これまでにユーザに配信された記事コンテンツとして、記事本文とタイトルとの組合せを記憶する。編集情報記憶部１２１に記憶されるタイトルは、記事本文に基づき人手（例えば、所定の編集者）によって作製されたものである。図１の例では、編集情報記憶部１２１は、記事本文ｎｗ１と記事本文ｎｗ１から作成されたタイトルｔｌ１とを対応付けて記憶する。また、編集情報記憶部１２１は、記事本文ｎｗ２と記事本文ｎｗ２から作成されたタイトルｔｌ２とを対応付けて記憶する。また、編集情報記憶部１２１は、記事本文ｎｗ３と記事本文ｎｗ３から作成されたタイトルｔｌ３とを対応付けて記憶する。編集情報記憶部１２１に記憶されるこれらの情報を総称して記事コンテンツＡＴ１１とする。
【００２１】
また、学習装置１００は、図１に示すように、評価情報記憶部１２２を有する。評価情報記憶部１２２は、編集情報記憶部１２１に記憶される各記事コンテンツが配信された場合における当該記事コンテンツに対する評価値を記憶する記憶部である。例えば、評価情報記憶部１２２は、タイトルに対する評価値としてＣＴＲを記憶する。図１の例では、評価情報記憶部１２２は、タイトルｔｌ１のＣＴＲとして「０．０２」を記憶する。また、評価情報記憶部１２２は、タイトルｔｌ２のＣＴＲとして「０．０１」を記憶する。また、評価情報記憶部１２２は、タイトルｔｌ３のＣＴＲとして「０．１５」を記憶する。評価情報記憶部１２２に記憶されるこれらの情報を総称して評価値ＮＯ１１とする。
【００２２】
このような状態において、学習装置１００は、記事コンテンツＡＴ１１を用いた学習により、記事コンテンツＡＴ１１から要約生成モデルｍ１を生成する（ステップＳ１）。例えば、学習装置１００は、記事コンテンツＡＴ１１に示す情報を編集情報記憶部１２１から取得し、要約生成モデルｍ１を学習する。すなわち、学習装置１００は、各タイトル（人手で作成されたもの）と、当該タイトルに対応する記事本文との組合せを正例として、例えばタイトルが作成されてないタイトル未知の記事本文であって、未配信の記事本文が入力された場合に、入力された記事本文に対応するタイトルを出力する要約生成モデルｍ１を学習する。例えば、学習装置１００は、リカレントニューラルネットワーク等の種々の従来技術を適宜用いて、要約生成モデルｍ１を学習する。
【００２３】
また、学習装置１００は、評価値ＮＯ１１を用いた学習により、評価値ＮＯ１１から評価値予測モデルｍ２を生成する（ステップＳ２）。例えば、学習装置１００は、評価値ＮＯ１１に示す情報を評価情報記憶部１２２から取得し、評価値予測モデルｍ２を学習する。すなわち、学習装置１００は、各タイトル（人手で作成されたもの）と、当該タイトルに対応するＣＴＲとの組合せを正例として、例えば評価値未知のタイトルであって、未配信のタイトルが入力された場合に、入力されたタイトルに対応するＣＴＲを出力する評価値予測モデルｍ２を学習する。なお、後述するが、学習装置１００は、要約情報（タイトル）および評価値（ＣＴＲ）以外にも、例えば所定のキーワードに基づく情報を素性として用いることにより、評価値予測モデルｍ２を学習する場合がある。
【００２４】
さて、以上のようにして各モデルを生成すると、次に、学習装置１００は、要約生成モデルｍ１を強化する強化学習を行う。例えば、学習装置１００は、要約情報を評価値予測モデルｍ２に入力した場合に、より評価値が高くなるような要約情報を生成するよう要約生成モデルｍ１を強化学習する。例えば、学習装置１００は、要約生成モデルｍ１から生成された要約情報を評価値予測モデルｍ２に入力することにより予測された評価値を、要約生成モデルｍ１にフィードバックすることにより、要約生成モデルｍ１を強化学習する。この点について、一例を用いて説明する。
【００２５】
図１に示すように、学習装置１００は、さらにコンテンツ記憶部１２３を有する。コンテンツ記憶部１２３は、今後配信予定の記事コンテンツのうち記事本文を記憶する記憶部である。図１の例では、コンテンツ記憶部１２３は、記事本文ＮＷ１、ＮＷ２およびＮＷ３を記憶する。そして、この時点では、コンテンツ記憶部１２３に記憶される各記事本文について、タイトルは生成されていないものとする。
【００２６】
このような状態において、学習装置１００は、例えば、記事本文ＮＷ１を要約生成モデルｍ１に入力することにより（ステップＳ３）、記事本文ＮＷ１に対応するタイトルを生成する（ステップＳ４）。要約生成モデルｍ１を用いた場合、１つの記事本文から複数のタイトルが生成される場合がある。例えば、図１に示すように、学習装置１００は、記事本文ＮＷ１を要約生成モデルｍ１に入力することにより、タイトルＴＬ１１、ＴＬ１２およびＴＬ１３といったように３つのタイトルを生成する。
【００２７】
次に、学習装置１００は、タイトルＴＬ１１〜ＴＬ１３それぞれを評価値予測モデルｍ２に入力することにより（ステップＳ５）、タイトルＴＬ１１〜ＴＬ１３それぞれに対応するＣＴＲを予測する（ステップＳ６）。図１の例では、学習装置１００は、タイトルＴＬ１１に対応するＣＴＲとしてＣＴＲ「Ｘ１１」、タイトルＴＬ１２に対応するＣＴＲとしてＣＴＲ「Ｘ１２」、タイトルＴＬ１３に対応するＣＴＲとしてＣＴＲ「Ｘ１３」を予測したものとする。なお、ここではＣＴＲとして「Ｘ１１」といった概念記号を用いているが、実際には、ＣＴＲは数値で表される。
【００２８】
このような状態において、学習装置１００は、ＣＴＲ「Ｘ１１」、ＣＴＲ「Ｘ１２」、ＣＴＲ「Ｘ１３」それぞれを要約生成モデルｍ１にフィードバックすることにより（ステップＳ７）、よりＣＴＲが高くなるようなタイトルとはどのようなタイトルであるかを学習する。タイトルは、複数の単語から構成される文章であるが、学習装置１００は、どのような単語の組合せであればよりＣＴＲが高くなるかを学習する。また、学習装置１００は、１つの単語の前後にどのような単語が存在すればよりＣＴＲが高くなるかを学習する。このようにして、学習装置１００は、より評価値が高くなるようなタイトルを生成するよう要約生成モデルｍ１を強化学習する。例えば、ＣＴＲの最大値が「０．１」であることが判明している場合には、学習装置１００は、ＣＴＲが「０．１」に近付くようなタイトルを生成するよう要約生成モデルｍ１を強化学習する。
【００２９】
また、不図示であるが、学習装置１００は、同様の処理を記事本文ＮＷ２およびＮＷ３についても行う。例えば、学習装置１００は、記事本文ＮＷ２を要約生成モデルｍ１に入力することにより、記事本文ＮＷ２に対応するタイトルを生成し、生成したタイトルを評価値予測モデルｍ２に入力することにより、評価値を得る。そして、学習装置１００は、この評価値を要約生成モデルｍ１にフィードバックすることにより、要約生成モデルｍ１を強化学習する。
【００３０】
以上のように要約生成モデルｍ１に対して強化学習を行うことにより、学習装置１００は、強化学習後のモデルとして、例えば、強化モデルＭ１を生成する（ステップＳ８）。強化モデルＭ１は、要約生成モデルｍ１が強化学習されることにより得られたモデルである。また、強化モデルＭ１も要約生成モデルｍ１と同様に、文字情報が入力された場合に、入力された文字情報に対応する要約情報を出力として生成するモデルである。
【００３１】
ここで、学習装置１００は、端末装置１０からコンテンツの配信要求を受信したとする（ステップＳ９）。かかるコンテンツは、各種の記事本文に対応するタイトルが一覧（トピックス一覧ともいえる）表示されるウェブページＰ１であるものとする。
【００３２】
学習装置１００は、配信要求を受信すると、強化学習によって得られた強化モデルＭ１を用いて、コンテンツ記憶部１２３に記憶される記事本文に対応するタイトルを生成する。図１の例では、学習装置１００は、記事本文ＮＷ１〜ＮＷ３を強化モデルＭ１に入力することにより（ステップＳ１０）、記事本文ＮＷ１〜ＮＷ３それぞれに対応するタイトルを生成する（ステップＳ１１）。図１の例では、学習装置１００が、記事本文ＮＷ１に対応するタイトルＴＬ１１１として、「○○道  トラック衝突  ケガ人多数」を生成した例を示す。また、学習装置１００が、記事本文ＮＷ２に対応するタイトルＴＬ２１１として、「ドラマＤ  第１５話は放送休止」を生成した例を示す。また、学習装置１００が、記事本文ＮＷ３に対応するタイトルＴＬ３１１として、「柔道快進撃  軽量級全て制覇」を生成した例を示す。
【００３３】
なお、学習装置１００は、記事本文ＮＷ１〜ＮＷ３それぞれに対応するタイトルを複数ずつ生成する場合がある。例えば、図１の例では、学習装置１００は、１つの記事本文ＮＷ１から１つのタイトルＴＬ１１１を生成しているが、強化モデルＭ１による生成アルゴリズムにより、複数のタイトルを生成する場合がある。記事本文ＮＷ２およびＮＷ３についても同様のことがいえる。かかる場合、後述するが、学習装置１００は、各記事本文に対応するタイトルの中から所定のタイトルを抽出する処理を行う。
【００３４】
説明を元に戻す。学習装置１００は、タイトルＴＬ１１１、ＴＬ２１１およびＴＬ３１１を含むタイトル一覧ＴＬ１が表示されるウェブページＰ１を生成し、生成したウェブページＰ１を端末装置１０に配信する（ステップＳ１２）。端末装置１０は、学習装置１００から受信したウェブページＰ１を表示画面に表示する。図１に示すように、端末装置１０によって表示されるウェブページＰ１には、タイトルＴＬ１１１、ＴＬ２１１およびＴＬ３１１を含むタイトル一覧ＴＬ１が表示される。
【００３５】
さて、これまで説明してきたように、実施形態にかかる学習装置１００は、文字情報と当該文字情報に対応する要約情報とに基づき学習された第１のモデルを用いて、要約情報を生成する。そして、学習装置１００は、文字情報に対応する要約情報と当該要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値とに基づき学習された第２のモデルを用いて、第１のモデルから生成された要約情報の評価値を予測する。そして、学習装置１００は、予測した評価値に基づいて、第１のモデルに対して強化学習を行う。
【００３６】
これにより、実施形態にかかる学習装置１００は、文字情報からユーザに適した要約情報を高精度に生成することができる。また、学習装置１００は、ユーザに対する興味をより高めることができるような要約情報を生成することができるため、結果的に、要約情報に対応する文字情報（例えば、記事コンテンツの本文）を効果的に閲覧させることができる。さらに、学習装置１００は、人手によらずとも、動的に高精度な要約情報を生成することができる。
【００３７】
〔２．学習処理システムの構成〕
次に、図２を用いて、実施形態にかかる学習処理システムの構成について説明する。図２は、実施形態にかかる学習処理システム１の構成例を示す図である。図２に示すように、学習処理システム１は、端末装置１０と、学習装置１００とを含む。端末装置１０と、学習装置１００とは、ネットワークＮを介して有線または無線により通信可能に接続される。なお、図１に示す学習処理システム１には、複数台の端末装置１０や、複数台の学習装置１００が含まれてもよい。
【００３８】
端末装置１０は、ユーザによって利用される情報処理装置である。端末装置１０は、例えば、スマートフォンや、タブレット型端末や、ノート型ＰＣや、デスクトップＰＣや、携帯電話機や、ＰＤＡ等により実現される。例えば、端末装置１０は、ユーザ操作に応じて、学習装置１００から各種コンテンツを取得し、取得したコンテンツを表示画面に表示する。
【００３９】
図１で説明した通り、本実施形態では、コンテンツは、ニュース新着記事、経済関連の記事、エンターテイメント関連の記事、スポーツ関連の記事等の各種の記事が掲載される記事コンテンツであるものとする。しかし本実施形態において学習装置１００の処理対象となるコンテンツは、記事コンテンツに限定されるものではなく、例えば、広告コンテンツや個人のブログ等も対象とすることができる。
【００４０】
学習装置１００は、図１で説明した学習処理を行うサーバ装置である。また、学習装置１００は、強化学習によって得られたモデルを用いて生成した要約情報（例えば、タイトル）が一覧表示されるコンテンツを記事コンテンツの本文に対応するトピックス一覧として、ユーザに配信する。
【００４１】
〔３．学習装置の構成〕
次に、図３を用いて、実施形態にかかる学習装置１００について説明する。図３は、実施形態にかかる学習装置１００の構成例を示す図である。図３に示すように、学習装置１００は、通信部１１０と、記憶部１２０と、制御部１３０とを有する。
【００４２】
（通信部１１０について）
通信部１１０は、例えば、ＮＩＣ（Network  Interface  Card）等によって実現される。そして、通信部１１０は、ネットワークＮと有線または無線で接続され、例えば、端末装置１０との間で情報の送受信を行う。
【００４３】
（記憶部１２０について）
記憶部１２０は、例えば、ＲＡＭ（Random  Access  Memory)、フラッシュメモリ等の半導体メモリ素子またはハードディスク、光ディスク等の記憶装置によって実現される。記憶部１２０は、編集情報記憶部１２１と、評価情報記憶部１２２と、コンテンツ記憶部１２３と、モデル情報記憶部１２４と、キーワード記憶部１２５と、ユーザ情報記憶部１２６とを有する。
【００４４】
（編集情報記憶部１２１について）
編集情報記憶部１２１は、これまでにユーザに配信された記事コンテンツを記憶する記憶部である。例えば、編集情報記憶部１２１は、これまでにユーザに配信された記事コンテンツとして、記事本文とタイトルとの組合せを記憶する。編集情報記憶部１２１に記憶されるタイトルは、記事本文に基づき人手（例えば、所定の編集者）によって作製されたものである。ここで、図４に実施形態にかかる編集情報記憶部１２１の一例を示す。図４の例では、編集情報記憶部１２１は、「編集ＩＤ」、「記事本文」、「タイトル」といった項目を有する。
【００４５】
「編集ＩＤ」は、これまでに配信された記事コンテンツであって、記事コンテンツに含まれる「記事本文」と「タイトル」との組合せを識別する識別情報を示す。「記事本文」は、これまでに配信された記事コンテンツの具体的な内容を示す文章のテキストデータである。「タイトル」は、「記事本文」が要約された文章のテキストデータである。すなわち、図４の例では、編集ＩＤ「ＥＤ１」によって示される記事コンテンツ（例えば、「記事コンテンツＥＤ１」と言い換えることができる）は、記事本文「ｎｗ１」と、タイトル「ｔｌ１」とから構成されることを示す。なお、図４の例では、記事本文「ｎｗ１」、タイトル「ｔｌ１」といったように概念的な記号を用いているが、実際には、記事本文「ｎｗ１」に対応するテキストデータ、タイトル「ｔｌ１」に対応するテキストデータが記憶される。
【００４６】
（評価値情報記憶部１２２について）
評価値情報記憶部１２２は、編集情報記憶部１２１に記憶される各記事コンテンツが配信された場合における当該記事コンテンツに対する評価値を記憶する記憶部である。例えば、評価値情報記憶部１２２は、タイトルに対する評価値として、タイトルがユーザに選択されたことによる選択率（ＣＴＲ）を記憶する。ここで、図５に実施形態にかかる評価情報記憶部１２２の一例を示す。図５の例では、評価値情報記憶部１２２は、「編集ＩＤ」、「評価値（ＣＴＲ）」といった項目を有する。また、図５の例では、「評価値（ＣＴＲ）」は、例えば、「１０代」、「２０代」．．．、「男性」、「女性」．．．といったユーザの属性情報（ユーザ属性）毎に記憶される。このようなことから、実施形態にかかる評価情報記憶部１２２は、各ユーザ属性に対応する評価値（ＣＴＲ）、当該ユーザ属性毎に記憶する。
【００４７】
「編集ＩＤ」は、編集情報記憶部１２１に記憶される「記事本文」と「タイトル」との組合せを識別する識別情報を示す。つまり、評価値情報記憶部１２２に記憶される「編集ＩＤ」は、編集情報記憶部１２１に記憶される「編集ＩＤ」と同一である。「評価値（ＣＴＲ）」に含まれる項目のうち、「１０代」は、ユーザ属性「１０代」のユーザにおける記事コンテンツのＣＴＲを示す。また、「評価値（ＣＴＲ）」に含まれる項目のうち、ユーザ属性「男性」は、「男性」のユーザにおける記事コンテンツのＣＴＲを示す。
【００４８】
すなわち、図５の例では、編集ＩＤ「ＥＤ１」によって示される記事コンテンツ（記事コンテンツＥＤ１）に対する「１０代」ユーザのＣＴＲは「０．０１」である例を示す。なお、評価値情報記憶部１２２は、ＣＴＲ以外の評価値を記憶してもよい。例えば、評価値情報記憶部１２２は、タイトルまたはタイトルに対応する記事本文がユーザによって閲覧された回数（ＰＶ）を編集ＩＤに対応付けて記憶してもよい。
【００４９】
（コンテンツ記憶部１２３について）
コンテンツ記憶部１２３は、今後配信予定の記事コンテンツに対応する記事本文を記憶する記憶部である。ここで、図６に実施形態にかかるコンテンツ記憶部１２３の一例を示す。図６の例では、コンテンツ記憶部１２３は、「コンテンツＩＤ」、「記事本文」といった項目を有する。
【００５０】
「コンテンツＩＤ」は、今後配信予定の記事コンテンツであって、記事コンテンツに含まれる「記事本文」を識別する識別情報を示す。「記事本文」は、今後配信予定の記事コンテンツの具体的な内容を示す文章のテキストデータである。
【００５１】
すなわち、図６の例では、コンテンツＩＤ「ＣＯ１」によって示される記事コンテンツ（例えば、「記事コンテンツＣＯ１」と言い換えることができる）は、記事本文は「ＮＷ１」を含むことを示す。なお、コンテンツ記憶部１２３は、例えば、コンテンツ記憶部１２３に記憶される「記事本文」が、強化学習後のモデルに入力されることにより、タイトルが生成された場合には、生成されたタイトルをさらに記憶してもよい。
【００５２】
（モデル情報記憶部１２４について）
モデル情報記憶部１２４は、学習されたモデルを記憶する記憶部である。例えば、モデル情報記憶部１２４は、所定の要約情報と、この所定の要約情報を評価する評価値とに基づき学習された第２のモデルを記憶する。言い換えれば、モデル情報記憶部１２４は、要約情報が入力された場合に、入力された要約情報に対応する評価値を予測値として出力する第２のモデルを記憶する。また、モデル情報記憶部１２４は、ユーザ属性毎に学習された第２のモデルを記憶する。また、モデル情報記憶部１２４は、第２のモデルを用いて予測された評価値であって、第１のモデルを用いて生成された要約情報に対応する評価値に基づき強化学習された学習後の第１のモデル（強化モデル）を記憶する。ここで、図７に実施形態にかかるモデル情報記憶部１２４の一例を示す。図７の例では、モデル情報記憶部１２４には、第２のモデルを記憶するモデル情報記憶部１２４（ａ）と、強化モデルを記憶するモデル情報記憶部１２４（ｂ）とが含まれる。
【００５３】
モデル情報記憶部１２４（ａ）は、「ユーザ属性」、「モデル」といった項目を有する。「ユーザ属性」は、「１０代男性」といったように、年代と性別を組み合わせたユーザ属性を示す。なお、「ユーザ属性」は、「１０代男性」といったように、複数の属性情報が組合わされるのではなく、年代毎、性別毎に別々であってもよい。「モデル」は、対応する「ユーザ属性」に応じて生成された第２のモデルを示す。
【００５４】
すなわち、図７の例では、ユーザ属性「１０代男性」に対応する情報（例えば、要約情報および評価値）に基づき生成された第２のモデルが「ｍ２ａ」であることを示す。
【００５５】
モデル情報記憶部１２４（ｂ）は、「ユーザ属性」、「モデル」といった項目を有する。「ユーザ属性」は、「１０代男性」といったように、年代と性別を組み合わせたユーザ属性を示す。なお、「ユーザ属性」は、「１０代男性」といったように、複数の属性情報が組合わされるのではなく、年代毎、性別毎に別々であってもよい。「モデル」は、対応する「ユーザ属性」に応じて生成された強化モデルを示す。
【００５６】
すなわち、図７の例では、ユーザ属性「１０代男性」に対応する情報（例えば、要約情報および評価値）に基づき生成された強化モデルが「Ｍ１ａ」であることを示す。
【００５７】
（キーワード記憶部１２５について）
キーワード記憶部１２５は、これまでに配信された記事コンテンツに含まれるキーワードと、当該キーワードがインターネット上で使用された使用頻度を記憶する記憶部である。本実施形態では、キーワード記憶部１２５は、キーワードがインターネット上で使用された使用頻度として、キーワードがインターネット上で使用された使用回数を記憶するものとする。ここで、図８に実施形態にかかるキーワード記憶部１２５の一例を示す。図８の例では、「キーワード」、「使用頻度（回）」といった項目を有する。また、図８の例では、「使用頻度（回）」は、例えば、「１０代」、「２０代」．．．、「男性」、「女性」．．．といったユーザの属性情報（ユーザ属性）毎に記憶される。このようなことから、実施形態にかかるキーワード記憶部１２５は、各ユーザ属性に対応する使用頻度（回）を、当該ユーザ属性毎に記憶する。
【００５８】
「キーワード」は、これまでに配信された記事コンテンツに含まれていたキーワードを示す。なお、「キーワード」は、これまでに配信された記事コンテンツに含まれていたものではなく、例えば、インターネット上の各種コンテンツに含まれていたものであってもよい。「使用頻度（回）」は、対応する「キーワード」がインターネット上で使用された使用回数を示す。例えば、「使用頻度（回）」は、検索クエリとして使用された使用回数を示す。
【００５９】
すなわち、図８の例では、キーワード「ＫＷ１」が、ユーザ属性「１０代」のユーザによって、所定期間中に「３６０回」使用されたことを示す。
【００６０】
（ユーザ情報記憶部１２６について）
ユーザ情報記憶部１２６は、ユーザに関する各種情報を記憶する記憶部である。ここで、図９に実施形態にかかるユーザ情報記憶部１２６の一例を示す。図９の例では、ユーザ情報記憶部１２６は、「ユーザＩＤ」、「年齢」、「性別」、「住所」といった項目を有する。「ユーザＩＤ」は、ユーザまたは端末装置１０を識別する識別情報を示す。「年齢」は、ユーザの年齢を示す。「性別」は、ユーザの性別を示す。「住所」は、ユーザの居住地を示す。
【００６１】
（制御部１３０について）
図３に戻り、制御部１３０は、ＣＰＵ（Central  Processing  Unit）やＭＰＵ（Micro  Processing  Unit）等によって、学習装置１００内部の記憶装置に記憶されている各種プログラムがＲＡＭを作業領域として実行されることにより実現される。また、制御部１３０は、例えば、ＡＳＩＣ（Application  Specific  Integrated  Circuit）やＦＰＧＡ（Field  Programmable  Gate  Array）等の集積回路により実現される。
【００６２】
図３に示すように、制御部１３０は、取得部１３１と、第１学習部１３２と、第２学習部１３３と、生成部１３４と、抽出部１３５と、配信部１３６とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部１３０の内部構成は、図３に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。また、制御部１３０が有する各処理部の接続関係は、図３に示した接続関係に限られず、他の接続関係であってもよい。
【００６３】
（取得部１３１について）
取得部１３１は、各種情報を取得する。例えば、取得部１３１は、記憶部１２０から情報を取得する。例えば、取得部１３１は、第１学習部１３２によって学習が行われる際に、編集情報記憶部１２１から学習に用いる情報を取得する。また、取得部１３１は、第２学習部１３３によって学習が行われる際に、評価値情報記憶部１２２から学習に用いる情報を取得する。
【００６４】
また、取得部１３１は、第１学習部１３２によって学習が行われる際に、文字情報と当該文字情報に対応する要約情報とに基づき学習された第１のモデルを用いて生成された要約情報を取得する。例えば、取得部１３１は、文字情報と当該文字情報に対応する要約情報との組合せのうち、所定のキーワードを含む文字情報と要約情報との組合せに基づき学習された第１のモデルを用いて生成された要約情報を取得する。具体的には、取得部１３１は、所定のキーワードとして、ユーザによる使用頻度に基づくキーワードを含む組合せに基づき学習された第１のモデルを用いて生成された要約情報を取得する。
【００６５】
例えば、取得部１３１は、文字情報と当該文字情報に対応する要約情報との組合せのうち、文字情報と当該文字情報に対応する要約情報の双方に所定のキーワードを含む組合せに基づき学習された第１のモデルを用いて生成された要約情報を取得してもよい。また、取得部１３１は、文字情報と当該文字情報に対応する要約情報との組合せのうち、文字情報または当該文字情報に対応する要約情報のいずれか一方に、所定のキーワードを含む組合せに基づき学習された第１のモデルを用いて生成された要約情報を取得してもよい。なお、ユーザによる使用頻度に基づくキーワードを含む文字情報とは、例えば、所定期間内での使用回数が所定回数より多いキーワードである。
【００６６】
また、取得部１３１は、モデル情報記憶部１２４からモデルを取得してもよい。例えば、取得部１３１は、モデル情報記憶部１２４から、第１学習部１３２、第２学習部１３３によって学習されたモデルを取得する。
【００６７】
（第１学習部１３２について）
第１学習部１３２は、各素性の重みを学習する。例えば、第１学習部１３２は、各種情報に基づいて、学習により第１のモデル（要約生成モデル）を生成する。例えば、第１学習部１３２は、文字情報と、当該文字情報に対応する要約情報とが対応付けられた情報により、第１のモデルを学習する。
【００６８】
図１の例では、取得部１３１は、記事コンテンツＡＴ１１に示す情報を編集情報記憶部１２１から取得する。例えば、取得部１３１は、記事本文と当該記事本文に対応するタイトルとの組合せのうち、記事本文と当該記事本文に対応するタイトルの双方に所定のキーワードを含む組合せ、あるいは、記事本文と当該記事本文に対応するタイトルとの組合せのうち、記事本文と当該記事本文に対応するタイトルのいずれか一方に、所定のキーワードを含む組合せを取得する。なお、取得部１３１は、所定のキーワードとして、ユーザによる使用頻度に基づくキーワードを含む組合せを取得することができる。例えば、取得部１３１は、所定期間内での使用回数が所定回数より多いキーワードを含む組合せを取得することができる。
【００６９】
このように、ユーザによる使用頻度に基づくキーワードを含む組合せを用いることで、学習装置１００は、ユーザに対する興味を高めることができる要約情報を出力可能な第１のモデルを生成することができる。
【００７０】
例えば、取得部１３１は、キーワード記憶部１２５を参照することにより、所定期間内での使用回数が所定回数より多いキーワードを含む組合せを特定する。そして、取得部１３１は、特定した組み合わせを取得する。ここでは、説明を簡単にするために、取得部１３１は、記事本文ｎｗ１とタイトルｔｌ１との組合せ、記事本文ｎｗ２とタイトルｔｌ２との組合せ、記事本文ｎｗ３とタイトルｔｌ３との組合せを取得したものとする。
【００７１】
このような状態において、第１学習部１３２は、取得部１３１により取得された情報を用いて、要約生成モデルｍ１を学習する。すなわち、第１学習部１３２は、各タイトル（人手で作成されたもの）と、当該タイトルに対応する記事本文との組合せを正例として、例えばタイトルが作成されてないタイトル未知の記事本文であって、未配信の記事本文が入力された場合に、入力された記事本文に対応するタイトルを出力する要約生成モデルｍ１を学習する。例えば、第１学習部１３２は、リカレントニューラルネットワーク等の種々の従来技術を適宜用いて、要約生成モデルｍ１を学習する。
【００７２】
このようなことから、第１のモデルは、文字情報と当該文字情報に対応する要約情報とに基づいて、入力された文字情報に対応する要約情報を出力するよう、コンピュータを機能させるためのモデルである。
【００７３】
例えば、第１学習部１３２は、以下のような疑似学習データを用いてモデルを学習してもよい。例えば、「Ａ駅の人身事故でＢ線が遅延」を係り受け解析して、他の要素は「Ｂ線が遅延」にかかるので、統計情報などを加味して、係り受け木から必要なさそうな部分木をカットして「人身事故で山手線が遅延」などに要約した疑似学習データを用いる。例えば、このような疑似学習データは、種々の従来手法により生成することができる。そして、第１学習部１３２は、疑似学習データを用いて（ニューラルネットワーク）モデルを学習（プリトレーニング）した後、記事コンテンツＡＴ１１に示す情報等を用いて学習することにより、精度の高い要約生成モデルを生成することができる。
【００７４】
また、第１学習部１３２は、第１のモデルに対して強化学習を行うことにより、第１のモデルが強化された強化モデルを生成する。この手法については後述する。
【００７５】
（第２学習部１３３について）
第２学習部１３３は、各素性の重みを学習する。例えば、第２学習部１３３は、各種情報に基づいて、学習により第２のモデル（評価値予測モデル）を生成する。例えば、第２学習部１３３は、文字情報に対応する要約情報と、当該要約情報を評価する評価値であって当該要約情報に対するユーザの閲覧に関する評価値（例えば、ＣＴＲ）とに基づいて、第２のモデルを生成する。より具体的には、第２学習部１３３は、文字情報に対応する要約情報と、当該要約情報に含まれるキーワードに対するユーザの使用頻度と、当該要約情報を評価する評価値とに基づいて、第２のモデルを生成する。
【００７６】
また、第２学習部１３３は、ユーザ属性毎に第２のモデルを学習することにより、各ユーザ属性に応じた第２のモデルを生成する。例えば、第２学習部１３３は、ユーザ属性「１０代男性」に対応する第２のモデル、ユーザ属性「２０代女性」に対応する第２のモデル、ユーザ属性「２０代男性」に対応する第２のモデル、をそれぞれ生成する。
【００７７】
図１の例では、取得部１３１は、評価値ＮＯ１１に示す情報を評価情報記憶部１２２から取得する。例えば、取得部１３１は、タイトルと当該タイトルに対応する評価値との組合せを評価情報記憶部１２２から取得する。例えば、このとき取得部１３１は、タイトルのうち、ユーザによる使用頻度に基づくキーワード（例えば、所定期間内での使用回数が所定回数より多いキーワード）を含むタイトルと、かかる使用頻度（使用回数）と、当該タイトルに対応する評価値との組合せを評価情報記憶部１２２から取得する。取得部１３１は、使用頻度（使用回数）については、キーワード記憶部１２５から取得する。ここでは、説明を簡単にするために、取得部１３１は、タイトルｔｌ１とタイトルｔｌ１に対応するＣＴＲの組合せ、タイトルｔｌ２とタイトルｔｌ２に対応するＣＴＲの組合せ、タイトルｔｌ３とタイトルｔｌ３に対応するＣＴＲの組合せを取得したものとする。
【００７８】
このような状態において、第２学習部１３３は、例えば、ユーザ属性「１０代男性」に対応する評価値予測モデルｍ２ａ（第２のモデルの一例）を学習する場合、各タイトルについて、各タイトルと、各タイトルに含まれるキーワードの使用回数と、各タイトルがユーザ属性「１０代男性」を有するユーザに配信されたことによるＣＴＲとの組合せを正例として、例えば、ユーザ属性「１０代男性」に配信された場合の評価値が未知のタイトルであって、未配信のタイトルが入力された場合に、入力されたタイトルに対応するＣＴＲを出力する評価値予測モデルｍ２ａを学習する。
【００７９】
同様にして、第２学習部１３３は、例えば、ユーザ属性「１０代女性」に対応する評価値予測モデルｍ２ｂ（第２のモデルの一例）を学習する場合、各タイトルについて、各タイトルと、各タイトルに含まれるキーワードの使用回数と、各タイトルがユーザ属性「１０代女性」を有するユーザに配信されたことによるＣＴＲとの組合せを正例として、例えば、ユーザ属性「１０代女性」に配信された場合の評価値が未知のタイトルであって、未配信のタイトルが入力された場合に、入力されたタイトルに対応するＣＴＲを出力する評価値予測モデルｍ２ｂを学習する。
【００８０】
このようなことから、第２のモデルは、文字情報に対応する要約情報と当該要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値とに基づいて、入力された要約情報に対応する評価値を出力するよう、コンピュータを機能させるためのモデルである。
【００８１】
なお、第２学習部１３３は、上記の様に各ユーザ属性毎に第２のモデルを学習する場合、使用回数がより多いキーワードを含むタイトルほど、より高いＣＴＲが予測されるように第２のモデルを学習してもよい。
【００８２】
（生成部１３４について）
生成部１３４は、第１のモデルおよび第２のモデルを用いて対象の情報を生成する。例えば、生成部１３４は、文字情報を第１のモデルの入力することにより、入力した文字情報に対応する要約情報を生成する。例えば、生成部１３４は、今後配信予定（未配信）の記事本文が取得部１３１によってコンテンツ記憶部１２３から取得された場合に、取得された記事本文を第１のモデルの入力することにより、入力した記事本文に対応する要約情報を生成する。また、生成部１３４は、第１のモデルを用いて生成した要約情報を第２のモデルに入力することにより、入力した要約情報に対応する評価値を生成する（予測する）。なお、このとき取得部１３１は、コンテンツ記憶部１２３に記憶される文字情報のうち、所定期間におけるユーザの使用回数が所定回数より多いキーワードを含む文字情報を取得してもよい。
【００８３】
また、生成部１３４は、強化学習により得られた強化モデルを用いて、要約情報を生成する。例えば、生成部１３４は、端末装置１０からコンテンツ（図１の例では、ウェブページＰ１）の配信要求が受信された場合に、配信要求送信元のユーザのユーザ属性に対応する強化モデルを用いて、今後配信予定（未配信）の記事本文から記事本文に対応する要約情報を生成する。
【００８４】
（第１学習部１３２による強化学習ついて）
第１学習部１３２は、取得部１３１により取得された要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値に基づいて、既に生成されている第１のモデルに対して強化学習を行う。例えば、第１学習部１３２は、取得部１３１により取得された要約情報に対応する評価値として、ユーザ属性毎の評価値に基づいて、当該ユーザ属性毎に第１のモデルを強化学習する。この点について、一例を用いて説明する。
【００８５】
例えば、取得部１３１は、コンテンツ記憶部１２３から記事本文ＮＷ１、ＮＷ２、ＮＷ３（記事本文ＮＷ１〜ＮＷ３）を取得する。生成部１３４は、取得部１３１により取得された記事本文ＮＷ１〜ＮＷ３それぞれを要約生成モデルｍ１に入力することにより、記事本文ＮＷ１〜ＮＷ３それぞれに対応するタイトルを生成する。例えば、生成部１３４は、記事本文ＮＷ１に対応するタイトルとして、タイトルＴＬ１１、ＴＬ１２、ＴＬ１３（タイトルＴＬ１１〜ＴＬ１３）を生成したものとする。このように、要約生成モデルｍ１を用いた場合、１つの記事本文から複数のタイトルが生成される場合がある。
【００８６】
次に、生成部１３４は、タイトルＴＬ１１〜ＴＬ１３を各ユーザ属性に対応する評価値予測モデルに入力することにより、タイトルＴＬ１１〜ＴＬ１３それぞれついて、ユーザ属性毎のＣＴＲを予測する。例えば、生成部１３４は、ユーザ属性「１０代男性」に対応する評価値予測モデルｍ２ａに対して、タイトルＴＬ１１を入力することにより、タイトルＴＬ１１がユーザ属性「１０代男性」を有するユーザに配信された場合におけるＣＴＲを予測する。また、生成部１３４は、ユーザ属性「１０代女性」に対応する評価値予測モデルｍ２ｂに対して、タイトルＴＬ１１を入力することにより、タイトルＴＬ１１がユーザ属性「１０代女性」を有するユーザに配信された場合におけるＣＴＲを予測する。
【００８７】
また、生成部１３４は、タイトルＴＬ１２、ＴＬ１３についても同様に、ユーザ属性毎のＣＴＲを予測する。また、生成部１３４が、記事本文ＮＷ１に対応するタイトルからユーザ属性毎のＣＴＲを予測する例を挙げたが、生成部１３４は、記事本文ＮＷ２およびＮＷ３について生成した各タイトルについても同様に、ユーザ属性に対応する評価値予測モデルを用いて、ユーザ属性毎のＣＴＲを予測する。
【００８８】
このような状態において、第１学習部１３２は、生成部１３４により生成されたユーザ属性毎のＣＴＲを要約生成モデルｍ１にフィードバックすることにより、よりＣＴＲが高くなるようなタイトルとはどのようなタイトルであるかを学習する。タイトルは、複数の単語あるいは形態素から構成される文章であるが、第１学習部１３２は、どのような単語の組合せであればよりＣＴＲが高くなるかを学習する。また、第１学習部１３２は、1つの単語の前後にどのような単語が存在すればよりＣＴＲが高くなるかを学習する。このようにして、第１学習部１３２は、よりＣＴＲが高くなるようなタイトルを生成するよう要約生成モデルｍ１を強化学習する。
【００８９】
より具体的には、第１学習部１３２は、ユーザ属性毎の情報を用いて、ユーザ属性毎によりＣＴＲが高くなるようなタイトルを生成するよう要約生成モデルｍ１を強化学習する。そして、第１学習部１３２は、ユーザ属性毎の強化モデルを生成する。
【００９０】
例えば、第１学習部１３２は、ユーザ属性「１０代男性」に対応する評価値予測モデルｍ２ａから予測されたＣＴＲに基づいて、ユーザ属性「１０代男性」に対応する強化モデルＭ１ａを生成する。また、第１学習部１３２は、ユーザ属性「１０代女性」に対応する評価値予測モデルｍ２ｂから予測されたＣＴＲに基づいて、ユーザ属性「１０代女性」に対応する強化モデルＭ１ｂを生成する。
【００９１】
以下では、図１０を用いて、強化学習についてより詳細に説明する。図１０は、強化学習にかかる学習処理を模式的に示す図である。図１０では、コンテンツ記憶部１２３に記憶される記事本文ＮＷ１を用いた強化学習を一例に挙げて説明する。
【００９２】
生成部１３４は、取得部１３１により取得された記事本文ＮＷ１を要約生成モデルｍ１に入力することにより、記事本文ＮＷ１に対応するタイトルを生成する。なお、記事本文ＮＷ１は、図１０に示すように、「株式会社○○はＭ月Ｄ日、人工知能（ＡＩ）を活用したスマートフォン向けの配車アプリの実証実験を実用化へ向けて始めると発表した。」といった文章であるものとする。ここで、例えば、生成部１３４は、記事本文ＮＷ１に対応するタイトルとして、タイトルＴＬ１１、ＴＬ１２、ＴＬ１３（タイトルＴＬ１１〜ＴＬ１３）を生成したものとする。図１０の例では、タイトルＴＬ１１は「ＡＩ活用した配車  実用化へ実証実験」、タイトルＴＬ１２は「株式会社○○  配車アプリの実証実験」、タイトルＴＬ１３は「ＡＩ活用した配車アプリの実用化」である。
【００９３】
次に、生成部１３４は、タイトルＴＬ１１〜ＴＬ１３をユーザ属性「１０代男性」に対応する評価値予測モデルｍ２ａに対して入力することにより、タイトルＴＬ１１〜ＴＬ１３それぞれがユーザ属性「１０代男性」を有するユーザに配信された場合におけるＣＴＲを予測する。図１０の例では、生成部１３４は、タイトルＴＬ１１に対応するＣＴＲとしてＣＴＲ「Ｘ１１」、タイトルＴＬ１２に対応するＣＴＲとしてＣＴＲ「Ｘ１２」、タイトルＴＬ１３に対応するＣＴＲとしてＣＴＲ「Ｘ１３」を予測したものとする。
【００９４】
このような状態において、例えば、生成部１３４は、さらに記事本文ＮＷ１からタイトルを生成する。例えば、生成部１３４は、記事本文ＮＷ１に対して形態素解析を行い、形態解析によって得られた複数の単語を組み合わせることにより、タイトルを生成する。例えば、生成部１３４は、図１０に示すようなタイトルＴＬ１４を生成する。また、生成部１３４は、タイトルＴＬ１４を評価値予測モデルｍ２ａに入力することにより、タイトルＴＬ１４に対するＣＴＲを予測する。図１０の例では、生成部１３４は、タイトルＴＬ１４に対応するＣＴＲとしてＣＴＲ「Ｘ１４」を予測したものとする。
【００９５】
このように、第１学習部１３２は、生成部１３４に対してさらにタイトルを生成する処理を繰り返させることで、生成されたタイトルについて予測されたＣＴＲを要約生成モデルｍ１にフィードバックする。そして、第１学習部１３２は、どのようなタイトルであればＣＴＲが最大値に近付くか学習する。例えば、第１学習部１３２は、どのような単語をどのような順序で組み合わせることで、ＣＴＲが最大値に近付くか学習する。例えば、第１学習部１３２は、生成部１３４により生成されたタイトルのうち、予測されたＣＴＲが所定値より高いＣＴＲが予測されたタイトルについて、リカレントニューラルネットワークにおける報酬を与える。
【００９６】
なお、これまでの例では、学習装置１００が、コンテンツ記憶部１２３に記憶されるコンテンツ、すなわち未配信のコンテンツについて予測された評価値を用いて強化学習を行う例を示した。しかし、学習装置１００は、編集情報記憶部１２１に記憶されるコンテンツ、すなわちこれまでに配信されたコンテンツについて予測された評価値を用いて強化学習を行ってもよい。
【００９７】
（抽出部１３５について）
抽出部１３５は、第１学習部１３２により学習された第１のモデルを用いて生成された要約情報の中から所定の要約情報を配信対象の要約情報として抽出する、具体的には、抽出部１３５は、強化学習された第１のモデル（強化モデル）を用いて生成された要約情報の中から所定の要約情報を配信対象の要約情報として抽出する。
【００９８】
例えば、抽出部１３５は、第１のモデルを用いて生成された要約情報を、第２のモデルに適用することにより予測された評価値に基づいて、第１のモデルを用いて生成された要約情報の中から所定の要約情報を抽出する。例えば、抽出部１３５は、強化学習された第１のモデル（強化モデル）を用いて生成された要約情報を、第２のモデルに適用することにより予測された評価値に基づいて、強化モデルを用いて生成された要約情報の中から所定の要約情報を抽出する。
【００９９】
また、例えば、抽出部１３５は、第１のモデル（強化モデル）のうち要約情報が提供される対象ユーザのユーザ属性に応じた第１のモデルを用いて生成された要約情報を、第２のモデルのうち当該対象ユーザのユーザ属性に応じた第２のモデルに適用することにより予測された評価値に基づいて、当該対象ユーザのユーザ属性に応じた第１のモデル（強化モデル）を用いて生成された要約情報の中から所定の要約情報を抽出する。
【０１００】
また、抽出部１３５は、所定の要約情報として、第１のモデル（強化モデル）を用いて生成された要約情報のうち、第２のモデルに適用することにより予測された評価値がより高い要約情報を抽出する。また、抽出部１３５は、所定の要約情報として、第１のモデル（強化モデル）を用いて生成された要約情報のうち、使用頻度がより高いキーワードを含む要約情報を抽出する。
【０１０１】
例えば、これまでの例の通り、学習装置１００が、第１のモデル、ユーザ属性毎の第２のモデル、および、強化学習後の第１のモデルであってユーザ属性毎の第１のモデル（ユーザ属性毎の強化モデル）を生成済みであるものとする。このような状態において、学習装置１００は、ユーザＵ１からコンテンツの配信要求を受信したものとする。例えば、学習装置１００は、図１のように、ユーザＵ１からウェブページＰ１の配信要求を受信したものとする。
【０１０２】
ここで、例えば、抽出部１３５は、ユーザ情報記憶部１２６を参照し、ユーザＵ１のユーザ属性を特定する。図９の例では、抽出部１３５は、ユーザＵ１のユーザ属性を「１０代男性」と特定する。そして、抽出部１３５は、コンテンツ記憶部１２３から、例えば、全ての記事本文を取得し、取得した各記事本文をユーザ属性を「１０代男性」に対応する強化モデルＭ１ａに入力することにより、各記事本文に対応するタイトルを生成する。また、抽出部１３５は、生成された各タイトルをユーザ属性を「１０代男性」に対応する評価値予測モデルｍ２ａに入力することにより、各タイトルに対応するＣＴＲを予測する。
【０１０３】
例えば、タイトルを３つ抽出するよう予め決められているとすると、抽出部１３５は、ＣＴＲを予測した各タイトルの中から、ＣＴＲが高い上位３つのタイトルを配信対象として抽出する。また、抽出部１３５は、ＣＴＲを予測した各タイトルの中から、使用頻度がより高いキーワードとして、例えば、ユーザによる使用回数が所定回数より多いキーワードを含むタイトルを配信対象として抽出してもよい。また、抽出部１３５は、ユーザによる使用回数が所定回数より多いキーワードをより多く含むタイトルを優先的に配信対象として抽出してもよい。
【０１０４】
また、抽出部１３５は、ユーザＵ１と同一または類似するユーザ属性を有するユーザによって使用されたキーワードのうち、使用回数がより多いキーワードを含むタイトルを抽出してもよい。なお、ここでは、抽出部１３５は、図１に示す通り、３つのタイトルとして、タイトルＴＬ１１１、ＴＬ２１１、ＴＬ３１１を抽出したものとする。
【０１０５】
（配信部１３６について）
配信部１３６は、コンテンツを配信する。具体的には、配信部１３６は、端末装置１０から送信された配信要求に応じて、端末装置１０にコンテンツを配信する。例えば、配信装置１３６は、配信対象のコンテンツを生成し、生成したコンテンツを端末装置１０に配信する。
【０１０６】
例えば、配信部１３６は、上記の通り、抽出部１３５によりタイトルＴＬ１１１、ＴＬ２１１、ＴＬ３１１が抽出された場合には、これら３つのタイトルが一覧表示されるウェブページＰ１を生成する。そして、配信部１３６は、生成したウェブページＰ１を配信要求送信元の端末装置１０に配信する。
【０１０７】
〔４．処理手順（モデルの学習）〕
次に、図１１を用いて、実施形態にかかる学習装置１００が実行する学習処理の手順について説明する。図１１は、実施形態にかかる学習装置１００による学習処理手順を示すフローチャートである。
【０１０８】
まず、学習装置１００は、学習に用いる情報を取得する（ステップＳ１０１）。例えば、学習装置１００は、学習に用いる情報として、これまでに配信されたコンテンツ（例えば、記事コンテンツ）に含まれる文字情報（例えば、記事本文）と、要約情報（例えば、タイトル）を取得する。次に、学習装置１００は、第１のモデル（要約生成モデル）および第２のモデル（評価値予測モデル）を生成する（ステップＳ１０２）。例えば、学習装置１００は、文字情報と当該文字情報に対応する要約情報とに基づいて、第１のモデルを生成する。また、学習装置１００は、文字情報に対応する要約情報と当該要約情報を評価する評価値（例えば、ＣＴＲ）とに基づいて、第２のモデルを生成する。
【０１０９】
次に、学習装置１００は、学習に用いる情報を取得する（ステップＳ１０３）。具体的には、学習装置１００は、強化学習に用いる情報として、第１のモデルを用いて生成された要約情報を取得する。例えば、学習装置１００は、未配信の文字情報を第１のモデルに適用することにより生成された要約情報を取得する。
【０１１０】
そして、学習装置１００は、強化学習により強化モデルを生成する（ステップＳ１０４）。例えば、学習装置１００は、ステップＳ１０３で取得した要約情報を第２のモデルに適用することにより要約情報に対応する評価値を予測する。そして、学習装置１００は、予測した評価値に基づいて、第１のモデルに対して強化学習を行うことにより、第１のモデルが強化された強化モデルを生成する。
【０１１１】
〔５．処理手順（コンテンツ配信）〕
次に、図１２を用いて、実施形態にかかる学習装置１００が実行する配信処理の手順について説明する。図１２は、実施形態にかかる学習装置１００による配信処理手順を示すフローチャートである。
【０１１２】
まず、学習装置１００は、コンテンツの配信要求を受信したか否かを判定する（ステップＳ２０１）。学習装置１００は、配信要求を受信していないと判定した場合には（ステップＳ２０１；Ｎｏ）、受信するまで待機する。一方、学習装置１００は、配信要求を受信したと判定した場合には（ステップＳ２０１；Ｙｅｓ）、配信要求送信元のユーザのユーザ属性を特定する（ステップＳ２０２）。
【０１１３】
次に、学習装置１００は、ステップＳ２０２で特定したユーザ属性に応じた強化モデルを取得する（ステップＳ２０３）。次に、学習装置１００は、取得した強化モデルを用いて、要約情報を生成する（ステップＳ２０４）。例えば、学習装置１００は、未配信のコンテンツ（例えば、記事コンテンツ）に含まれる文字情報を強化モデルに適用することにより、要約情報を生成する。また、学習装置１００は、生成した要約情報を第２のモデルに適用することにより、要約情報に対応する評価値を予測する。
【０１１４】
このような状態において、学習装置１００は、ステップＳ２０４で生成した要約情報の中から、配信対象の要約情報を抽出する（ステップＳ２０５）。そして、学習装置１００は、抽出した要約情報を配信要求送信元の端末装置１０に配信する（ステップＳ２０６）。
【０１１５】
〔６．変形例〕
上記実施形態にかかる学習装置１００は、上記実施形態以外にも種々の異なる形態にて実施されてよい。そこで、以下では、学習装置１００の他の実施形態について説明する。
【０１１６】
〔６−１．評価値の実績値を用いた強化学習〕
上記実施形態では、学習装置１００が、第１のモデルを用いて生成した要約情報を第２にモデルに適用することにより、当該要約情報について予測した評価値に基づいて、第１のモデルを強化学習する例を示した。しかし、第１学習部１３２は、要約情報を評価する評価値の実績値に基づいて、第１のモデルを学習してもよい。例えば、第１学習部１３２は、取得部１３１により取得された要約情報を評価する評価値の実績値に基づいて、第１のモデルを強化学習する。
【０１１７】
図１の例では、学習装置１００は、例えば、コンテンツ記憶部１２３に記憶される未配信の記事コンテンツを実際に配信してみることにより、まず、各記事コンテンツに対する評価値の実績値を算出する。例えば、学習装置１００は、各記事コンテンツに含まれる要約情報に対するＣＴＲの実績値を算出する。第１学習部１３２は、このように算出されたＣＴＲの実績値を第１のモデルにフィードバックすることにより、第１のモデルを強化学習する。なお、第１学習部１３２は、要約情報を第２のモデルに適用することにより予測されたＣＴＲも第１のモデルにフィードバックすることにより、ＣＴＲの実績値および予測値に基づいて、強化学習を行ってもよい。
【０１１８】
これにより、実施形態にかかる学習装置１００は、評価値の予測値だけでなく実績値も用いて強化学習することができるため、強化学習の精度を高めることができる。
【０１１９】
〔６−２．学習に用いる情報〕
上記実施形態では、学習装置１００が、文字情報と当該文字情報に対応する要約情報との組合せのうち、使用頻度に基づくキーワード（例えば、使用回数が所定回数より多いキーワード）を含む組合せを取得し、この組合せに基づいて、第１のモデルを生成する例を示した。しかし、取得部１３１は、文字情報または当該文字情報に対応する要約情報に対する評価値に基づいて、第１のモデルを生成するための文字情報と当該文字情報に対応する要約情報とを取得してもよい。例えば、取得部１３１は、文字情報と当該文字情報に対応する要約情報との組合せのうち、文字情報または要約情報のいずれか一方の評価値（例えば、ＣＴＲ）が所定値より高い組合せを取得する。そして、第１学習部１３２は、このように取得された組合せに基づいて、第１のモデルを生成する。
【０１２０】
評価値が高いコンテンツほど人気があるコンテンツといえる、実施形態にかかる学習装置１００は、ユーザによる人気度を一定水準以上有するコンテンツを用いて、第１のモデルを生成することができる。この結果、学習装置１００は、ユーザによる人気度を一定水準以上有する要約情報を生成することができる。また、学習装置１００は、ユーザによる人気度を一定水準以上有するコンテンツを用いて生成された第１のモデルに対する強化学習により、ユーザによる人気度を一定水準以上有する要約情報を生成することができる。
【０１２１】
なお、学習装置１００は、強化学習を行うにあたっても、例えば、評価値（例えば、ＣＴＲ）が所定値より高い文字情報あるいは要約情報を用いてもよい。
【０１２２】
〔６−３．コンテンツ配信について〕
上記実施形態では、学習装置１００が、ユーザから配信要求を受信した場合に、ユーザに適した要約情報を生成し、生成した要約情報が一覧表示されるコンテンツを配信する例を示した。しかし、学習装置１００は、配信要求を受信するよりも前に、予め、各ユーザ属性に応じた要約情報を強化モデルを用いて生成しておいてもよい。かかる場合、学習装置１００は、配信要求を受信した場合に、要約情報を生成する必要が無いため、配信要求を受信してから配信までに要する時間を短縮することができる。
【０１２３】
〔７．ハードウェア構成〕
また、上述してきた実施形態にかかる学習装置１００は、例えば図１３に示すような構成のコンピュータ１０００によって実現される。図１３は、学習装置１００の機能を実現するコンピュータ１０００の一例を示すハードウェア構成図である。コンピュータ１０００は、ＣＰＵ１１００、ＲＡＭ１２００、ＲＯＭ１３００、ＨＤＤ１４００、通信インターフェイス（Ｉ／Ｆ）１５００、入出力インターフェイス（Ｉ／Ｆ）１６００、及びメディアインターフェイス（Ｉ／Ｆ）１７００を有する。
【０１２４】
ＣＰＵ１１００は、ＲＯＭ１３００又はＨＤＤ１４００に格納されたプログラムに基づいて動作し、各部の制御を行う。ＲＯＭ１３００は、コンピュータ１０００の起動時にＣＰＵ１１００によって実行されるブートプログラムや、コンピュータ１０００のハードウェアに依存するプログラム等を格納する。
【０１２５】
ＨＤＤ１４００は、ＣＰＵ１１００によって実行されるプログラム、および、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス１５００は、通信網５０を介して他の機器からデータを受信してＣＰＵ１１００へ送り、ＣＰＵ１１００が生成したデータを、通信網５０を介して他の機器へ送信する。
【０１２６】
ＣＰＵ１１００は、入出力インターフェイス１６００を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。ＣＰＵ１１００は、入出力インターフェイス１６００を介して、入力装置からデータを取得する。また、ＣＰＵ１１００は、生成したデータを、入出力インターフェイス１６００を介して出力装置へ出力する。
【０１２７】
メディアインターフェイス１７００は、記録媒体１８００に格納されたプログラム又はデータを読み取り、ＲＡＭ１２００を介してＣＰＵ１１００に提供する。ＣＰＵ１１００は、かかるプログラムを、メディアインターフェイス１７００を介して記録媒体１８００からＲＡＭ１２００上にロードし、ロードしたプログラムを実行する。記録媒体１８００は、例えばＤＶＤ（Digital  Versatile  Disc）、ＰＤ（Phase  change  rewritable  Disk）等の光学記録媒体、ＭＯ（Magneto-Optical  disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
【０１２８】
例えば、コンピュータ１０００が実施形態にかかる学習装置１００として機能する場合、コンピュータ１０００のＣＰＵ１１００は、ＲＡＭ１２００上にロードされたプログラムを実行することにより、制御部１３０の機能を実現する。また、ＨＤＤ１４００には、記憶部１２０内のデータが格納される。コンピュータ１０００のＣＰＵ１１００は、これらのプログラムを、記録媒体１８００から読み取って実行するが、他の例として、他の装置から、通信網５０を介してこれらのプログラムを取得してもよい。
【０１２９】
〔８．その他〕
上記実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
【０１３０】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
【０１３１】
また、上述してきた各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
【０１３２】
〔９．効果〕
実施形態にかかる学習装置１００は、取得部１３１と、第１学習部１３２（学習部に相当）とを有する。取得部１３１は、文字情報と当該文字情報に対応する要約情報とに基づき学習された第１のモデルを用いて生成された要約情報を取得する。第１学習部１３２は、取得部１３１により取得された要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値に基づいて、第１のモデルを学習する。
【０１３３】
これにより、実施形態にかかる学習装置１００は、ユーザに対する興味を効果的に高めることができる要約情報を生成することができる。
【０１３４】
また、取得部１３１は、文字情報と当該文字情報に対応する要約情報との組合せのうち、所定のキーワードを含む文字情報と要約情報との組合せに基づき学習された第１のモデルを用いて生成された要約情報を取得する。
【０１３５】
これにより、実施形態にかかる学習装置１００は、ユーザに対する興味を効果的に高めることができる要約情報を生成することができる。
【０１３６】
また、取得部１３１は、所定のキーワードとして、ユーザによる使用頻度に基づくキーワードを含む組合せに基づき学習された第１のモデルを用いて生成された要約情報を取得する。
【０１３７】
第１のモデルを用いて生成された要約情報は、ユーザに対する興味を高めることができる要約情報であるため、実施形態にかかる学習装置１００は、このような要約情報を強化学習に用いることができるため、強化学習後の第１のモデルもユーザに対する興味を効果的に高めることができる要約情報を生成可能なモデルとすることができる。
【０１３８】
また、第１学習部１３２は、文字情報に対応する要約情報と当該要約情報を評価する評価値であって、当該要約情報に対するユーザの閲覧に関する評価値とに基づき学習された第２のモデルを用いて取得部１３１により取得された要約情報について予測された評価値に基づいて、第１のモデルを学習する。
【０１３９】
これにより、実施形態にかかる学習装置１００は、評価値がより高くなるような要約情報を生成するよう第１のモデルに対して強化学習することができるため、強化学習後の第１のモデルを用いて、評価値がより高い要約情報、すなわちユーザに対する興味を効果的に高めることができる要約情報を生成することができる。
【０１４０】
また、第１学習部１３２は、文字情報に対応する要約情報と、当該要約情報に含まれるキーワードに対するユーザの使用頻度と、要約情報を評価する評価値とに基づき学習された第２のモデルを用いて取得部により取得された要約情報について予測された評価値に基づいて、第１のモデルを学習する。
【０１４１】
これにより、実施形態にかかる学習装置１００は、ユーザの興味を引き付け易いキーワードを含む要約情報を生成するよう第１のモデルに対して強化学習することができるため、強化学習後の第１のモデルを用いて、ユーザに対する興味を効果的に高めることができる要約情報を生成することができる。
【０１４２】
また、第１学習部１３２は、取得部１３１により取得された要約情報を評価する評価値の実績値に基づいて、第１のモデルを学習する。
【０１４３】
これにより、実施形態にかかる学習装置１００は、評価値の予測値だけでなく実績値も用いて強化学習することができるため、強化学習の精度を高めることができる。
【０１４４】
また、第１学習部１３２は、取得部１３１により取得された要約情報を評価する評価値として、ユーザ属性毎の評価値に基づいて、当該ユーザ属性毎に第１のモデルを学習する。
【０１４５】
これにより、実施形態にかかる学習装置１００は、各ユーザ属性に適した要約情報を生成することができるため、ユーザに対する興味を効果的に高めることができる要約情報を生成することができる。
【０１４６】
また、第１学習部１３２は、ユーザ属性毎の第２のモデルを用いて予測された評価値であってユーザ属性毎の評価値に基づいて、当該ユーザ属性毎に第１のモデルを学習する。
【０１４７】
これにより、実施形態にかかる学習装置１００は、各ユーザ属性に適した要約情報を生成することができるため、ユーザに対する興味を効果的に高めることができる要約情報を生成することができる。
【０１４８】
また、取得部１３１は、文字情報として記事コンテンツに含まれる本文と、文字情報に対応する要約情報として当該本文に対応する見出しを取得する。
【０１４９】
これにより、実施形態にかかる学習装置１００は、ユーザに対する興味を効果的に高めることができる見出しを生成することができる。
【０１５０】
また、実施形態にかかる学習装置１００は、抽出部１３５を有する。抽出部１３５は、第１学習部１３２により学習された第１のモデルを用いて生成された要約情報の中から所定の要約情報を配信対象の要約情報として抽出する。
【０１５１】
これにより、実施形態にかかる学習装置１００は、強化学習された第１のモデルを用いて生成された要約情報をユーザに提供することができる。
【０１５２】
また、抽出部１３５は、第１のモデルを用いて生成された要約情報を、第２のモデルに適用することにより予測された評価値に基づいて、第１のモデルを用いて生成された要約情報の中から所定の要約情報を抽出する。
【０１５３】
これにより、実施形態にかかる学習装置１００は、評価値のより高い要約情報をユーザに提供することができるため、ユーザに対する興味を効果的に高めることができる要約情報を提供することができる。
【０１５４】
また、抽出部１３５は、第１のモデルのうち要約情報が提供される対象ユーザのユーザ属性に応じた第１のモデルを用いて生成された要約情報を、第２のモデルのうち当該対象ユーザのユーザ属性に応じた第２のモデルに適用することにより予測された評価値に基づいて、当該対象ユーザのユーザ属性に応じた第１のモデルを用いて生成された要約情報の中から所定の要約情報を抽出する。
【０１５５】
これにより、実施形態にかかる学習装置１００は、対象ユーザのユーザ属性により適した要約情報を対象ユーザに提供することができる。
【０１５６】
また、抽出部１３５は、第１のモデルを用いて生成された要約情報のうち、第２のモデルに適用することにより予測された評価値がより高い要約情報を抽出する。
【０１５７】
これにより、実施形態にかかる学習装置１００は、ユーザに対する興味を高めることができる要約情報を提供することができる。
【０１５８】
また、抽出部１３５は、第１のモデルを用いて生成された要約情報のうち、使用頻度がより高いキーワードを含む要約情報を抽出する。
【０１５９】
これにより、実施形態にかかる学習装置１００は、ユーザに対する興味を高めることができる要約情報を提供することができる。
【符号の説明】
【０１６０】
１  学習処理システム
１０  端末装置
１００  学習装置
１２１  編集情報記憶部
１２２  評価値情報記憶部
１２３  コンテンツ記憶部
１２４  モデル情報記憶部
１２５  キーワード記憶部
１２６  ユーザ情報記憶部
１３１  取得部
１３２  第１学習部
１３３  第２学習部
１３４  生成部
１３５  抽出部
１３６  配信部
【図１】
2019053558.tif 000003
【図２】
2019053558.tif 000004
【図３】
2019053558.tif 000005
【図４】
2019053558.tif 000006
【図５】
2019053558.tif 000007
【図６】
2019053558.tif 000008
【図７】
2019053558.tif 000009
【図８】
2019053558.tif 000010
【図９】
2019053558.tif 000011
【図１０】
2019053558.tif 000012
【図１１】
2019053558.tif 000013
【図１２】
2019053558.tif 000014
【図１３】
2019053558.tif 000015