(57)【要約】【課題】精度が高いテキストを生成できるようにすること。【解決手段】本願に係る学習装置は、取得部と、学習部と、を備える。取得部は、第１のテキストと、第１のテキストの属性を示す属性情報と、第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する。また、学習部は、第１のテキストと属性情報と第２のテキストとに基づいて、入力テキストから所定の条件を満たす出力テキストを生成するモデルの学習を行う。【選択図】図１
2019056973.tif 000002
【特許請求の範囲】
【請求項１】
第１のテキストと、前記第１のテキストの属性を示す属性情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得部と、
前記第１のテキストと前記属性情報と前記第２のテキストとに基づいて、入力テキストから前記所定の条件を満たす出力テキストを生成するモデルの学習を行う学習部と、
を備えることを特徴とする学習装置。
【請求項２】
前記取得部は、前記第１のテキストと、前記属性情報と、前記第２のテキストと、前記第２のテキストの文体を示す文体情報と、を取得し、
前記学習部は、前記第１のテキストと前記属性情報と前記文体情報を入力データ、前記第２のテキストを正解データとして前記モデルの学習を行う、
ことを特徴とする請求項１に記載の学習装置。
【請求項３】
前記取得部は、前記文体情報として、どの配信主体の文体かを示す情報、或いは、どの情報媒体の文体かを示す情報を取得する、
ことを特徴とする請求項２に記載の学習装置。
【請求項４】
前記取得部は、前記文体情報として、どの利用者属性に向けたテキストかを示す情報を取得する、
ことを特徴とする請求項２に記載の学習装置。
【請求項５】
前記取得部は、前記第１のテキストとして所定の配信主体からのテキストを取得し、前記属性情報として前記所定の配信主体を示す情報を取得する、
ことを特徴とする請求項１〜４のいずれか１項に記載の学習装置。
【請求項６】
前記取得部は、前記第１のテキストとして所定の情報媒体からのテキストを取得し、前記属性情報として前記所定の情報媒体を示す情報を取得する、
ことを特徴とする請求項１〜５のいずれか１項に記載の学習装置。
【請求項７】
前記学習部は、前記入力テキストから前記入力テキストが有する特徴を示す特徴情報を生成するエンコーダと、前記特徴情報から前記出力テキストを生成するデコーダと、を含む前記モデルの学習を行う、
ことを特徴とする請求項１〜６のいずれか１項に記載の学習装置。
【請求項８】
第１のテキストと該第１のテキストの属性を示す属性情報と前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習したモデルに入力される入力テキストと、前記入力テキストの属性を示す属性情報と、を取得する取得部と、
前記モデルに前記入力テキストと該入力テキストの属性情報とを入力することにより、前記入力テキストに対応するテキストであって前記所定の条件を満たす出力テキストを生成する生成部と、
を備えることを特徴とする生成装置。
【請求項９】
前記取得部は、前記第１のテキストと該第１のテキストの属性を示す属性情報と前記第２のテキストの文体を示す文体情報とを入力データ、前記第１のテキストに対応するテキストであって所定の条件を満たす前記第２のテキストを正解データとして学習したモデルに入力される入力テキストと、前記入力テキストの属性を示す属性情報と、生成されるテキストの文体を指定するための情報であって前記文体情報に対応する文体指定情報と、を取得し、
前記生成部は、前記モデルに前記入力テキストと該入力テキストの属性情報と前記文体指定情報とを入力することにより、前記入力テキストに対応する前記所定の条件を満たすテキストであって前記文体指定情報で指定された文体を有するテキストを生成する、
ことを特徴とする請求項８に記載の生成装置。
【請求項１０】
前記取得部は、前記文体指定情報として、どの配信主体の文体かを示す情報、或いは、どの情報媒体の文体かを示す情報を取得する、
ことを特徴とする請求項９に記載の生成装置。
【請求項１１】
前記取得部は、前記文体指定情報として、どの利用者属性に向けたテキストかを示す情報を取得する、
ことを特徴とする請求項９に記載の生成装置。
【請求項１２】
前記生成部は、前記出力テキストとして、所定の文字数以下のテキストを生成する、
ことを特徴とする請求項８〜１１のいずれか１項に記載の生成装置。
【請求項１３】
学習装置が実行する学習方法であって、
第１のテキストと、前記第１のテキストの属性を示す属性情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得工程と、
前記第１のテキストと前記第２のテキストとに基づいて、入力テキストから前記所定の条件を満たす出力テキストを生成するモデルの学習を行う学習工程と、
を含むことを特徴とする学習方法。
【請求項１４】
生成装置が実行する生成方法であって、
第１のテキストと該第１のテキストの属性を示す属性情報と前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習したモデルに入力される入力テキストと、前記入力テキストの属性を示す属性情報と、を取得する取得工程と、
前記モデルに前記入力テキストと該入力テキストの属性情報とを入力することにより、前記入力テキストに対応するテキストであって前記所定の条件を満たす出力テキストを生成する生成工程と、
を含むことを特徴とする生成方法。
【請求項１５】
第１のテキストと、前記第１のテキストの属性を示す属性情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得手順と、
前記第１のテキストと前記属性情報と前記第２のテキストとに基づいて、入力テキストから前記所定の条件を満たす出力テキストを生成するモデルの学習を行う学習手順と、
をコンピュータに実行させるための学習プログラム。
【請求項１６】
第１のテキストと該第１のテキストの属性を示す属性情報と前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習したモデルに入力される入力テキストと、前記入力テキストの属性を示す属性情報と、を取得する取得手順と、
前記モデルに前記入力テキストと該入力テキストの属性情報とを入力することにより、前記入力テキストに対応するテキストであって前記所定の条件を満たす出力テキストを生成する生成手順と、
をコンピュータに実行させるための生成プログラム。
【請求項１７】
第１のテキストと該第１のテキストの属性を示す属性情報と前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストとに基づいて学習したモデルであって、
テキストが入力される入力層と、
前記入力層に入力されたテキストに対応するテキストであって前記所定の条件を満たすテキストを出力する出力層と、
前記入力層から前記出力層までのいずれかの層であって前記出力層以外の層に属する第１要素と、
前記第１要素と前記第１要素の重みとに基づいて値が算出される第２要素と、を含み、
前記入力層に入力されたテキストに応じて、前記入力層に入力されたテキストに対応するテキストであって前記所定の条件を満たすテキストを出力層から出力するよう、
コンピュータを機能させるためのモデル。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、学習装置、生成装置、学習方法、生成方法、学習プログラム、生成プログラム、及びモデルに関する。
【背景技術】
【０００２】
テキストを装置に生成させる技術が知られている。例えば、装置に文書の要約文を生成させる技術が知られている。装置にテキストを生成させることで、人がテキストを生成する手間を省くことができる。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００５−１１５６２８号公報
【特許文献２】特開２００５−１７４１７３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
近年、機械学習が注目されている。テキストの生成は、例えば、複数組のテキスト（例えば、文書とその要約文を１組とした複数組のテキスト）を学習データとして学習した学習モデル（以下、単にモデルという。）を使用することで実現可能である。
【０００５】
テキストの組を多く準備することができれば、精度の高いモデルを実現可能である。しかし、テキストは、テキストの属性毎に特徴が異なる。例えば、新聞に掲載されるテキストは固い表現になりがちであり、雑誌に掲載されるテキストは砕けた表現になりがちである。学習データとなる複数組のテキストに特徴の偏りやバラツキがあると、精度の高いモデルの実現は困難となる。モデルの精度が低いと、装置が生成するテキストは精度（例えば、正確性）が低いものとなる。
【０００６】
本願は、上記に鑑みてなされたものであって、精度が高いテキストを生成できるようにすることを目的とする。
【課題を解決するための手段】
【０００７】
本願に係る学習装置は、第１のテキストと、第１のテキストの属性を示す属性情報と、第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、を取得する取得部と、第１のテキストと属性情報と第２のテキストとに基づいて、入力テキストから所定の条件を満たす出力テキストを生成するモデルの学習を行う学習部と、を備える。
【発明の効果】
【０００８】
実施形態の一態様によれば、精度が高いテキストを生成できるようにすることができる。
【図面の簡単な説明】
【０００９】
【図１】図１は、実施形態に係る情報処理装置が実行する処理の一例を示す図である。
【図２】図２は、コンテンツが表示された端末装置を示す図である。
【図３】図３は、学習データデータベースに登録される学習データの一例を示す図である。
【図４】図４は、モデルの一例を示す図である。
【図５】図５は、モデルの他の例を示す図である。
【図６】図６は、実施形態に係る情報処理装置の構成例を示す図である。
【図７】図７は、学習データデータベースに登録される情報の一例を示す図である。
【図８】図８は、モデルデータベースに登録される情報の一例を示す図である。
【図９】図９は、コンテンツ情報データベースに登録される情報の一例を示す図である。
【図１０】図１０は、学習処理の一例を示すフローチャートである。
【図１１】図１１は、生成処理の一例を示すフローチャートである。
【図１２】図１２は、情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【発明を実施するための形態】
【００１０】
以下に、本願に係る学習装置、生成装置、学習方法、生成方法、学習プログラム、生成プログラム、及びモデルを実施するための形態（以下、「実施形態」と呼ぶ）について図面を参照しつつ詳細に説明する。なお、以下の実施形態により本願に係る学習装置、生成装置、学習方法、生成方法、学習プログラム、生成プログラム、及びモデルが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
【００１１】
〔１−１．情報処理装置の一例〕
最初に、生成装置および学習装置の一例である情報処理装置が実行する学習処理および生成処理の一例について説明する。図１は、実施形態に係る情報処理装置が実行する処理の一例を示す図である。情報処理装置１０は、インターネット等の所定のネットワークを介して、所定のクライアントが使用するデータサーバ２０および端末装置３０と通信可能である。
【００１２】
情報処理装置１０は、後述の学習処理及び生成処理を実行する装置である。情報処理装置１０は、サーバ装置やクラウドシステム等により実現される。
【００１３】
データサーバ２０は、情報処理装置１０が後述する学習処理を実行する際に用いる学習データや、情報処理装置１０が後述する生成処理を実行する際に出力する配信コンテンツを管理する情報処理装置である。データサーバ２０は、サーバ装置やクラウドシステム等により実現される。データサーバ２０は、例えば、端末装置３０に対してニュースや、利用者によって投稿された各種のコンテンツを配信する配信サービスを実行する。このような配信サービスは、例えば、各種ニュースの配信サイトやＳＮＳ（Social  Networking  Service）等により実現される。
【００１４】
端末装置３０は、スマートフォンやタブレット等のスマートデバイスであり、３Ｇ（3rd  Generation）やＬＴＥ（Long  Term  Evolution）等の無線通信網を介して任意のサーバ装置と通信を行うことができる携帯端末装置である。なお、端末装置３０は、スマートデバイスのみならず、デスクトップＰＣ（Personal  Computer）やノートＰＣ等の情報処理装置であってもよい。
【００１５】
〔１−２．要約コンテンツの配信について〕
ここで、データサーバ２０は、配信対象となる配信コンテンツが複数存在する場合には、各コンテンツを全て配信するのではなく、各コンテンツの要約となるテキストが含まれる要約コンテンツを端末装置３０へと配信することがある。配信コンテンツは、例えば、情報媒体或いは情報の配信主体から取得したニュース記事である。一例として、要約コンテンツは、配信コンテンツへのリンクが張られたポータルサイトのトップページである。
【００１６】
なお、情報媒体とは、情報の配信媒体或いは掲載媒体を示す情報であり、例えば、“新聞”、“雑誌”等を示す情報である。また、配信主体とは、ニュース記事等の情報を配信する組織或いは個人である。例えば、配信主体は、新聞社、出版社、放送局（テレビ局、ラジオ局）等のマスメディアである。勿論、配信主体はマスメディアに限定されない。配信主体は、ポータルサイトの運営者であってもよいし、携帯電話会社であってもよい。配信主体は、情報処理装置１０の運営者自身であってもよい。
【００１７】
図２は、コンテンツが表示された端末装置３０を示す図である。図２の状態Ｊ１は、ポータルサイトのトップページが表示された様子を示す図であり、図２の状態Ｊ２は、配信コンテンツＣ１１を含むページが表示された様子を示す図である。配信コンテンツＣ１１は、例えば、所定の配信主体から情報処理装置１０の運営者（例えば、ポータルサイトの運営者）が取得したニュース記事である。状態Ｊ１に示す端末装置３０には、記事へのリンクが張られたタイルが複数配置されたページが表示されている。各タイルには、配信コンテンツの内容を示すテキスト（以下、見出しという。）が表示されている。例えば、縦一列に並ぶ複数のタイルの一番上のタイルには、見出しＵ１１が表示されている。見出しＵ１１は配信コンテンツＣ１１の内容に対応するテキストである。ユーザが見出しＵ１１が表示されたタイルをタップすると、端末装置３０には、配信コンテンツＣ１１を含む画面が表示される。配信コンテンツＣ１１には、記事の本文Ｋ１１と、記事のタイトルＴ１１が含まれている。
【００１８】
配信コンテンツに対応付けられるテキスト（例えば、ポータルサイトのトップページに掲載される見出し）は、配信コンテンツの内容に基づいて人が作成する。例えば、見出しＵ１１は、配信コンテンツＣ１１に含まれるタイトルＴ１１をポータルサイトの運営者の従業員が読んで要約することにより作成される。しかしながら、配信コンテンツごとに、人手で見出しを生成するのは、手間がかかる。
【００１９】
そこで、各種情報が有する特徴を学習した学習モデル（以下、単にモデルという。）を用いて、配信コンテンツから見出しを自動的に生成することが考えらえる。例えば、配信コンテンツに含まれるテキスト（例えば、タイトル）から、見出しとなるタイトルを自動的に生成することが考えられる。
【００２０】
精度が高い見出し（例えば、正確性が高い見出し）を作成するには、精度が高いモデルの生成が必要となる。精度が高いモデルを生成するには、学習データとなるテキストの組を大量に準備する必要がある。このとき、学習データとなる複数組のテキストは特徴が類似していることが望ましい。しかし、テキストは、テキストの属性（例えば、テキストの作成者や配信元）毎に特徴が異なる。例えば、新聞に掲載されるテキストは固い表現になりがちであり、雑誌に掲載されるテキストは砕けた表現になりがちである。学習データとなる複数組のテキストに特徴の偏りやバラツキがあると、精度の高いモデルの実現は困難となる。
【００２１】
例えば、単純なsequence  to  sequenceの学習では、モデルは、学習データ中に頻出するスタイル（例えば、新聞記事のタイトルの型）を学習する傾向にある。この場合、頻度が落ちるスタイル（例えば、雑誌やコラム等の自由なタイトルの型）のテキストは、モデルの学習（特徴抽出）の障害になり、結果として、精度の高いモデルは生成されない。このような学習データで学習したモデルに、頻度が落ちるスタイルのテキストを入力したとしても、不自然なテキストを生成するだけである。なお、テキストの属性毎（すなわち、特徴が類似したテキスト毎）に異なるモデルを作成することも考えられる。しかし、この場合、頻度が落ちるスタイルのテキストを大量に準備するのは困難である。結果として、精度の高いモデルを生成することは困難である。
【００２２】
〔１−３．学習処理について〕
そこで、情報処理装置１０は、以下の学習処理を実行することで、配信コンテンツに含まれるテキスト（例えば、タイトル）から見出しとなるテキストを生成するためのモデルの学習を行う。以下、図１を参照しながら情報処理装置１０が実行する学習処理の一例について説明する。
【００２３】
まず、情報処理装置１０は、データサーバ２０から学習データとなる情報を取得する（ステップＳ１）。例えば、情報処理装置１０は、データサーバ２０から、過去、ユーザに配信された配信コンテンツを取得する。そして、情報処理装置１０は、データサーバ２０から取得した情報を学習データデータベースに登録する。
【００２４】
図３は、学習データデータベースに登録される学習データの一例を示す図である。学習データデータベースには、学習データとして、属性情報、本文、タイトル、および見出しを関連付けた情報が登録される。属性情報、本文、タイトル、および見出しの組には、それぞれ、学習データＩＤ（Identifier）が付されている。「本文」及び「タイトル」は、配信コンテンツに含まれるテキストである。
【００２５】
属性情報は、配信コンテンツに含まれるテキストの属性を示す情報である。例えば、属性情報は、配信コンテンツの配信元を示す情報（例えば、配信コンテンツの配信主体を示す情報）である。一例として、属性情報は、配信コンテンツが新聞社から取得したものか、雑誌の出版社から取得したものか、を示す情報である。属性情報は、ポータルサイトの運営者等がテキストを見て判断したものであってもよい。属性情報は、テキストの文体（スタイル）を示す情報であってもよい。例えば、属性情報は、どの配信主体の文体かを示す情報（文体情報）であってもよい。例えば、属性情報は、新聞社がよく使用する文体か、雑誌の出版社がよく使用する文体かを示す情報であってもよい。この場合、属性情報は、文体情報と言い換えることができる。
【００２６】
「見出し」は、配信コンテンツの内容をユーザが容易に把握するためのテキストである。見出しは、配信コンテンツに含まれるテキスト（例えば、本文或いはタイトル）に対応するテキストである。学習データとなる見出しは、配信コンテンツに含まれるテキストを所定の者（例えば、ポータルサイトの運営者の従業員）が読んで要約することにより作成される。なお、見出しは、所定の条件を満たすよう生成される。例えば、見出しは、所定の文字数以下となるよう生成される。一例として、見出しは、１３.５文字以下となるよう生成される。このとき、１３.５文字は、全角文字１個を１文字とした文字数である。半角文字１文字は０．５文字である。以下の説明では、所定の条件のことを「生成条件」という。生成条件は、１３．５文字以下に限定されない。生成条件となる文字数は、１３．５文字より多くてもよいし少なくてもよい。勿論、生成条件は文字数に限定されない。
【００２７】
なお、「見出し」は、要約、タイトル、短縮タイトル、トピック、トピック見出し等と言い換えることができる。同様に、配信コンテンツに含まれる「タイトル」も、要約等と言い換えることができる。本実施形態では、「見出し」は、配信コンテンツに含まれる「タイトル」に基づき作成される短縮テキストであるものとする。勿論、「見出し」は本文に基づき作成された短縮テキストであってもよい。なお、構文上は文が短縮されていても、「見出し」の文字数が「タイトル」の文字数より多くなることがあり得る。例えば、「タイトル」に含まれる略語を正式名称に置き換えた場合は、構文上は文が短縮されていても、結果として文字数が増えることがある。このような場合も、「見出し」は「タイトル」の短縮テキストである。
【００２８】
図１に戻り、情報処理装置１０は、学習データデータベースに登録されたデータの中から、タイトルと属性情報と見出しとの組を複数組取得する。そして、情報処理装置１０は、タイトルと属性情報と見出しとに基づいて、モデルＭの学習を行う（ステップＳ２）。モデルＭは、モデルに入力されるテキスト（以下、入力テキストという。）から生成条件を満たすテキスト（以下、出力テキストという。）を生成するモデルである。情報処理装置１０は、タイトルと属性情報とを入力データ、見出しを正解データとしてモデルＭの学習（例えば、教師あり学習）を行う。
【００２９】
なお、以下の説明では、学習の際、入力データとなるテキスト（本実施形態の場合、タイトル）のことを第１のテキスト、正解データとなるテキスト（本実施形態の場合、見出し）のことを第２のテキストということがある。また、以下の説明では、正解データのことを教師ラベルということもある。
【００３０】
第１のテキストは、例えば、所定の配信主体からのテキストである。一例として、第１のテキストは、所定の配信主体から取得した記事のタイトルである。また、第２のテキストは、例えば、第１のテキストを、生成条件を満たすように変換した短縮タイトル（すなわち、見出し）である。また、属性情報は、例えば、所定の配信主体を示す情報である。例えば、属性情報は、配信主体が属する分類を示す情報（例えば、“新聞社”、“出版社”）である。
【００３１】
また、第１のテキストは、例えば、所定の情報媒体からのテキストであってもよい。一例として、第１のテキストは、所定の情報媒体から取得した記事のタイトルである。また、第２のテキストは、例えば、第１のテキストを、生成条件を満たすように変換した短縮タイトル（すなわち、見出し）である。また、属性情報は、例えば、所定の情報媒体を示す情報である。例えば、属性情報は、“新聞”、“雑誌”等を示す情報である。
【００３２】
モデルＭは、入力テキストから入力テキストが有する特徴を示す特徴情報を生成するエンコーダと、特徴情報から出力テキストを生成するデコーダと、を含むモデルであってもよい。
【００３３】
（モデルＭ１）
図４は、モデルＭの一例を示す図である。具体的には、図４は、モデルＭの一例であるモデルＭ１を示す図である。モデルＭ１は、ＲＮＮ（Recurrent  Neural  Network）の一例であるＬＳＴＭ（Long  Short  Term  Memory）を用いたSequence  to  Sequence  Model（以下、Ｓｅｑ２Ｓｅｑともいう。)である。Ｓｅｑ２Ｓｅｑは、エンコーダ−デコーダモデルの一種であり、異なる長さのワード列  （Sequence）を入力とし、異なる長さのワード列(Sequence)を出力とすることを可能とする。図４に示すモデルＭ１は、エンコーダＥ１とデコーダＤ１とから構成されている。
【００３４】
エンコーダＥ１は、入力テキストが有する特徴を抽出する。エンコーダＥ１は、入力層Ｘと中間層（隠れ層）Ｈ１とを有する。エンコーダＥ１には、第１のテキスト（本実施形態の場合、タイトル）に含まれるワード（図４に示すワードＷ１１〜Ｗ１３）が順次入力される。＜ＥＯＳ＞は、End  Of  Statementの略であり、テキストの終わりであることを示す。図４に示すエンコーダＥ１は、入力層Ｘと中間層Ｈ１を時間軸方向に展開した図である。中間層Ｈ１には、入力層Ｘからの出力に加えて前回の中間層Ｈ１の出力が入力される。なお、図４に示す例では、第１のテキストに含まれるワードが、ワードＷ１１〜Ｗ１３までの３つとなっているが、第１のテキストに含まれるワードは、３つより多くてもよい。エンコーダＥ１は、入力されたテキストの特徴を示す多次元量（例えば、ベクトル）である特徴情報Ｆを出力する。
【００３５】
なお、エンコーダＥ１は、属性情報Ｐを入力するための層（以下、属性入力層Ｎ１という。）が用意されている。属性情報Ｐは、入力層Ｘに入力される第１のテキスト（タイトル）の属性を示す情報である。属性入力層Ｎ１は、属性情報Ｐを中間層Ｈ１の入力に対応する次元数の多次元量（例えば、ベクトル）に変換する。図４の例では、テキストの先頭ワードであるワードＷ１１が入力される前に属性入力層Ｎ１の出力が中間層Ｈ１に入力されている。エンコーダＥ１に、第１のテキストの属性情報Ｐを入力することにより、エンコーダＥ１は、第１のテキストの属性も加味して、第１のテキストが有する特徴を学習できる。
【００３６】
デコーダＤ１は、入力テキストが短縮されたテキスト（すなわち、短縮テキスト）を出力する。デコーダＤ１は、中間層（隠れ層）Ｈ２と出力層Ｙとを有する。図４に示すデコーダＤ１は、エンコーダＥ１と同じく、中間層（隠れ層）Ｈ２と出力層Ｙを時間軸方向に展開した図である。デコーダＤ１には、エンコーダＥ１から出力された特徴情報Ｆが入力され、出力層Ｙから短縮テキストとなるワード（図４に示すワードＷ２１〜Ｗ２３）が順次出力される。なお、図４に示す例では、短縮テキストに含まれるワードが、ワードＷ２１〜Ｗ２３までの３つとなっているが、短縮テキストに含まれるワードは、３つより多くてもよい。
【００３７】
情報処理装置１０は、エンコーダＥ１に第１のテキスト及び属性情報Ｐを入力した際に、デコーダＤ１から第１のテキストに対応する第２のテキストが出力されるよう、モデルＭ１の学習を行う。例えば、情報処理装置１０は、デコーダＤ１が出力した短縮テキストが、第２のテキストに近づくように、バックプロパゲーション等の手法により、各ノード間で値が伝達する際に考慮される重み（すなわち、接続係数）の値を修正する。これにより、情報処理装置１０は、モデルＭ１に第１のテキストが有する特徴を学習させる。なお、情報処理装置１０は、短縮テキストの分散表現となるベクトルと第２のテキストの分散表現となるベクトルとのコサイン類似度に基づいて重みの値を修正してもよい。
【００３８】
（モデルＭ２）
図５は、モデルＭの他の例を示す図である。具体的には、図５は、モデルＭの一例であるモデルＭ２を示す図である。情報処理装置１０は、第１のテキスト（タイトル）と属性情報Ｐと文体情報Ｑを入力データ、第２のテキスト（見出し）を正解データ（教師ラベル）としてモデルＭ２の学習を行う。図５に示すモデルＭ２は、エンコーダＥ１とデコーダＤ２とから構成されている。エンコーダＥ１は、モデルＭ１のエンコーダＥ１と同じである。デコーダＤ２は、中間層Ｈ２と出力層Ｙとを有する。中間層Ｈ２と出力層ＹはモデルＭ１のデコーダＤ１が有する中間層Ｈ２と出力層Ｙと同じである。なお、デコーダＤ２は、第２のテキスト（本実施形態の場合、見出し）の文体を示す文体情報Ｑを入力するための層（以下、文体入力層Ｎ２という。）が用意されている。
【００３９】
文体情報Ｑは、第２のテキスト（本実施形態の場合、見出し）の文体を示す情報である。例えば、文体情報Ｑは、第２のテキストがどの配信主体の文体のテキストかを示す情報である。例えば、文体情報Ｑは、“新聞社”スタイルのテキストか、“出版社”スタイルのテキストか、を識別する情報であってもよい。また、文体情報Ｑは、第２のテキストがどの情報媒体の文体かを示す情報であってもよい。例えば、文体情報は“新聞”でよく使用される文体か、“雑誌”でよく使用される文体か、を示す情報であってもよい。
【００４０】
なお、文体情報Ｑは、第２のテキストがどの利用者属性に向けたテキストかを示す情報であってもよい利用者属性は、デモグラフィック属性やサイコグラフィック属性である。例えば、文体情報Ｑは、第２のテキストが女性向けのテキストなのか、男性向けのテキストなのかを示す情報であってもよい。また、文体情報Ｑは、第２のテキストがどの年代の人に向けたテキストなのかを示す情報であってもよい。
【００４１】
情報処理装置１０は、文体情報Ｑをデータサーバ２０から取得してもよい。或いは、情報処理装置１０は、属性情報Ｐをそのまま文体情報Ｑとしてもよい。上述したように、文体情報Ｑは、第２のテキストの生成者の識別情報であってもよい。
【００４２】
文体入力層Ｎ２は、エンコーダＥ１から出力された特徴情報Ｆと文体情報Ｑとを、中間層Ｈ２の入力に対応する次元数の多次元量（例えば、ベクトル）に変換する。デコーダＤ２に、第２のテキストの文体情報Ｑを入力することにより、デコーダＤ２は、第２のテキストの文体も加味して、第２のテキストが有する特徴を学習できる。
【００４３】
〔１−４．生成処理について〕
次に、上述した学習処理によって学習が行われたモデルを用いて、入力テキストに対応するテキストであって生成条件を満たす出力テキストを生成する生成処理の一例について説明する。このとき、出力テキストは、例えば、入力テキストの短縮テキストである。
【００４４】
まず、情報処理装置１０は、データサーバ２０からモデルＭに入力される情報を取得する（ステップＳ３）。例えば、情報処理装置１０は、データサーバ２０から、配信予定の配信コンテンツ（本文及びタイトル）を取得する。また、情報処理装置１０は、取得した配信コンテンツの属性情報を取得する。このとき、情報処理装置１０は、配信コンテンツの配信主体を示す情報を属性情報として取得してもよい。
【００４５】
そして、情報処理装置１０は、モデルＭに入力テキスト（例えば、タイトル）と該入力テキストの属性情報とを入力することにより、入力テキストに対応するテキストであって生成条件を満たす出力テキスト（例えば、見出し）を生成する（ステップＳ４）。例えば、モデルＭが図４に示すモデルＭ１なのであれば、情報処理装置１０は、属性情報を属性入力層Ｎ１に入力するとともに、入力テキストに含まれるワードを、順次、エンコーダＥ１に入力する。そして、情報処理装置１０は、デコーダＤ１から、順次、出力テキストとなるワードを取得する。
【００４６】
なお、モデルＭが図５に示すモデルＭ２なのであれば、情報処理装置１０は、生成されるテキストの文体を指定するための文体指定情報を取得してもよい。文体指定情報は、モデルＭ２に入力される文体情報に対応する情報である。例えば、文体指定情報は、出力テキストがどの配信主体の文体かを示す情報である。或いは、文体指定情報は、出力テキストがどの情報媒体の文体かを示す情報である。文体指定情報は、出力テキストがどの利用者属性に向けたテキストかを示す情報であってもよい。
【００４７】
情報処理装置１０は、属性情報を属性入力層Ｎ１に入力するとともに、入力テキストに含まれるワードを、順次、エンコーダＥ１に入力する。さらに、情報処理装置１０は、文体指定情報をデコーダＤ２の文体入力層Ｎ２に入力する。そして、情報処理装置１０は、デコーダＤ２から、順次、出力テキストとなるワードを取得する。
【００４８】
出力テキストが生成されたら、情報処理装置１０は、出力テキストを用いて、要約コンテンツを生成する。そして、情報処理装置１０は、要約コンテンツを端末装置３０に配信する（ステップＳ５）。
【００４９】
本実施形態によれば、情報処理装置１０は、第１のテキストのみならず第１のテキストの属性情報を使ってモデルＭの学習を行っている。学習データとなる第１のテキストに特徴の偏りやバラツキがあったとしても、情報処理装置１０は、それを踏まえてモデルＭの学習を実行できる。よって、頻度が低いスタイルのテキストが学習時の阻害要因とならないので、情報処理装置１０は、精度が高いモデルＭを生成できる。結果として情報処理装置１０は、入力テキストから精度が高い出力テキスト（短縮テキスト）を生成できる。
【００５０】
また、属性情報を学習時の入力とすることにより、情報処理装置１０は、頻度が高いスタイルのテキストと頻度が低いスタイルのテキストとを同時にモデルＭに学習させることができる。よって、情報処理装置１０は、頻度が低いスタイルのテキストが入力されたとしても精度が高い出力テキスト（短縮テキスト）を生成できる。
【００５１】
また、情報処理装置１０は、正解データ（教師ラベル）となる第２のテキストの文体を示す文体情報を使ってモデルＭの学習を行っている。第２のテキストにスタイルの偏りやバラツキがあったとしても、情報処理装置１０は、それを踏まえてモデルＭの学習を実行できる。これにより、情報処理装置１０は、精度が高いモデルＭを生成できる。結果として情報処理装置１０は、入力テキストから精度が高い出力テキスト（短縮テキスト）を生成できる。
【００５２】
しかも、モデルＭは、出力テキストの生成時、出力テキストの文体を指定するための文体指定情報を入力できるよう構成されている。これにより、情報処理装置１０は、ユーザの意図する文体のテキスト（例えば、女性向けのスタイルのテキスト、男性向けのスタイルのテキスト）を生成できる。
【００５３】
〔２．情報処理装置の構成例〕
以上、本実施形態の情報処理装置１０の動作を述べたが、以下、情報処理装置１０の構成を説明する。
【００５４】
情報処理装置１０は、端末装置３０等のクライアントコンピュータからの要求を処理するサーバ用ホストコンピュータ（以下、単に「サーバ」という。）である。情報処理装置１０は、ＰＣサーバであってもよいし、ミッドレンジサーバであってもよいし、メインフレームサーバであってもよい。また、情報処理装置１０は、１つのサーバにより構成されていてもよいし、協働して処理を実行する複数のサーバにより構成されていてもよい。情報処理装置１０が複数のサーバで構成される場合、これらサーバの設置場所は離れていてもよい。設置場所が離れていたとしても、協働して処理を実行するのであれば、これらサーバは１つの情報処理装置とみなすことができる。情報処理装置１０は、生成装置および学習装置として機能する。
【００５５】
上述したように、情報処理装置１０は、データサーバ２０及び端末装置３０とネットワークを介して接続されている。ネットワークは、ＬＡＮ（Local  Area  Network）、ＷＡＮ（Wide  Area  Network）、電話網（携帯電話網、固定電話網等）、地域ＩＰ（Internet  Protocol）網、インターネット等の通信ネットワークである。ネットワークには、有線ネットワークが含まれていてもよいし、無線ネットワークが含まれていてもよい。
【００５６】
図６は、実施形態に係る情報処理装置１０の構成例を示す図である。情報処理装置１０は、通信部１１と、記憶部１２と、制御部１３と、を備える。なお、図６に示した構成は機能的な構成であり、ハードウェア構成はこれとは異なっていてもよい。
【００５７】
通信部１１は、外部の装置と通信する通信インタフェースである。通信部１１は、ネットワークインタフェースであってもよいし、機器接続インタフェースであってもよい。例えば、通信部１１は、ＮＩＣ（Network  Interface  Card）等のＬＡＮインタフェースであってもよいし、ＵＳＢ（Universal  Serial  Bus）ホストコントローラ、ＵＳＢポート等により構成されるＵＳＢインタフェースであってもよい。また、通信部１１は、有線インタフェースであってもよいし、無線インタフェースであってもよい。通信部１１は、情報処理装置１０の通信手段として機能する。通信部１１は、制御部１３の制御に従ってデータサーバ２０及び端末装置３０と通信する。
【００５８】
記憶部１２は、ＤＲＡＭ（Dynamic  Random  Access  Memory）、ＳＲＡＭ（Static  Random  Access  Memory）、フラッシュメモリ、ハードディスク等のデータ読み書き可能な記憶装置である。記憶部１２は、情報処理装置１０の記憶手段として機能する。記憶部１２は、学習データデータベース１２１、モデルデータベース１２２、及びコンテンツ情報データベース１２３を記憶する。
【００５９】
学習データデータベース１２１には、学習データが登録される。図７は、学習データデータベース１２１に登録される情報の一例を示す図である。学習データデータベース１２１には、「学習データＩＤ（Identifier）」、「属性情報」、「本文」、「タイトル」、および「見出し」といった項目を有する情報が登録される。
【００６０】
なお、図７に示す情報のうち「属性情報」、「本文」、「タイトル」、および「見出し」は、図３に示す「属性情報」、「本文」、「タイトル」、および「見出し」に対応する。なお、学習データデータベース１２１には、図７に示す情報以外にも、学習データや要約データを閲覧した利用者に関する各種の情報が登録されていてもよい。なお、図７に示す例では、学習データデータベース１２１に登録される情報として、「Ｐ１１〜Ｐ１３」、「Ｋ１１〜Ｋ１３」、「Ｔ１１〜Ｔ１３」、「Ｕ１１〜Ｕ１３」といった概念的な情報を示したが、実際には、テキストデータやバイナリデータが登録されることとなる。
【００６１】
ここで、「学習データＩＤ」とは、学習データを識別するための識別子である。また、「属性情報」とは、テキストの属性を示す情報である。また、「本文」とは、ユーザに配信されたコンテンツ（例えば、記事）に含まれる本文となるテキストである。また「タイトル」とは、コンテンツ或いは当該コンテンツに含まれる本文に付されたタイトルである。また、「見出し」とは、コンテンツ（本文或いはタイトル）に付された見出しである。
【００６２】
例えば、図７に示す例では、学習データＩＤ「１００１」、属性情報「Ｐ１１」、本文「Ｋ１１」、タイトル「Ｔ１１」、および見出し「Ｕ１１」といった情報が対応付けて登録されている。このような情報は、例えば、学習データＩＤ「１００１」が示す学習データに、「Ｐ１１」が示す属性情報と、「Ｋ１１」が示す本文と、「Ｔ１１」が示すタイトルと、「Ｕ１１」が示す見出しと、が含まれる旨を示す。
【００６３】
図６に戻り、モデルデータベース１２２には、情報処理装置１０が有するモデルのデータが登録される。図８は、モデルデータベース１２２に登録される情報の一例を示す図である。図８に示す例では、モデルデータベース１２２には、「モデルＩＤ」、および「モデルデータ」といった情報が登録されている。
【００６４】
ここで、「モデルＩＤ」とは、各モデルを識別するための情報である。また、「モデルデータ」とは、対応付けられた「モデルＩＤ」が示すモデルのデータであり、例えば、各層におけるノードと、各ノードが採用する関数と、ノードの接続関係と、ノード間の接続に対して設定される接続係数とを含む情報である。
【００６５】
例えば、図８に示す例では、モデルＩＤ「２００１」およびモデルデータ「Ｍ１」といった情報が対応付けて登録されている。このような情報は、例えば、「２００１」が示すモデルのデータが「Ｍ１」である旨を示す。なお、図８に示す例では、モデルデータベース１２２に登録される情報として、「Ｍ１〜Ｍ２」といった概念的な情報を記載したが、実際には、モデルの構造や接続係数を示す文字列や数値等が登録されることとなる。
【００６６】
モデルＭは、第１のテキストと第１のテキストの属性を示す属性情報と第１のテキストに対応するテキストであって生成条件を満たす第２のテキストとに基づいて学習したモデルである。モデルＭは、入力テキストから生成条件を満たす出力テキストを生成する。このようなモデルＭは、テキストが入力される入力層と、入力層に入力されたテキストに対応するテキストであって生成条件を満たすテキストを出力する出力層と、入力層から出力層までのいずれかの層であって出力層以外の層に属する第１要素と、第１要素と第１要素の重みとに基づいて値が算出される第２要素と、を含み、入力層に入力された情報に対し、出力層以外の各層に属する各要素を第１要素として、第１要素と第１要素の重み（すなわち、接続係数）とに基づく演算を行うことにより、入力層に入力されたテキストに対応するテキストであって生成条件を満たすテキストを出力層から出力するよう、コンピュータを機能させるためのモデルである。
【００６７】
ここで、モデルＭが「y=a1*x1+a2*x2+・・・+ai*xi」で示す回帰モデルで実現されるとする。この場合、モデルＭが含む第１要素は、x1やx2等といった入力データ（xi）に対応する。また、第１要素の重みは、xiに対応する係数aiに対応する。ここで、回帰モデルは、入力層と出力層とを有する単純パーセプトロンと見做すことができる。各モデルを単純パーセプトロンと見做した場合、第１要素は、入力層が有するいずれかのノードに対応し、第２要素は、出力層が有するノードと見做すことができる。
【００６８】
また、モデルＭがＤＮＮ（Deep  Neural  Network）等、１つまたは複数の中間層を有するニューラルネットワークで実現されるとする。この場合、モデルＭが含む第１要素は、入力層または中間層が有するいずれかのノードに対応する。また、第２要素は、第１要素と対応するノードから値が伝達されるノードである次段のノードに対応する。また、第１要素の重みは、第１要素と対応するノードから第２要素と対応するノードに伝達される値に対して考慮される重みである接続係数に対応する。
【００６９】
情報処理装置１０は、上述した回帰モデルやニューラルネットワーク等、任意の構造を有するモデルを用いて、出力テキストの算出を行う。具体的には、モデルＭは、テキスト（例えば、タイトル）が入力された場合に、入力されたテキストに対応するテキストであって生成条件を満たすテキスト（例えば、見出し）を出力するように係数が設定される。モデルＭは、テキスト及び当該テキストの属性情報が入力された場合に、入力されたテキストに対応するテキストであって生成条件を満たすテキストを出力するように係数が設定されてもよい。情報処理装置１０は、このようなモデルＭを用いて、生成条件を満たすテキスト（例えば、見出し）を生成する。
【００７０】
なお、上記例では、モデルＭが、テキスト（及び当該テキストの属性情報）が入力された場合に、入力されたテキストに対応するテキストであって生成条件を満たすテキスト（例えば、見出し）を出力するモデル（以下、モデルＶという。）である例を示した。しかし、実施形態に係るモデルＭは、モデルＶにデータの入出力を繰り返すことで得られる結果に基づいて生成されるモデルであってもよい。例えば、モデルＶは、「テキスト（及び当該テキストの属性情報）」を入力とし、モデルＶが出力する「入力されたテキストに対応するテキストであって生成条件を満たすテキスト」を出力とするよう学習されたモデルであってもよい。
【００７１】
また、情報処理装置１０がＧＡＮ（Generative  Adversarial  Networks）を用いた学習処理或いは生成処理を行う場合、モデルＭは、ＧＡＮの一部を構成するモデルであってもよい。
【００７２】
図６に戻り、コンテンツ情報データベース１２３には、ユーザに配信されるコンテンツの情報が登録される。例えば、コンテンツ情報データベース１２３には、コンテンツパートナーから取得した記事等が登録される。図９は、コンテンツ情報データベース１２３に登録される情報の一例を示す図である。コンテンツ情報データベース１２３には、「コンテンツＩＤ」、「属性情報」、「本文」、及び「タイトル」といった項目を有する情報が登録される。なお、「コンテンツＩＤ」とは、コンテンツのデータを識別するための識別子である。「属性情報」、「本文」、及び「タイトル」は、図７に示す「属性情報」、「本文」、及び「タイトル」と同様である。
【００７３】
図６に戻り、制御部１３は、コントローラ（controller）であり、例えば、ＣＰＵ（Central  Processing  Unit）、ＭＰＵ（Micro  Processing  Unit）等のプロセッサによって、情報処理装置１０内部の記憶装置に記憶されている各種プログラムがＲＡＭ等を作業領域として実行されることにより実現される。また、制御部１３は、コントローラであり、例えば、ＡＳＩＣ（Application  Specific  Integrated  Circuit）やＦＰＧＡ（Field  Programmable  Gate  Array）等の集積回路により実現されてもよい。
【００７４】
また、制御部１３は、記憶部１２に記憶されるモデルＭ（モデルＭ１、Ｍ２等）に従った情報処理により、モデルＭの入力層に入力された入力テキスト（例えば、タイトル）に対し、モデルＭが有する係数（すなわち、モデルＭが学習した各種の特徴に対応する係数）に基づく演算を行い、モデルＭの出力層から出力テキスト（例えば、見出し）を出力する。入力層には、入力テキスト以外に、当該入力テキストの属性情報が入力されてもよい。
【００７５】
制御部１３は、図６に示すように、学習データ取得部１３１と、学習部１３２と、出力情報取得部１３３と、生成部１３４と、出力制御部１３５と、を備える。制御部１３を構成するブロック（学習データ取得部１３１〜出力制御部１３５）はそれぞれ制御部１３の機能を示す機能ブロックである。これら機能ブロックはソフトウェアブロックであってもよいし、ハードウェアブロックであってもよい。例えば、上述の機能ブロックが、それぞれ、ソフトウェア（マイクロプログラムを含む。）で実現される１つのソフトウェアモジュールであってもよいし、半導体チップ（ダイ）上の１つの回路ブロックであってもよい。勿論、各機能ブロックがそれぞれ１つのプロセッサ或いは１つの集積回路であってもよい。機能ブロックの構成方法は任意である。なお、制御部１３は上述の機能ブロックとは異なる機能単位で構成されていてもよい。
【００７６】
学習データ取得部１３１は、学習データとして、第１のテキスト、当該第１のテキストの属性を示す属性情報と、第１のテキストに対応するテキストであって生成条件を満たすテキストと、を取得する。例えば、学習データ取得部１３１は、学習データとして、所定のコンテンツパートナーが作成した記事（本文及び／又はタイトル）と、当該記事の属性情報と、との組をデータサーバ２０から取得する。さらに、学習データ取得部１３１は、学習データとして、当該記事に付された見出しを取得する。見出しは、当該記事を過去ユーザに配信したポータルサイトの運営者が作成したものであってもよい。学習データ取得部１３１は、上記データに加えて、第２のテキストの文体を示す文体情報を学習データとして取得してもよい。そして、学習データ取得部１３１は、取得した各データを対応付けて学習データデータベース１２１に登録する。
【００７７】
学習部１３２は、モデルＭの学習を行い、学習したモデルＭをモデルデータベース１２２に格納する。より具体的には、学習部１３２は、学習データに含まれる第１のテキスト（例えば、タイトル）及び当該第１のテキストの属性情報をモデルＭに入力した際に、モデルＭが学習データに含まれる第２のテキスト（例えば、入力したタイトルに対応する見出し）を出力するように、モデルＭの接続係数の設定を行う。すなわち、学習部１３２は、入力テキストを入力した際に、モデルＭが、入力テキストに対応するテキストであって生成条件を満たす出力テキストを出力するように、モデルＭの学習を行う。モデルＭには、入力テキストに加えて、当該入力テキストの属性情報が入力されてもよい。
【００７８】
例えば、学習部１３２は、モデルＭが有する入力層のノードであって、入力層に入力される情報と対応する特徴を学習したエンコーダＥ１の入力層と対応するノードに第１のテキスト（例えば、タイトル）及び当該第１のテキストの属性情報を入力し、各中間層を辿ってモデルＭの出力層までデータを伝播させることで、第１のテキストに対応するテキストであって生成条件を満たすテキストを出力させる。そして、学習部１３２は、モデルＭが実際に出力したテキストと、学習データに含まれる第２のテキスト（例えば、見出し）との差に基づいて、モデルＭの接続係数を修正する。例えば、学習部１３２は、バックプロパゲーション等の手法を用いて、接続係数の修正を行ってもよい。また、学習部１３２は、第２のテキストの分散表現となるベクトルと、モデルＭが実際に出力したテキストの分散表現となるベクトルとのコサイン類似度に基づいて、接続係数の修正を行ってもよい。
【００７９】
なお、学習部１３２は、いかなる学習アルゴリズムを用いてモデルＭを学習してもよい。例えば、学習部１３２は、ニューラルネットワーク、サポートベクターマシン（support  vector  machine）、クラスタリング、強化学習等の学習アルゴリズムを用いて、モデルＭを学習してよい。
【００８０】
ここで、学習部１３２は、第１のテキストと属性情報と第２のテキストとに基づいて、入力テキストから生成条件を満たす出力テキストを生成するモデルＭの学習を行う。このとき、モデルＭは、出力テキストとして、所定の文字数以下のテキストを生成するモデルであってもよい。
【００８１】
また、学習部１３２は、第１のテキストと、属性情報と、第２のテキストと、第２のテキストの文体を示す文体情報と、を取得する。また、学習部１３２は、第１のテキストと属性情報と文体情報を入力データ、第２のテキストを正解データ（教師ラベル）としてモデルＭの学習を行う。
【００８２】
このとき、学習部１３２は、文体情報として、どの配信主体の文体かを示す情報、或いは、どの情報媒体の文体かを示す情報を取得してもよい。また、学習部１３２は、文体情報として、どの利用者属性に向けたテキストかを示す情報を取得してもよい。
【００８３】
また、学習部１３２は、第１のテキストとして所定の配信主体からのテキストを取得し、属性情報として所定の配信主体を示す情報を取得する。
【００８４】
また、学習部１３２は、第１のテキストとして所定の情報媒体からのテキストを取得し、属性情報として所定の情報媒体を示す情報を取得する。
【００８５】
また、学習部１３２は、入力テキストから入力テキストが有する特徴を示す特徴情報を生成するエンコーダと、特徴情報から出力テキストを生成するデコーダと、を含むモデルＭの学習を行う。
【００８６】
出力情報取得部１３３は、第１のテキストと該第１のテキストの属性を示す属性情報と第１のテキストに対応するテキストであって生成条件を満たす第２のテキストとに基づいて学習したモデルＭに入力される入力テキストと、入力テキストの属性を示す属性情報と、を取得する。出力情報取得部１３３は、上記情報に加え、生成部１３４で生成されるテキストの文体を指定するための情報であって文体情報に対応する文体指定情報と、を取得してもよい。
【００８７】
生成部１３４は、モデルＭに入力テキストと該入力テキストの属性情報とを入力することにより、入力テキストに対応するテキストであって生成条件を満たす出力テキストを生成する。生成部１３４は、出力テキストとして、所定の文字数以下のテキストを生成してもよい。
【００８８】
また、生成部１３４は、モデルＭに入力テキストと該入力テキストの属性情報と文体指定情報とを入力することにより、入力テキストに対応する生成条件を満たすテキストであって文体指定情報で指定された文体を有するテキストを生成する。
【００８９】
このとき、生成部１３４は、文体指定情報として、どの配信主体の文体かを示す情報、或いは、どの情報媒体の文体かを示す情報を取得してもよい。また、生成部１３４は、文体指定情報として、どの利用者属性に向けたテキストかを示す情報を取得してもよい。
【００９０】
出力制御部１３５は、生成部１３４が生成したテキストを利用者に対して出力する。例えば、出力制御部１３５は、端末装置３０からの要求に応じて、生成部１３４が生成したテキストが含まれるコンテンツを配信する。なお、出力制御部１３５は、生成部１３４が生成したテキストが含まれるコンテンツをデータサーバ２０に提供し、データサーバ２０から配信させてもよい。
【００９１】
〔３．情報処理装置の処理フロー〕
次に、情報処理装置１０が実行する処理の手順について説明する。情報処理装置１０は学習処理と生成処理とを実行する。情報処理装置１０はマルチタスクＯＳを備え、これらの処理を並行して実行可能である。
【００９２】
〔３−１．学習処理〕
最初に学習処理を説明する。図１０は、学習処理の一例を示すフローチャートである。学習処理は、入力テキストから出力テキストを生成するモデルＭを学習する処理である。情報処理装置１０は、ユーザから処理開始命令を受信すると、学習処理を実行する。
【００９３】
まず、情報処理装置１０は、学習データを取得する（ステップＳ１１）。例えば、情報処理装置１０は、データサーバ２０から配信コンテンツ（本文及びタイトル）の情報を取得するとともに、配信コンテンツに対応する見出しを取得する。
【００９４】
続いて、情報処理装置１０は、ステップＳ１１で取得したデータの中から、入力データとなる第１のテキストと、当該入力データに対応する正解データ（教師ラベル）となる第２のテキストを選択する（ステップＳ１２）。例えば、情報処理装置１０は、タイトルを第１のテキスト、見出しを第２のテキストとして選択する。
【００９５】
続いて、情報処理装置１０は、第１のテキストの属性情報を取得する（ステップＳ１３）。また、情報処理装置１０は、第２のテキストの文体情報を取得する（ステップＳ１４）。
【００９６】
続いて、情報処理装置１０は、第１のテキストと属性情報を入力データ、第２のテキストを正解データ（教師ラベル）としてモデルＭの学習を実行する（ステップＳ１５）。なお、モデルＭが文体情報を入力できるよう構成されているのであれば、情報処理装置１０は、第１のテキストと属性情報と文体情報を入力データ、第２のテキストを教師データとしてモデルＭの学習を実行する。学習の実行が終了したら、情報処理装置１０は、学習処理を終了する。
【００９７】
〔３−２．生成処理〕
次に生成処理を説明する。図１１は、生成処理の一例を示すフローチャートである。生成処理は、入力テキストから出力テキスト（入力テキストの短縮テキスト）を生成する処理である。情報処理装置１０は、ユーザから処理開始命令を受信すると、生成処理を実行する。
【００９８】
まず、情報処理装置１０は、コンテンツ情報を取得する（ステップＳ２１）。例えば、情報処理装置１０は、データサーバ２０から配信コンテンツ（本文及びタイトル）の情報を取得する。
【００９９】
続いて、情報処理装置１０は、ステップＳ２１で取得したデータの中から、モデルＭに入力する入力テキストを選択する（ステップＳ２２）。例えば、情報処理装置１０は、タイトルを入力テキストとして選択する。
【０１００】
続いて、情報処理装置１０は、入力テキストの属性情報を取得する（ステップＳ２３）。また、情報処理装置１０は、モデルＭから出力されるテキスト（出力テキスト）の文体を指定するための文体指定情報を取得する（ステップＳ２４）。
【０１０１】
続いて、情報処理装置１０は、入力テキストと属性情報をモデルＭに入力して出力テキストを生成する（ステップＳ２５）。なお、モデルＭが文体指定情報を入力できるよう構成されているのであれば、情報処理装置１０は、入力テキストと属性情報と文体指定情報をモデルＭに入力してもよい。出力テキストの生成が終了したら、情報処理装置１０は、生成処理を終了する。
【０１０２】
〔４．変形例〕
上述の実施形態は一例を示したものであり、種々の変更及び応用が可能である。
【０１０３】
例えば、上述の実施形態では、情報処理装置１０は、第１のテキストをタイトル、第２のテキストを見出し（タイトルの短縮テキスト）としてモデルＭの学習を行った。しかし、情報処理装置１０は、第１のテキストを本文、第２のテキストを見出し（本文或いはタイトルの短縮テキスト）としてモデルＭの学習を行ってもよい。このとき、情報処理装置１０は、本文をモデルＭに入力する入力テキストとして出力テキストの生成を行ってもよい。その他、第１のテキスト及び第２のテキストとするテキストは任意に変更可能である。
【０１０４】
また、上述の実施形態では、モデルＭ１、Ｍ２に属性情報Ｐを入力するための属性入力層Ｎ１を設けた。しかし、モデルＭ１、Ｍ２に属性入力層Ｎ１は設けられていなくてもよい。このとき、情報処理装置１０は属性情報Ｐの多次元量をエンコーダＥ１の中間層Ｈ１に直接入力してもよい。
【０１０５】
また、上述の実施形態では、モデルＭ２に文体情報Ｑを入力するための文体入力層Ｎ２を設けた。しかし、モデルＭ１に属性入力層Ｎ１は設けられていなくてもよい。このとき、情報処理装置１０は文体情報Ｑの多次元量をデコーダＤ２の中間層Ｈ２に直接入力してもよい。
【０１０６】
また、上述の実施形態では、モデルＭを構成するエンコーダおよびデコーダは、ＬＳＴＭにより構成されるものとしたが、ＬＳＴＭ以外のＲＮＮにより構成されていてもよい。モデルＭを構成するエンコーダおよびデコーダは、ＣＮＮ（Convolution  Neural  Network）等、ＲＮＮ以外のニューラルネットワークであってもよい。その他、モデルＭを構成するエンコーダおよびデコーダは、単純に入力された情報量の次元数を変化させるニューラルネットワークであってもよい。このとき、モデルＭを構成するエンコーダは、入力された情報の次元量を圧縮することで入力された情報が有する特徴を抽出するよう構成されていてもよい。また、モデルＭを構成するデコーダは、エンコーダによって抽出された特徴の次元量を増大させ、エンコーダに入力された情報よりも次元数が少ない情報を出力するよう構成されていてもよい。
【０１０７】
本実施形態の情報処理装置１０を制御する制御装置は、専用のコンピュータシステムによって実現してもよいし、通常のコンピュータシステムにより実現してもよい。例えば、上述の動作を実行するためのプログラムまたはデータ（例えば、モデルＭ）を、光ディスク、半導体メモリ、磁気テープ、フレキシブルディスク等のコンピュータ読み取り可能な記録媒体に格納して配布し、該プログラムをコンピュータにインストールし、上述の処理を実行することによって制御装置を構成してもよい。制御装置は、情報処理装置１０の外部の装置（例えば、パーソナルコンピュータ）であってもよいし、内部の装置（例えば、制御部１３）であってもよい。また、上記プログラムをインターネット等のネットワーク上のサーバ装置が備えるディスク装置に格納しておき、コンピュータにダウンロード等できるようにしてもよい。また、上述の機能を、ＯＳ（Operating  System）とアプリケーションソフトとの協働により実現してもよい。この場合には、ＯＳ以外の部分を媒体に格納して配布してもよいし、ＯＳ以外の部分をサーバ装置に格納しておき、コンピュータにダウンロード等できるようにしてもよい。
【０１０８】
また、上記各実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
【０１０９】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
【０１１０】
また、上述してきた各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
【０１１１】
〔５．ハードウェア構成〕
実施形態及び変形例に係る情報処理装置１０は、例えば図１２に示すような構成のコンピュータ１０００によっても実現可能である。図１２は、情報処理装置１０の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ１０００は、ＣＰＵ（Central  Processing  Unit）１１００、ＲＡＭ１２００、ＲＯＭ１３００、ＨＤＤ（Hard  Disk  Drive）１４００、通信インタフェース（Ｉ／Ｆ）１５００、入出力インタフェース（Ｉ／Ｆ）１６００、及びメディアインタフェース（Ｉ／Ｆ）１７００を有する。
【０１１２】
ＣＰＵ１１００は、ＲＯＭ１３００またはＨＤＤ１４００に格納されたプログラムに基づいて動作し、各部の制御を行う。ＲＯＭ１３００は、コンピュータ１０００の起動時にＣＰＵ１１００によって実行されるブートプログラムや、コンピュータ１０００のハードウェアに依存するプログラム等を格納する。
【０１１３】
ＨＤＤ１４００は、ＣＰＵ１１００によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インタフェース１５００は、ネットワークＮを介して他の機器からデータを受信してＣＰＵ１１００へ送り、ＣＰＵ１１００が生成したデータをネットワークＮを介して他の機器へ送信する。
【０１１４】
ＣＰＵ１１００は、入出力インタフェース１６００を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。ＣＰＵ１１００は、入出力インタフェース１６００を介して、入力装置からデータを取得する。また、ＣＰＵ１１００は、生成したデータを入出力インタフェース１６００を介して出力装置へ出力する。
【０１１５】
メディアインタフェース１７００は、記録媒体１８００に格納されたプログラムまたはデータを読み取り、ＲＡＭ１２００を介してＣＰＵ１１００に提供する。ＣＰＵ１１００は、かかるプログラムを、メディアインタフェース１７００を介して記録媒体１８００からＲＡＭ１２００上にロードし、ロードしたプログラムを実行する。記録媒体１８００は、例えばＤＶＤ（Digital  Versatile  Disc）、ＰＤ（Phase  change  rewritable  Disk）等の光学記録媒体、ＭＯ（Magneto-Optical  disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
【０１１６】
例えば、コンピュータ１０００が実施形態に係る情報処理装置１０として機能する場合、コンピュータ１０００のＣＰＵ１１００は、ＲＡＭ１２００上にロードされたプログラムまたはデータ（例えば、モデルＭ）を実行することにより、制御部１３を実現する。コンピュータ１０００のＣＰＵ１１００は、これらのプログラムまたはデータ（例えば、モデルＭ）を記録媒体１８００から読み取って実行するが、他の例として、他の装置からネットワークＮを介してこれらのプログラムまたはデータ（例えば、モデルＭ）を取得してもよい。
【０１１７】
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の行に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【０１１８】
〔６．効果〕
本実施形態によれば、情報処理装置１０は、第１のテキストと、第１のテキストの属性を示す属性情報と、第１のテキストに対応するテキストであって生成条件を満たす第２のテキストと、を取得する。情報処理装置１０は、第１のテキストと属性情報と第２のテキストとに基づいて、入力テキストから生成条件を満たす出力テキストを生成するモデルＭの学習を行う。このとき、情報処理装置１０が学習を実行するモデルＭは、出力テキストとして、所定の文字数以下のテキストを生成するモデルであってもよい。これにより、情報処理装置１０は、第１のテキストの特徴を踏まえてモデルＭの学習を実行できる。頻度が低いスタイルのテキストが学習時の阻害要因とならないので、情報処理装置１０は、精度が高いモデルＭを生成できる。結果として情報処理装置１０は、入力テキストから精度が高い出力テキストを生成できる。
【０１１９】
情報処理装置１０は、第１のテキストと、属性情報と、第２のテキストと、第２のテキストの文体を示す文体情報と、を取得する。また、情報処理装置１０は、第１のテキストと属性情報と文体情報を入力データ、第２のテキストを正解データとしてモデルＭの学習を行う。これにより、情報処理装置１０は、第２のテキストの特徴を踏まえてモデルＭの学習を実行できる。精度が高いモデルＭが生成されるので、情報処理装置１０は、入力テキストから精度が高い出力テキストを生成できる。
【０１２０】
情報処理装置１０は、文体情報として、どの配信主体の文体かを示す情報、或いは、どの情報媒体の文体かを示す情報を取得する。これにより、情報処理装置１０は、配信主体或いは情報媒体の文のスタイルを踏まえてモデルＭの学習を実行できる。
【０１２１】
情報処理装置１０は、文体情報として、どの利用者属性に向けたテキストかを示す情報を取得する。これにより、情報処理装置１０は、利用者属性毎に文のスタイルが異なっていたとしても、それを踏まえてモデルＭの学習を実行できる。
【０１２２】
情報処理装置１０は、第１のテキストとして所定の配信主体からのテキストを取得し、属性情報として所定の配信主体を示す情報を取得する。これにより、情報処理装置１０は、配信主体の文のスタイルを踏まえてモデルＭの学習を実行できる。
【０１２３】
情報処理装置１０は、第１のテキストとして所定の情報媒体からのテキストを取得し、属性情報として所定の情報媒体を示す情報を取得する。これにより、情報処理装置１０は、情報媒体の文のスタイルを踏まえてモデルＭの学習を実行できる。
【０１２４】
情報処理装置１０は、入力テキストから入力テキストが有する特徴を示す特徴情報を生成するエンコーダＥ１と、特徴情報から出力テキストを生成するデコーダＤ１或いはＤ２と、を含むモデルＭの学習を行う。これにより、情報処理装置１０は、精度が高いモデルＭを生成できる。
【０１２５】
情報処理装置１０は、第１のテキストと該第１のテキストの属性を示す属性情報と第１のテキストに対応するテキストであって生成条件を満たす第２のテキストとに基づいて学習したモデルＭに入力される入力テキストと、入力テキストの属性を示す属性情報と、を取得する。そして、情報処理装置１０は、モデルＭに入力テキストと該入力テキストの属性情報とを入力することにより、入力テキストに対応するテキストであって生成条件を満たす出力テキストを生成する。このとき、情報処理装置１０は、出力テキストとして、所定の文字数以下のテキストを生成してもよい。これにより、情報処理装置１０は、入力テキストの属性を踏まえた精度が高い出力テキストを生成できる。
【０１２６】
情報処理装置１０は、第１のテキストと該第１のテキストの属性を示す属性情報と第２のテキストの文体を示す文体情報とを入力データ、第１のテキストに対応するテキストであって生成条件を満たす第２のテキストを正解データとして学習したモデルＭに入力される入力テキストと、入力テキストの属性を示す属性情報と、生成されるテキストの文体を指定するための情報であって文体情報に対応する文体指定情報と、を取得する。情報処理装置１０は、モデルＭに入力テキストと該入力テキストの属性情報と文体指定情報とを入力することにより、入力テキストに対応する生成条件を満たすテキストであって文体指定情報で指定された文体を有するテキストを生成する。これにより、情報処理装置１０は、ユーザ所望の文体の出力テキストを生成できる。
【０１２７】
情報処理装置１０は、文体指定情報として、どの配信主体の文体かを示す情報、或いは、どの情報媒体の文体かを示す情報を取得する。これにより、情報処理装置１０は、ユーザ所望の配信主体の文体に合わせた出力テキストを生成できる。
【０１２８】
情報処理装置１０は、文体指定情報として、どの利用者属性に向けたテキストかを示す情報を取得する。これにより、情報処理装置１０は、利用者に合わせた文体の出力テキストを生成できる。
【０１２９】
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【０１３０】
また、上述してきた「部（section、module、unit）」は、「手段」や「回路」などに読み替えることができる。例えば、学習部は、学習手段や学習回路に読み替えることができる。
【符号の説明】
【０１３１】
１０…情報処理装置
１１…通信部
１２…記憶部
１２１…学習データデータベース
１２２…モデルデータベース
１２３…コンテンツ情報データベース
１３…制御部
１３１…学習データ取得部
１３２…学習部
１３３…出力情報取得部
１３４…生成部
１３５…出力制御部
２０…データサーバ
３０…端末装置
Ｍ１、Ｍ２…モデル
Ｅ１…エンコーダ
Ｄ１、Ｄ２…デコーダ
Ｆ…特徴情報
Ｐ…属性情報
Ｑ…文体情報
【図１】
2019056973.tif 000003
【図２】
2019056973.tif 000004
【図３】
2019056973.tif 000005
【図４】
2019056973.tif 000006
【図５】
2019056973.tif 000007
【図６】
2019056973.tif 000008
【図７】
2019056973.tif 000009
【図８】
2019056973.tif 000010
【図９】
2019056973.tif 000011
【図１０】
2019056973.tif 000012
【図１１】
2019056973.tif 000013
【図１２】
2019056973.tif 000014
【手続補正書】
【提出日】平成31年1月30日(2019.1.30)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
第１のテキストと、前記第１のテキストの属性を示す属性情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、前記第２のテキストの文体を示す文体情報と、を取得する取得部と、
前記第１のテキストと前記属性情報と前記文体情報とを入力データ、前記第２のテキストを正解データとして、入力テキストから前記所定の条件を満たす出力テキストを生成するモデルの学習を行う学習部と、
を備えることを特徴とする学習装置。
【請求項２】
前記取得部は、前記文体情報として、どの配信主体の文体かを示す情報、或いは、どの情報媒体の文体かを示す情報を取得する、
ことを特徴とする請求項１に記載の学習装置。
【請求項３】
前記取得部は、前記文体情報として、どの利用者属性に向けたテキストかを示す情報を取得する、
ことを特徴とする請求項１に記載の学習装置。
【請求項４】
前記取得部は、前記第１のテキストとして所定の配信主体からのテキストを取得し、前記属性情報として前記所定の配信主体を示す情報を取得する、
ことを特徴とする請求項１〜３のいずれか１項に記載の学習装置。
【請求項５】
前記取得部は、前記第１のテキストとして所定の情報媒体からのテキストを取得し、前記属性情報として前記所定の情報媒体を示す情報を取得する、
ことを特徴とする請求項１〜４のいずれか１項に記載の学習装置。
【請求項６】
前記学習部は、前記入力テキストから前記入力テキストが有する特徴を示す特徴情報を生成するエンコーダと、前記特徴情報から前記出力テキストを生成するデコーダと、を含む前記モデルの学習を行う、
ことを特徴とする請求項１〜５のいずれか１項に記載の学習装置。
【請求項７】
第１のテキストと該第１のテキストの属性を示す属性情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストの文体を示す文体情報と、を入力データ、前記第２のテキストを正解データとして学習したモデルに入力される入力テキストと、前記入力テキストの属性を示す属性情報と、生成されるテキストの文体を指定するための情報であって前記文体情報に対応する文体指定情報と、を取得する取得部と、
前記モデルに前記入力テキストと該入力テキストの属性情報と前記文体指定情報とを入力することにより、前記入力テキストに対応する前記所定の条件を満たすテキストであって前記文体指定情報で指定された文体を有する出力テキストを生成する生成部と、
を備えることを特徴とする生成装置。
【請求項８】
前記取得部は、前記文体指定情報として、どの配信主体の文体かを示す情報、或いは、どの情報媒体の文体かを示す情報を取得する、
ことを特徴とする請求項７に記載の生成装置。
【請求項９】
前記取得部は、前記文体指定情報として、どの利用者属性に向けたテキストかを示す情報を取得する、
ことを特徴とする請求項７に記載の生成装置。
【請求項１０】
前記生成部は、前記出力テキストとして、所定の文字数以下のテキストを生成する、
ことを特徴とする請求項７〜９のいずれか１項に記載の生成装置。
【請求項１１】
学習装置が実行する学習方法であって、
第１のテキストと、前記第１のテキストの属性を示す属性情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、前記第２のテキストの文体を示す文体情報と、を取得する取得工程と、
前記第１のテキストと前記属性情報と前記文体情報とを入力データ、前記第２のテキストを正解データとして、入力テキストから前記所定の条件を満たす出力テキストを生成するモデルの学習を行う学習工程と、
を含むことを特徴とする学習方法。
【請求項１２】
生成装置が実行する生成方法であって、
第１のテキストと該第１のテキストの属性を示す属性情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストの文体を示す文体情報と、を入力データ、前記第２のテキストを正解データとして学習したモデルに入力される入力テキストと、前記入力テキストの属性を示す属性情報と、生成されるテキストの文体を指定するための情報であって前記文体情報に対応する文体指定情報と、を取得する取得工程と、
前記モデルに前記入力テキストと該入力テキストの属性情報と前記文体指定情報とを入力することにより、前記入力テキストに対応する前記所定の条件を満たすテキストであって前記文体指定情報で指定された文体を有する出力テキストを生成する生成工程と、
を含むことを特徴とする生成方法。
【請求項１３】
第１のテキストと、前記第１のテキストの属性を示す属性情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストと、前記第２のテキストの文体を示す文体情報と、を取得する取得手順と、
前記第１のテキストと前記属性情報と前記文体情報とを入力データ、前記第２のテキストを正解データとして、入力テキストから前記所定の条件を満たす出力テキストを生成するモデルの学習を行う学習手順と、
をコンピュータに実行させるための学習プログラム。
【請求項１４】
第１のテキストと該第１のテキストの属性を示す属性情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストの文体を示す文体情報と、を入力データ、前記第２のテキストを正解データとして学習したモデルに入力される入力テキストと、前記入力テキストの属性を示す属性情報と、生成されるテキストの文体を指定するための情報であって前記文体情報に対応する文体指定情報と、を取得する取得手順と、
前記モデルに前記入力テキストと該入力テキストの属性情報と前記文体指定情報とを入力することにより、前記入力テキストに対応する前記所定の条件を満たすテキストであって前記文体指定情報で指定された文体を有する出力テキストを生成する生成手順と、
をコンピュータに実行させるための生成プログラム。
【請求項１５】
第１のテキストと該第１のテキストの属性を示す属性情報と、前記第１のテキストに対応するテキストであって所定の条件を満たす第２のテキストの文体を示す文体情報と、を入力データ、前記第２のテキストを正解データとして学習したモデルであって、
入力テキストと前記入力テキストの属性を示す属性情報と、生成されるテキストの文体を指定するための情報であって前記文体情報に対応する文体指定情報とが入力される入力層と、
前記入力層に入力された前記入力テキストに対応するテキストであって前記所定の条件を満たす出力テキストを出力する出力層と、
前記入力層から前記出力層までのいずれかの層であって前記出力層以外の層に属する第１要素と、
前記第１要素と前記第１要素の重みとに基づいて値が算出される第２要素と、を含み、
前記入力層に入力された前記入力テキストに応じて、前記入力層に入力された前記入力テキストに対応する前記所定の条件を満たすテキストであって前記文体指定情報で指定された文体を有する前記出力テキストを出力層から出力するよう、
コンピュータを機能させるためのモデル。