(57)【要約】【課題】誤りの少ない要約を生成することができる要約生成装置、および学習装置を提供する。【解決手段】草稿生成部ＡＳＴＳは、原文エンコーダＡＥと、原文エンコーダＡＥと接続される草稿デコーダＡＤとを含む。草稿改善部ＣＳは、１段または複数段の推敲部ＢＳＴＳを含む。推敲部ＢＳＴＳは、草稿エンコーダＢＥと、草稿エンコーダＢＥと接続される推敲デコーダＢＤと、アテンション層ＢＡとを含む。草稿エンコーダＢＥ１は、草稿デコーダＡＤの出力を受ける。草稿エンコーダＢＥ２〜ＢＥＸは、前段の推敲デコーダの出力を受ける。原文エンコーダＡＥ、草稿デコーダＡＤ、草稿エンコーダＢＥ１〜ＢＥＸ、推敲デコーダＢＤ１〜ＢＤＸ、およびアテンション層ＢＡ１〜ＢＡＸのパラメータは、学習によって、原文エンコーダＡＥに原文が入力されて、推敲デコーダＢＤＸが要約を出力するように調整されている。【選択図】図１
2020024488.tif 000002
【特許請求の範囲】
【請求項１】
原文が入力される原文エンコーダと、前記原文エンコーダと接続される草稿デコーダとを含む草稿生成部と、
前記草稿生成部と接続され、１段または複数段の推敲部を含む草稿改善部とを備え、
前記推敲部は、草稿エンコーダと、前記草稿エンコーダと接続される推敲デコーダと、アテンション層とを含み、１段目の前記推敲部の前記草稿エンコーダは、前記草稿生成部の前記草稿デコーダの出力を受け、２段目以降の前記推敲部の前記草稿エンコーダは、前段の前記推敲部の前記推敲デコーダの出力を受け、最後段以外の前記推敲部の前記推敲デコーダの出力は、後段の前記推敲部の前記草稿エンコーダの入力と接続され、最後段の前記推敲部の前記推敲デコーダは、要約を出力し、
前記草稿生成部の前記原文エンコーダおよび前記草稿デコーダのパラメータと、前記１段または複数段の前記推敲部の前記草稿エンコーダ、前記推敲デコーダ、および前記アテンション層のパラメータとは、学習によって、前記草稿生成部の前記原文エンコーダに前記原文が入力されて、最後段の前記推敲部の前記推敲デコーダが前記要約を出力するように調整されている、要約生成装置。
【請求項２】
第ｘ段の前記推敲部の前記アテンション層は、前記草稿生成部の出力である前記原文エンコーダの出力と、第ｘ段の前記推敲部の前記草稿エンコーダの出力と、第ｘ段の前記推敲部の前記推敲デコーダの出力とを用いて、アテンションの重みベクトルを算出して、第ｘ段の前記推敲部の前記推敲デコーダへ出力されてなる、請求項１記載の要約生成装置。
【請求項３】
前記草稿生成部は、さらに、前記原文の単語が前記草稿デコーダの出力に含まれるか否かを表わす一致情報を生成するマッチ部と、前記原文と前記一致情報とが入力される第２の原文エンコーダとを備え、前記第２の原文エンコーダの出力が前記草稿生成部の出力となる請求項１記載の要約生成装置。
【請求項４】
第ｘ段の前記推敲部は、さらに、前記草稿生成部の出力と、第ｘ段の前記推敲部の前記草稿エンコーダの出力とに基づいて、前記草稿生成部の出力をフィルタリングして、第ｘ段の前記推敲部の前記アテンション層に送るゲートを含む、請求項１〜３のいずれか１項に記載の要約生成装置。
【請求項５】
第ｘ段の前記推敲部は、さらに、前記草稿生成部のの出力と、第ｘ段の前記推敲部の前記草稿エンコーダの出力とに基づいて、第ｘ段の前記推敲部の前記推敲デコータの初期状態を計算する演算部を含む、請求項１〜４のいずれか１項に記載の要約生成装置。
【請求項６】
原文が入力される原文エンコーダと、前記原文エンコーダと接続される草稿デコーダとを含む草稿生成部と、前記草稿生成部と接続され、１段または複数段の推敲部を含む草稿改善部とを備えた要約生成装置のパラメータを学習する学習装置における学習方法であって、前記推敲部は、草稿エンコーダと、前記草稿エンコーダと接続される推敲デコーダと、アテンション層とを含み、前記学習方法は、
第１の学習において、Ｍ個のセットの原文と要約とからなる学習データを用いて、前記草稿生成部の前記原文エンコーダに前記原文が入力されて、前記草稿生成部の前記草稿デコーダが前記要約を出力するように、前記草稿生成部の前記原文エンコーダおよび前記草稿デコーダのパラメータを学習するステップと、
前記学習されたパラメータを第２の学習における前記草稿生成部の前記原文エンコーダおよび前記草稿デコーダのパラメータの初期値に設定するステップと、
前記第２の学習において、Ｎ個のセットの原文と要約とからなる学習データを用いて、前記草稿生成部の前記原文エンコーダに前記原文が入力されて、最後段の前記推敲部の前記推敲デコーダが前記要約を出力するように、前記草稿生成部の前記原文エンコーダおよび前記草稿デコーダ、前記１段または複数段の前記推敲部の前記草稿エンコーダ、前記推敲デコーダ、および前記アテンション層のパラメータを学習するステップとを備えた、学習方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、要約生成装置、および学習方法に関する。
【背景技術】
【０００２】
テキストを自動要約する伝統的な技術では、テキスト内の単語等の重要度を何らかの尺度に基づいて推定し、重要な単語が指定された単語数内におさまるようにテキスト内の文を「抜粋」する手法が主流であった。これに対し、近年のニューラルネットワークを用いた生成技術の発展にともない、自動要約の手法も伝統的な「抜粋」型の手法から、自然な文を「生成」する技術が開発されている。「生成」型の自動要約の既存技術では、エンコーダ・デコーダモデルと呼ばれる、入力テキストを再帰的ニューラルネットワークで読み込み、その読み込み結果を利用して別の再帰的ニューラルネットワークで最終的な要約結果を生成するモデルを基礎とした要約手法が知られている（たとえば、非特許文献１を参照）。非特許文献１には、特に注視(アテンション)と呼ばれる入力テキストとの対応関係を生成時に考慮することで、自動翻訳の場合と同様に生成結果の品質が向上することが記載されている。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】Ramesh Nallapati, Bowen Zhou, Cicero dos Santos, Caglar Gulcehre, and Bing Xiang. "Abstractive Text Summarization using Sequence-to-sequence RNNs and Beyond", In Proceedings of the 20th SIGNLL Conference on Computational Natural Language Learning, pages 280-290
【発明の概要】
【発明が解決しようとする課題】
【０００４】
従来型の自動要約の技術では、要約結果を最終的に一度だけ生成するが、その生成された要約結果に誤りが含まれる場合であっても、出力結果に変更が加えられることはない。特に、非特許文献１に記載されているようなエンコーダとデコータに基づく自動要約手法では、出力結果はある方向(例えば、文頭)から順に漸次的に単語が決定され、その決定された単語が次への入力となるため、一度誤った出力が混入すると、その誤りに依存してその後の単語選択が行われるという問題がある。
【０００５】
それゆえに、本発明の目的は、誤りの少ない要約を生成することができる要約生成装置、および要約生成装置のパラメータを学習する学習装置の学習方法を提供することである。
【課題を解決するための手段】
【０００６】
本発明のある局面の要約生成装置は、原文が入力される原文エンコーダと、原文エンコーダと接続される草稿デコーダとを含む草稿生成部と、草稿生成部と接続され、１段または複数段の推敲部を含む草稿改善部とを備える。推敲部は、草稿エンコーダと、草稿エンコーダと接続される推敲デコーダと、アテンション層とを含む。１段目の推敲部の草稿エンコーダは、草稿生成部の草稿デコーダの出力を受ける。２段目以降の推敲部の草稿エンコーダは、前段の推敲部の推敲デコーダの出力を受ける。最後段以外の推敲部の推敲デコーダの出力は、後段の推敲部の草稿エンコーダの入力と接続される。最後段の推敲部の推敲デコーダは、要約を出力する。草稿生成部の原文エンコーダおよび草稿デコーダのパラメータと、１段または複数段の推敲部の草稿エンコーダ、推敲デコーダ、およびアテンション層のパラメータとは、学習によって、草稿生成部の原文エンコーダに原文が入力されて、最後段の推敲部の推敲デコーダが要約を出力するように調整されている。
【０００７】
好ましくは、第ｘ段の推敲部のアテンション層は、草稿生成部の出力である原文エンコーダの出力と、第ｘ段の推敲部の草稿エンコーダの出力と、第ｘ段の推敲部の推敲デコーダの出力とを用いて、アテンションの重みベクトルを算出して、第ｘ段の推敲部の推敲デコーダへ出力されてなる。
【０００８】
好ましくは、草稿生成部は、さらに、原文の単語が草稿デコーダの出力に含まれるか否かを表わす一致情報を生成するマッチ部と、原文と一致情報とが入力される第２の原文エンコーダとを備える。第２の原文エンコーダの出力が草稿生成部の出力となる。
【０００９】
好ましくは、第ｘ段の推敲部は、さらに、草稿生成部の出力と、第ｘ段の推敲部の草稿エンコーダの出力とに基づいて、草稿生成部の出力をフィルタリングして、第ｘ段の推敲部のアテンション層に送るゲートを含む。
【００１０】
好ましくは、第ｘ段の推敲部は、さらに、草稿生成部の出力と、第ｘ段の推敲部の草稿エンコーダの出力とに基づいて、第ｘ段の推敲部の推敲デコータの初期状態を計算する演算部を含む。
【００１１】
本発明のある局面の学習方法は、原文が入力される原文エンコーダと、原文エンコーダと接続される草稿デコーダとを含む草稿生成部と、草稿生成部と接続され、１段または複数段の推敲部を含む草稿改善部とを備えた要約生成装置のパラメータを学習する学習装置における学習方法であって、推敲部は、草稿エンコーダと、草稿エンコーダと接続される推敲デコーダと、アテンション層とを含む、学習方法は、第１の学習において、Ｍ個のセットの原文と要約とからなる学習データを用いて、草稿生成部の原文エンコーダに原文が入力されて、草稿生成部の草稿デコーダが要約を出力するように、草稿生成部の原文エンコーダおよび草稿デコーダのパラメータを学習するステップと、学習されたパラメータを第２の学習における草稿生成部の原文エンコーダおよび草稿デコーダのパラメータの初期値に設定するステップと、第２の学習において、Ｎ個のセットの原文と要約とからなる学習データを用いて、草稿生成部の原文エンコーダに原文が入力されて、最後段の推敲部の推敲デコーダが要約を出力するように、草稿生成部の原文エンコーダおよび草稿デコーダ、１段または複数段の推敲部の草稿エンコーダ、推敲デコーダ、およびアテンション層のパラメータを学習するステップとを備える。
【発明の効果】
【００１２】
本発明によれば、誤りの少ない要約を生成することができる。
【図面の簡単な説明】
【００１３】
【図１】第１の実施形態の要約生成装置２０の構成を表わす図である。
【図２】第１の実施形態の学習装置１０の構成を表わす図である。
【図３】第１の実施形態の要約生成装置２０の動作手順を表わすフローチャートである。
【図４】第１の実施形態の学習装置１０の動作手順を表わすフローチャートである。
【図５】第２の実施形態の草稿生成部ＡＳＴＳおよび草稿改善部ＣＳの詳細を表わす図である。
【図６】第３の実施形態の草稿生成部ＡＳＴＳおよび草稿改善部ＣＳの詳細を表わす図である。
【図７】第４の実施形態の草稿生成部ＡＳＴＳおよび草稿改善部ＣＳの詳細を表わす図である。
【図８】第５の実施形態の草稿生成部ＡＳＴＳおよび草稿改善部ＣＳの詳細を表わす図である。
【図９】第６の実施形態の草稿生成部ＡＳＴＳおよび草稿改善部ＣＳの詳細を表わす図である。
【図１０】学習装置１０および要約生成装置２０の内部構成を表わす図である。
【図１１】原文からコンパクトな回答を生成する実験の結果を表わす図である。
【図１２】原文から解決策の要約を生成する実験の結果を表わす図である。
【発明を実施するための形態】
【００１４】
以下、実施の形態について、図面を参照して説明する。
非特許文献１に記載されているようなエンコーダとデコータに基づく自動要約手法では、原文の読み込みと要約の生成はそれぞれ一度行われるため、生成される要約に誤りが多く含まれる。本願の発明者は、以下に示す段階的に要約を生成する方法を考案した。
【００１５】
［第１の実施形態］
図１は、第１の実施形態の要約生成装置２０の構成を表わす図である。
【００１６】
要約生成装置２０は、草稿生成部ＡＳＴＳと、草稿生成部ＡＳＴＳと接続される草稿改善部ＣＳとを備える。草稿改善部ＣＳは、Ｘ段の推敲部ＢＳＴＳ−１〜ＢＳＴＳ−Ｘを備える。Ｘ＝１以上の自然数である。
【００１７】
草稿生成部ＡＳＴＳは、原文エンコーダＡＥと、草稿デコーダＡＤと、アテンション層ＡＡとを備える。原文エンコーダＡＥと、草稿デコーダＡＤとは、シーケンス・トウ・シーケンスモデルを構成する。以下の説明において、エンコーダまたはデコーダの隠れ層の状態とは、エンコーダまたはデコーダの出力を意味する。
【００１８】
原文エンコーダＡＥは、原文のシーケンスをエンコードする。
アテンション層ＡＡは、原文エンコーダＡＥと、草稿デコーダＡＤの隠れ層の状態とを用いて、アテンションの重みベクトルを計算する。
【００１９】
草稿デコーダＡＤは、原文エンコーダＡＥと接続され、原文エンコーダＡＥの出力と、アテンション層ＡＡからのアテンションの重みベクトルとを用いて、隠れ層の状態を計算して、草稿を表わすシーケンスを出力する。
【００２０】
第ｘ段の推敲部ＢＳＴＳ−ｘは、ゲートＧｘと、草稿エンコーダＢＥｘと、推敲デコーダＢＤｘと、アテンション層ＢＡｘとを備える。草稿エンコーダＢＥｘと、推敲デコーダＢＤｘとは、シーケンス・トウ・シーケンスモデルを構成する。
【００２１】
第１段の推敲部ＢＳＴＳ−１の草稿エンコーダＢＥ１は、草稿生成部ＡＳＴＳの草稿デコーダＡＤの出力を受けて、エンコードする。第ｘ段の推敲部ＢＳＴＳ−ｘ（ｘ＝２〜Ｘ）の草稿エンコーダＢＥｘは、第（ｘ−１）段の推敲部ＢＳＴＳ−（ｘ−１）の推敲デコーダＢＤ（ｘ−１）の出力を受けて、エンコードする。
【００２２】
第ｘ段のゲートＧｘは、草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の最終出力と、第ｘ段の推敲部ＢＳＴＳ−ｘの草稿エンコーダＢＥｘの隠れ層の最終出力とに基づいて、草稿生成部ＡＳＴＳの原文エンコーダＡＥの各単語インデックスの隠れ層の状態をフィルタリングして、第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘに送る。
【００２３】
第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘは、ゲートＧｘでフィルタリングされた草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の状態と、第ｘ段の推敲部ＢＳＴＳ−ｘの草稿エンコーダＢＥｘの隠れ層の状態と、推敲デコーダＢＤｘの隠れ層の状態とを用いて、アテンションの重みベクトルを算出して、第ｘ段の推敲部ＢＳＴＳ−ｘの推敲デコーダＢＤｘへ出力する。推敲デコーダの初期状態は、例えば、ランダムデータが設定されていてよい。
【００２４】
最後段である第Ｘ段の推敲部ＢＳＴＳ−Ｘの推敲デコーダＢＤＸは、草稿エンコーダＢＥＸの出力と、第Ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡＸからの重みベクトルとに基づいて、隠れ層の状態を計算して、要約を表わすシーケンスを出力する。
【００２５】
最後段である第Ｘ段以外の推敲部ＢＳＴＳ−ｘ（ｘ＝１〜Ｘ−１）の推敲デコーダＢＤｘは、草稿エンコーダＢＥｘの出力と、第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘからの重みベクトルとに基づいて、隠れ層の状態を計算して、推敲後の草稿のシーケンスを後段である第（ｘ＋１）段の推敲部ＢＳＴＳ−（ｘ＋１）の草稿エンコーダＢＥ（ｘ＋１）の入力へ送る。
【００２６】
草稿生成部ＡＳＴＳの原文エンコーダＡＥおよび草稿デコーダＡＤのパラメータと、推敲部ＢＳＴＳ−ｘ（ｘ＝１〜Ｘ）の草稿エンコーダＢＥｘ、推敲デコーダＢＤｘ、およびアテンション層ＢＡｘのパラメータとは、学習によって、草稿生成部ＡＳＴＳの原文エンコーダＡＥに原文が入力されて、最後段の推敲部ＢＳＴＳ−Ｘの推敲デコーダＢＤＸが要約を出力するように調整されている。
【００２７】
以上のようにして、草稿生成部ＡＳＴＳから出力される草稿を改善した要約が草稿改善部ＣＳから出力される。
【００２８】
図２は、第１の実施形態の学習装置１０の構成を表わす図である。
学習装置１０は、草稿生成部ＡＳＴＳと、草稿改善部ＣＳとを備える。草稿改善部ＣＳは、Ｘ段の推敲部ＢＳＴＳ−１〜ＢＳＴＳ−Ｘと、学習データ記憶部１３と、学習結果記憶部１５とを備える。
【００２９】
草稿生成部ＡＳＴＳは、原文エンコーダＡＥと、草稿デコーダＡＤと、アテンション層ＡＡとを備える。原文エンコーダＡＥと、草稿デコーダＡＤとは、シーケンス・トウ・シーケンスモデルを構成する。
【００３０】
学習データ記憶部１３は、原文と要約とからなる複数個の学習データセットを記憶する。
【００３１】
原文エンコーダＡＥは、学習データ記憶部１３に記憶されている学習データセットの原文のシーケンスを受けて、エンコードする。
【００３２】
アテンション層ＡＡは、原文エンコーダＡＥの隠れ層の状態と、草稿デコーダＡＤの隠れ層の状態とを用いて、アテンションの重みベクトルを計算する。
【００３３】
草稿デコーダＡＤは、原文エンコーダＡＥと接続され、原文エンコーダＡＥの出力と、学習データ記憶部１３に記憶されている学習データセットの要約と、アテンション層ＡＡからのアテンションの重みベクトルとを用いて、隠れ層の状態を計算して、草稿を表わすシーケンスを出力する。
【００３４】
第ｘ段の推敲部ＢＳＴＳ−ｘは、ゲートＧｘと、草稿エンコーダＢＥｘと、推敲デコーダＢＤｘと、アテンション層ＢＡｘとを備える。草稿エンコーダＢＥｘと、推敲デコーダＢＤｘとは、シーケンス・トウ・シーケンスモデルを構成する。
【００３５】
第１段の推敲部ＢＳＴＳ−１の草稿エンコーダＢＥ１は、草稿生成部ＡＳＴＳの草稿デコーダＡＤの出力を受けて、エンコードする。第ｘ段の推敲部ＢＳＴＳ−ｘ（ｘ＝２〜Ｘ）の草稿エンコーダＢＥｘは、第（ｘ−１）段の推敲部ＢＳＴＳ−（ｘ−１）の推敲デコーダＢＤ（ｘ−１）の出力を受けて、エンコードする。
【００３６】
第ｘ段のゲートＧｘは、草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の最終出力と、第ｘ段の推敲部ＢＳＴＳ−ｘの草稿エンコーダＢＥｘの隠れ層の最終出力とに基づいて、草稿生成部ＡＳＴＳの原文エンコーダＡＥの各単語インデックスの隠れ層の状態をフィルタリングして、第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘに送る。
【００３７】
第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘは、ゲートＧｘにてフィルタリングされた草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の状態と、第ｘ段の推敲部ＢＳＴＳ−ｘの草稿エンコーダＢＥｘの隠れ層の状態と、推敲デコーダＢＤｘの隠れ層の状態とを用いて、アテンションの重みベクトルを算出して、第ｘ段の推敲部ＢＳＴＳ−ｘの推敲デコーダＢＤｘへ出力する。
【００３８】
最後段である第Ｘ段の推敲部ＢＳＴＳ−Ｘの推敲デコーダＢＤＸは、学習データ記憶部１３に記憶されている学習データセットの要約と、草稿エンコーダＢＥＸの出力と、第Ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡＸからの重みベクトルとに基づいて、隠れ層の状態を計算して、要約を表わすシーケンスを出力する。
【００３９】
最後段である第Ｘ段以外の推敲部ＢＳＴＳ−ｘ（ｘ＝２〜Ｘ−１）の推敲デコーダＢＤｘは、草稿エンコーダＢＥｘの出力と、第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘからのアテンションの重みベクトルとに基づいて、隠れ層の状態を計算して、推敲後の草稿のシーケンスを後段である第（ｘ＋１）段の推敲部ＢＳＴＳ−（ｘ＋１）の草稿エンコーダＢＥ（ｘ＋１）の入力へ送る。
【００４０】
第１回目の学習によって、草稿生成部ＡＳＴＳの原文エンコーダＡＥ、アテンション層ＡＡおよび草稿デコーダＡＤのパラメータとは、草稿生成部ＡＳＴＳの原文エンコーダＡＥに原文が入力されて、草稿デコーダＡＤが要約を出力するように調整される。第２回目の学習によって、草稿生成部ＡＳＴＳの原文エンコーダＡＥおよび草稿デコーダＡＤのパラメータと、推敲部ＢＳＴＳ−ｘ（ｘ＝１〜Ｘ）の草稿エンコーダＢＥｘ、推敲デコーダＢＤｘ、およびアテンション層ＢＡｘのパラメータとは、草稿生成部ＡＳＴＳの原文エンコーダＡＥに原文が入力されて、最後段の推敲部ＢＳＴＳ−Ｘの推敲デコーダＢＤＸが要約を出力するように調整される。
【００４１】
学習結果記憶部１５は、学習によって調整されたパラメータを記憶する。
図３は、第１の実施形態の要約生成装置２０の動作手順を表わすフローチャートである。
【００４２】
図３を参照して、ステップＳ１０１において、草稿生成部ＡＳＴＳにおいて以下が実行される。原文エンコーダＡＥが原文のシーケンスをエンコードする。アテンション層ＡＡが、原文エンコーダＡＥの隠れ層の状態と草稿デコーダＡＤの隠れ層の状態とを用いて、アテンションの重みベクトルを計算する。草稿デコーダＡＤが、原文エンコーダＡＥの出力と、アテンション層ＡＡからのアテンションの重みベクトルとを用いて、隠れ層の状態を計算して、草稿を表わすシーケンスを出力する。
【００４３】
ステップＳ１０２において、第１段の推敲部ＢＳＴＳ−１において以下が実行される。
草稿エンコーダＢＥ１が、草稿生成部ＡＳＴＳの草稿デコーダＡＤの出力をエンコードする。
【００４４】
ゲートＧ１が、草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の最終出力と、第１段の推敲部ＢＳＴＳ−１の草稿エンコーダＢＥ１の隠れ層の最終出力とに基づいて、草稿生成部ＡＳＴＳの原文エンコーダＡＥの各単語インデックスの隠れ層の状態をフィルタリングして、第１段の推敲部ＢＳＴＳ−１のアテンション層ＢＡ１に送る。
【００４５】
第１段の推敲部ＢＳＴＳ−１のアテンション層ＢＡ１は、草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の状態と、第１段の推敲部ＢＳＴＳ−１の草稿エンコーダＢＥ１の隠れ層の状態と、推敲デコーダＢＤ１の隠れ層の状態とを用いて、アテンションの重みベクトルを算出して、第１段の推敲部ＢＳＴＳ−１の推敲デコーダＢＤ１へ出力する。
【００４６】
第１段の推敲部ＢＳＴＳ−１の推敲デコーダＢＤ１は、草稿エンコーダＢＥ１の出力と、第１段の推敲部ＢＳＴＳ−１のアテンション層ＢＡ１からのアテンションの重みベクトルとに基づいて、隠れ層の状態を計算して、草稿を表わすシーケンスを出力する。
【００４７】
ステップＳ１０３において、ｘ＝２に設定される。
ステップＳ１０４において、第ｘ段の推敲部ＢＳＴＳ−ｘにおいて以下が実行される。
【００４８】
草稿エンコーダＢＥｘは、第（ｘ−１）段の推敲部ＢＳＴＳ−（ｘ−１）の推敲デコーダＢＤ（ｘ−１）の出力をエンコードする。
【００４９】
ゲートＧｘが、草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の最終出力と、第ｘ段の推敲部ＢＳＴＳ−ｘの草稿エンコーダＢＥｘの隠れ層の最終出力とに基づいて、草稿生成部ＡＳＴＳの原文エンコーダＡＥの各単語インデックスの隠れ層の状態をフィルタリングして、第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘに送る。
【００５０】
第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘは、ゲートＧｘにてフィルタリングされた草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の状態と、第ｘ段の推敲部ＢＳＴＳ−ｘの草稿エンコーダＢＥｘの隠れ層の状態と、推敲デコーダＢＤｘの隠れ層の状態とを用いて、アテンションの重みベクトルを算出して、第ｘ段の推敲部ＢＳＴＳ−ｘの推敲デコーダＢＤｘへ出力する。
【００５１】
第ｘ段の推敲部ＢＳＴＳ−ｘの推敲デコーダＢＤｘは、草稿エンコーダＢＥｘの出力と、第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘからのアテンションの重みベクトルとに基づいて、隠れ層の状態を計算して、推敲後の草稿のシーケンスを出力する。ｘ＝Ｘ以外では、推敲後の草稿のシーケンスが、後段である第（ｘ＋１）段の推敲部ＢＳＴＳ−（ｘ＋１）の草稿エンコーダＢＥ（ｘ＋１）の入力へ送られる。ｘ＝Ｘでは、推敲後の草稿のシーケンスが、要約を表わすシーケンスとして草稿改善部ＣＳから出力される。
【００５２】
ステップＳ１０５において、ｘ＝Ｘの場合に、処理が終了する。ｘ＝Ｘでない場合に、処理がステップＳ１０６に進む。ｘ＝Ｘの場合は、最終の要約文が出力される。
【００５３】
ステップＳ１０６において、ｘがインクリメントされて、処理がステップＳ１０４に戻る。
【００５４】
図４は、第１の実施形態の学習装置１０の動作手順を表わすフローチャートである。
ステップＳ２０１〜Ｓ２０７において、第１の学習が実行され、ステップＳ２０９〜Ｓ２１９において、第２の学習が実行される。ここで、第１の学習においては、全学習データセットのうちの半分を用いて実行され、第２の学習においては、全学習データセットを用いて実行する方法が採用されている。例えば、第１の学習において、Ｊ個のデータを用い、第２の学習においてＫ個のデータを用いる方法を利用することもできる。この時、Ｊ＋Ｋが全学習データの数となる。
【００５５】
さらに、ここでの説明は、説明の都合上、学習データを１回だけ学習処理する方法での説明を行っているが、深層学習の通常の方法で、採用される方法（学習データセットをトレーニングデータとバリデーションデータに分けて、トレーニングデータにより学習処理を行い、その後、バリデーションデータによる確認を行って、誤差が所定範囲になるように、トレーニングデータによる学習と、バリデーションデータによる評価処理を繰り返す方法）を用いることもできる。
【００５６】
以下、図４に従い、学習処理の概要を説明する。
ステップＳ２０１において、ｓ＝１に設定される。
【００５７】
ステップＳ２０２において、学習データ記憶部１３に記憶されている第ｓ番目の学習データセットの原文が草稿生成部ＡＳＴＳへ送られる。
【００５８】
ステップＳ２０３において、草稿生成部ＡＳＴＳにおいて以下が実行される。原文エンコーダＡＥが、学習データ記憶部１３に記憶されている学習データセットの原文のシーケンスをエンコードする。アテンション層ＡＡが、原文エンコーダＡＥの隠れ層の状態と草稿デコーダＡＤの隠れ層の状態とを用いて、アテンションの重みベクトルを計算する。草稿デコーダＡＤが、学習データ記憶部１３に記憶されている学習データセットの要約と、原文エンコーダＡＥの出力と、アテンション層ＡＡからのアテンションの重みベクトルとを用いて、草稿を表わすシーケンスを出力する。
【００５９】
ステップＳ２０５において、第ｓ番目の学習データセットの要約と、草稿生成部ＡＳＴＳの草稿デコーダＡＤの出力との誤差が最小となるように誤差逆伝搬法によって、原文エンコーダＡＥ、草稿デコーダＡＤ、およびアテンション層ＡＡのパラメータを学習する。
【００６０】
ステップＳ２０６において、ｓ≧Ｍ／２の場合に、処理がステップＳ２０８に進む。ｓ≧Ｍ／２でない場合に、処理がステップＳ２０７に進む（Ｍは学習データの個数）。
【００６１】
ステップＳ２０７において、ｓがインクリメントされて、処理がステップＳ２０２に戻る。
【００６２】
ステップＳ２０８において、草稿生成部ＡＳＴＳの原文エンコーダＡＥ、草稿デコーダＡＤ、およびアテンション層ＡＡのパラメータをステップＳ２０５において学習されたパラメータに初期設定する。
【００６３】
ステップＳ２０９において、ｓ＝１に設定される。
ステップＳ２１０において、学習データ記憶部１３に記憶されている第ｓ番目の学習データセットの原文を草稿生成部ＡＳＴＳへ送られる。
【００６４】
ステップＳ２１１において、草稿生成部ＡＳＴＳにおいて以下が実行される。原文エンコーダＡＥが学習データ記憶部１３に記憶されている学習データセットの原文のシーケンスをエンコードする。アテンション層ＡＡが、原文エンコーダＡＥの隠れ層の状態と草稿デコーダＡＤの隠れ層の状態とを用いて、アテンションの重みベクトルを計算する。草稿デコーダＡＤが、原文エンコーダＡＥの出力と、アテンション層ＡＡからのアテンションの重みベクトルとを用いて、隠れ層の状態を計算して、草稿を表わすシーケンスを出力する。
【００６５】
ステップＳ２１２において、第１段の推敲部ＢＳＴＳ−１において以下が実行される。
草稿エンコーダＢＥ１が、草稿生成部ＡＳＴＳの草稿デコーダＡＤの出力をエンコードする。
【００６６】
ゲートＧ１が、草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の最終出力と、第１段の推敲部ＢＳＴＳ−１の草稿エンコーダＢＥ１の隠れ層の最終出力とに基づいて、草稿生成部ＡＳＴＳの原文エンコーダＡＥの各単語インデックスの隠れ層の状態をフィルタリングして、第１段の推敲部ＢＳＴＳ−１のアテンション層ＢＡ１に送る。
【００６７】
第１段の推敲部ＢＳＴＳ−１のアテンション層ＢＡ１は、ゲートＧ１にてフィルタリングされた草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の状態と、第１段の推敲部ＢＳＴＳ−１の草稿エンコーダＢＥ１の隠れ層の状態と、推敲デコーダＢＤ１の隠れ層の状態とを用いて、アテンションの重みベクトルを算出して、第１段の推敲部ＢＳＴＳ−１の推敲デコーダＢＤ１へ出力する。
【００６８】
第１段の推敲部ＢＳＴＳ−１の推敲デコーダＢＤ１は、草稿エンコーダＢＥ１の出力と、第１段の推敲部ＢＳＴＳ−１のアテンション層ＢＡ１からのアテンションの重みベクトルとに基づいて、隠れ層の状態を計算して、草稿を表わすシーケンスを出力する。
【００６９】
ステップＳ２１３において、ｘ＝２に設定される。
ステップＳ２１４において、第ｘ段の推敲部ＢＳＴＳ−ｘにおいて以下が実行される。
【００７０】
草稿エンコーダＢＥｘは、第（ｘ−１）段の推敲部ＢＳＴＳ−（ｘ−１）の推敲デコーダＢＤ（ｘ−１）の出力をエンコードする。
【００７１】
ゲートＧｘが、草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の最終出力と、第ｘ段の推敲部ＢＳＴＳ−ｘの草稿エンコーダＢＥｘの隠れ層の最終出力とに基づいて、草稿生成部ＡＳＴＳの原文エンコーダＡＥの各単語インデックスの隠れ層の状態をフィルタリングして、第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘに送る。
【００７２】
第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘは、ゲートＧｘにてフィルタリングされた草稿生成部ＡＳＴＳの原文エンコーダＡＥの隠れ層の状態と、第ｘ段の推敲部ＢＳＴＳ−ｘの草稿エンコーダＢＥｘの隠れ層の状態と、推敲デコーダＢＤｘの隠れ層の状態とを用いて、アテンションの重みベクトルを算出して、第ｘ段の推敲部ＢＳＴＳ−ｘの推敲デコーダＢＤｘへ出力する。
【００７３】
ｘ＝Ｘ以外の場合に、第ｘ段の推敲部ＢＳＴＳ−ｘの推敲デコーダＢＤｘは、草稿エンコーダＢＥｘの出力と、第ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡｘからのアテンションの重みベクトルとに基づいて、隠れ層の状態を計算して、推敲後の草稿のシーケンスを後段である第（ｘ＋１）段の推敲部ＢＳＴＳ−（ｘ＋１）の草稿エンコーダＢＥ（ｘ＋１）の入力へ送る。
【００７４】
ｘ＝Ｘの場合には、推敲部ＢＳＴＳ−Ｘの推敲デコーダＢＤＸは、学習データ記憶部１３に記憶されている学習データセットの要約と、草稿エンコーダＢＥＸの出力と、第Ｘ段の推敲部ＢＳＴＳ−ｘのアテンション層ＢＡＸからのアテンションの重みベクトルとに基づいて、隠れ層の状態を計算して、要約を表わすシーケンスを出力する。
【００７５】
ステップＳ２１５において、ｘ＝Ｘの場合に、処理がステップＳ２１７に進む。ｘ＝Ｘでない場合に、処理がステップＳ２１６に進む。
【００７６】
ステップＳ２１６において、ｘがインクリメントされて、処理がステップＳ２１４に戻る。
【００７７】
ステップＳ２１７において、第ｓ番目の学習データセットの要約と、推敲部ＢＳＴＳ−Ｘの推敲デコーダＢＤＸの出力との誤差が最小となるように誤差逆伝搬法によって、草稿生成部ＡＳＴＳの原文エンコーダＡＥ、およびアテンション層ＡＡと、推敲部ＢＳＴＳ−ｘ（ｘ＝１〜Ｘ）の草稿エンコーダＢＥｘ、推敲デコーダＢＤｘ、およびアテンション層ＢＡｘのパラメータを学習する。
【００７８】
ステップＳ２１８において、ｓ＞＝Ｍの場合に、処理が終了する。ｓ＞＝Ｍでない場合に、処理がステップＳ２１９に進む。
【００７９】
ステップＳ２１０において、ｓがインクリメントされて、処理がステップＳ２１０に戻る。
【００８０】
学習終了後の草稿生成部ＡＳＴＳの原文エンコーダＡＥおよびアテンション層ＡＡと、推敲部ＢＳＴＳ−ｘ（ｘ＝１〜Ｘ）の草稿エンコーダＢＥｘ、推敲デコーダＢＤｘ、およびアテンション層ＢＡｘのパラメータが学習結果記憶部１５に記憶される。
【００８１】
本実施の形態では、草稿生成部から出力される草稿を１段または複数段の推敲部を含む草稿改善部によって改善することができる。
【００８２】
［第２の実施形態］
以下では、草稿改善部ＣＳが１段の推敲部ＢＳＴＳ−１を含むものとして説明する。すなわち、Ｘ＝１として説明する。
【００８３】
図５は、第２の実施形態の草稿生成部ＡＳＴＳおよび草稿改善部ＣＳの詳細を表わす図である。草稿改善部ＣＳは、第１段の推敲部ＢＳＴＳ−１を含む。図から明らかなように、エンコーダには、エンベディング層及び隠れ層が含まれ、デコーダには、エンベディング層、隠れ層、出力層が含まれている（図６から図９においても同様）。
【００８４】
なお、第２の実施形態におけるデコーダＡＤ、ＢＤ１などの学習処理の詳細については周知の処理であるので、説明は省略する（図６から図９においても同様）。
【００８５】
草稿生成部ＡＳＴＳは、原文が入力される原文エンコーダＡＥと、草稿が出力される草稿デコーダＡＤと、アテンション層ＡＡとを含む。原文エンコーダＡＥと、草稿デコーダＡＤとは、シーケンス・トウ・シーケンスモデルを構成する。
【００８６】
原文エンコーダＡＥは、単語の並び（ｋ＝１〜ｎ）に沿って展開されたエンベディング層と、双方向のＧＲＵ（Gated Recurrent Unit）を有するリカレントニューラルネットワークとを備える。
【００８７】
エンベディング層は、単語のインデックスｉにおいて、原文の単語ｗiを受けて、固定長の実数値ベクトルで表されるｅ（ｗi）を出力する。
【００８８】
単語のインデックスｉにおいて、双方向のＧＲＵを有するリカレントニューラルネットワークの隠れ層の状態ｈisrcは、式（Ａ１）〜（Ａ１３）によって表される。
【００８９】
【数１】
2020024488.tif 000003
【００９０】
草稿デコーダＡＤは、単語の並び（ｋ＝１〜ｍ）に沿って展開されたエンベディング層と、一方向のＧＲＵを有するリカレントニューラルネットワークとを備える。
【００９１】
エンベディング層は、単語のインデックスｔにおいて、要約生成時には、単語のインデックス（ｔ−１）においてリカレントニューラルネットワークから出力される草稿の単語ｙ′t-1を受けて、固定長の実数値ベクトルで表されるｅ（ｙ′t-1）を出力する。
【００９２】
要約生成時には、単語のインデックスｔにおいて、一方向のＧＲＵを有するリカレントニューラルネットワークの隠れ層の状態（以下、草稿デコーダＡＤの隠れ層の状態ともいう）ｓtsrcは、式（Ｂ１）〜（Ｂ６）によって表される。
【００９３】
アテンション層ＡＡは、草稿デコーダＡＤの隠れ層の状態ｓtsrcと、原文エンコーダＡＥの隠れ層の状態ｈisrc（i=1〜n）とを用いてアテンションの重みベクトルｄtsrcを算出する。草稿デコーダＡＤは、原文エンコーダＡＥの出力と、アテンション層ＡＡからのアテンションの重みベクトルｄt-1srcとを用いて、隠れ層の状態ｓtsrcを計算して、草稿を表わすシーケンスを出力する。
【００９４】
【数２】
2020024488.tif 000004
【００９５】
アテンション層ＡＡは、式（Ｂ７）〜（Ｂ１０）によって式（Ｂ１）における文脈ベクトルｄtsrcを重みベクトルとして算出する。式（Ｂ８）におけるαt,isrcは、アテンション分布を表わし、アライメント重みベクトルとも呼ばれる。アテンション分布αt,isrcは、草稿デコーダＡＤが、単語のインデックスｔにおいて入力される単語ｗiを注視するスコアを表わす。アテンション分布αt,isrcは、草稿デコーダＡＤの隠れ層の状態ｓtsrcと、原文エンコーダＡＥの隠れ層の状態ｈisrcとを用いて算出される。重みベクトルｄtsrcは、原文エンコーダＡＥのリカレントニューラルネットワークの隠れ層の状態ｈisrc（i=1〜n）の単語のインデックスｔにおけるアテンション分布αt,isrcを重みとした重み付き線形和である。
【００９６】
【数３】
2020024488.tif 000005
【００９７】
リカレントニューラルネットワークの出力層は、単語のインデックスｔにおいて、隠れ層の状態ｓtsrcと、アテンションの重みベクトルｄtsrcから、式（Ｂ１１）に示す草稿の単語を表わす出力ｙ′tを出力する。
【００９８】
【数４】
2020024488.tif 000006
【００９９】
推敲部ＢＳＴＳ−１は、草稿エンコーダＢＥ１と、推敲デコーダＢＤ１と、アテンション層ＢＡ１とを含む。草稿エンコーダＢＥ１と、推敲デコーダＢＤ１とは、シーケンス・トウ・シーケンスモデルを構成する。
【０１００】
草稿エンコーダＢＥ１は、単語の並び（ｋ＝１〜ｎ）に沿って展開されたエンベディング層と、双方向のＧＲＵを有するリカレントニューラルネットワークとを備える。
【０１０１】
エンベディング層は、単語のインデックスｊにおいて、草稿デコーダＡＤから出力される草稿の単語ｙj′を受けて、固定長の実数値ベクトルで表されるｅ（ｙj′）を出力する。
【０１０２】
単語のインデックスｊにおいて、リカレントニューラルネットワークの隠れ層の状態ｈjdftは、式（Ｃ１）〜（Ｃ３）によって表される。
【０１０３】
【数５】
2020024488.tif 000007
【０１０４】
推敲デコーダＢＤ１は、単語の並び（ｋ＝１〜ｍ）に沿って展開されたエンベディング層と、一方向のＧＲＵを有するリカレントニューラルネットワークとを備える。
【０１０５】
エンベディング層は、単語のインデックスｔにおいて、要約生成時には、単語のインデックス（ｔ−１）においてリカレントニューラルネットワークから出力される草稿の単語ｙt-1を受けて、固定長の実数値ベクトルで表されるｅ（ｙt-1）を出力する。
【０１０６】
要約生成時には、単語のインデックスｔにおいて、リカレントニューラルネットワークの隠れ層の状態ｓtrevは、式（Ｄ１）によって表される。
【０１０７】
アテンション層ＢＡ１は、推敲デコーダＢＤ１の隠れ層の状態ｓtrevと、原文エンコーダＡＥの隠れ層の状態ｈisrc（i=1〜n）と、草稿エンコーダＢＥ１の隠れ層の状態ｈidft（j=1〜m）とを用いてアテンションの重みベクトルｄtsrcを算出する。推敲デコーダＢＤ１は、推敲デコーダＢＤ１の出力と、アテンション層ＢＡ１からのアテンションの重みベクトルｄt-1revに基づいて、隠れ層の状態ｓtrevを計算して、要約を表わすシーケンスを出力する。
【０１０８】
【数６】
2020024488.tif 000008
【０１０９】
アテンション層ＢＡ１は、式（Ｄ２）〜（Ｄ７）によって、式（Ｄ１）における第１の文脈ベクトルｄtrevを重みベクトルとして算出する。式（Ｄ７）におけるαt,irevは、アテンション分布を表わし、アライメント重みベクトルとも呼ばれる。アテンション分布αt,irevは、推敲デコーダＢＤ１が、単語のインデックスｔにおいて入力される単語ｗiを注視するスコアを表わす。アテンション分布αt,irevは、推敲デコーダＢＤ１の隠れ層の状態ｓtrevと、原文エンコーダＡＥの隠れ層の状態ｈisrcと、第２の文脈ベクトルｄtdftと用いて算出される。
【０１１０】
第１の文脈ベクトルｄtrevは、原文エンコーダＡＥのリカレントニューラルネットワークの隠れ層の状態ｈisrc（i=1〜n）の単語のインデックスｔにおけるアテンション分布αt,irevを重みとした重み付き線形和である。
【０１１１】
式（Ｄ２）におけるαt,jdftは、アテンション分布を表わし、アライメント重みベクトルとも呼ばれる。アテンション分布αt,jdftは、推敲デコーダＢＤ１が、単語のインデックスｔにおいて入力される単語ｙ′jを注視するスコアを表わす。アテンション分布αt,jdftは、推敲デコーダＢＤ１の隠れ層の状態ｓtrevと、草稿エンコーダＢＥ１の隠れ層の状態ｈidftと用いて算出される。
【０１１２】
第２の文脈ベクトルｄtdftは、草稿エンコーダＢＥ１のリカレントニューラルネットワークの隠れ層の状態ｈjdft（j=1〜m）の単語のインデックスｔにおけるアテンション分布αt,jdftを重みとした重み付き線形和である。
【０１１３】
【数７】
2020024488.tif 000009
【０１１４】
リカレントニューラルネットワークの出力層は、単語のインデックスｔにおいて、隠れ層の状態ｓtsrcから、式（Ｄ８）に示す要約の単語を表わす出力ｙtを出力する。
【０１１５】
【数８】
2020024488.tif 000010
【０１１６】
以上のように、本実施の形態では、原文エンコーダＡＥの隠れ層の状態ｈisrcと、草稿エンコーダＢＥｘの隠れ層の状態ｈidftとを用いて、アテンションの重みベクトルが算出される。これによって、草稿生成部から出力される草稿を改善することができる。
【０１１７】
［第３の実施形態］
図６は、第３の実施形態の草稿生成部ＡＳＴＳおよび草稿改善部ＣＳの詳細を表わす図である。草稿改善部ＣＳは、第１段の推敲部ＢＳＴＳ−１を含む。
【０１１８】
第３の実施形態の草稿生成部ＡＳＴＳは、第２の実施形態の草稿生成部ＡＳＴＳと同様である。
【０１１９】
第３の実施形態の推敲部ＢＳＴＳ−１は、第２の実施形態の推敲部ＢＳＴＳ−１の構成にゲートＧ１を備えるとともに、アテンション層ＢＡ１が第２の実施形態と異なる。
【０１２０】
ゲートＧ１は、原文エンコーダＡＥの隠れ層の最終出力と、草稿エンコーダＢＥ１の隠れ層の最終出力とに基づいて、原文エンコーダＡＥの各単語インデックスの隠れ層の状態ｈisrcをフィルタリングして、アテンション層ＢＡ１に送る。
【０１２１】
ゲートＧ１は、単語の並び（ｋ＝１〜ｍ）に沿って展開されたゲート層およびゲートベクトル演算層と、演算部ＣＯＭ１とを備える。
【０１２２】
演算部ＣＯＭ１は、原文エンコーダＡＥの隠れ層の最終出力と、草稿エンコーダＢＥ１の隠れ層の最終出力とを用いて、式（Ｅ１）および（Ｅ２）によって、ｒsrc、ｒdftを算出する。原文エンコーダＡＥの隠れ層の最終出力は、原文エンコーダＡＥの単語のインデックス（ｋ＝１）の隠れ層の逆方向の状態←ｈ1srcと、原文エンコーダＡＥの単語インデックス（ｋ＝ｎ）の隠れ層の順方向の状態→ｈnsrcである。草稿エンコーダＢＥ１の隠れ層の最終出力は、草稿エンコーダＢＥ１の単語のインデックス（ｋ＝１）の隠れ層の逆方向の状態←ｈ1dftと、草稿エンコーダＢＥ１の単語のインデックス（ｋ＝ｍ）の隠れ層の順方向の状態→ｈmdftである。
【０１２３】
【数９】
2020024488.tif 000011
【０１２４】
ゲートベクトル演算層は、単語インデックスｉにおいて、原文エンコーダＡＥの単語のインデックスｉの隠れ層の状態ｈisrcと、ｒsrc、ｒdftを用いて、式（Ｅ３）に従って、ゲートベクトルｇiを算出する。
【０１２５】
ゲート層は、単語のインデックスｉにおいて、式（Ｅ４）に従って、隠れ層の状態ｈisrcを置換する状態ｈigateを算出する。
【０１２６】
アテンション層ＢＡ１は、推敲デコーダＢＤ１の隠れ層の状態ｓtrevと、ゲートＧ１の出力ｈigate（i=1〜n）とを用いてアテンションの重みベクトルｄtsrcを算出する。
【０１２７】
アテンション層ＢＡ１は、式（Ｈ１）〜（Ｈ３）によって、式（Ｄ１）における文脈ベクトルｄt-1revを重みベクトルとして算出する。式（Ｈ２）におけるαt,irevは、アテンション分布を表わし、アライメント重みベクトルとも呼ばれる。アテンション分布αt,irevは、推敲デコーダＢＤ１が、単語のインデックスｔにおいて入力される単語ｗiを注視するスコアを表わす。アテンション分布αt,irevは、推敲デコーダＢＤ１の隠れ層の状態ｓtrevと、原文エンコーダＡＥの隠れ層の状態ｈisrcと用いて算出される。
【０１２８】
重みベクトルｄtrevは、ゲートＧ１の出力ｈigate（i=1〜n）の単語のインデックスｔにおけるアテンション分布αt,irevを重みとした重み付き線形和である。
【０１２９】
【数１０】
2020024488.tif 000012
【０１３０】
以上のように、第３の実施形態では、推敲部が、ゲートＧ１を備えることによって、草稿生成部から出力される草稿を改善することができる。
【０１３１】
［第４の実施形態］
図７は、第４の実施形態の草稿生成部ＡＳＴＳおよび草稿改善部ＣＳの詳細を表わす図である。草稿改善部ＣＳは、第１段の推敲部ＢＳＴＳ−１を含む。
【０１３２】
第４の実施形態の草稿生成部ＡＳＴＳは、第２および第３の実施形態の草稿生成部ＡＳＴＳと同様である。
【０１３３】
第４の実施形態の推敲部ＢＳＴＳ−１は、第３の実施形態の推敲部ＢＳＴＳ−１と同様に、ゲートＧ１を備える。
【０１３４】
ゲートＧ１は、原文エンコーダＡＥの隠れ層の最終出力と、草稿エンコーダＢＥ１の隠れ層の最終出力とに基づいて、原文エンコーダＡＥの各単語インデックスの隠れ層の状態ｈisrcをフィルタリングして、アテンション層ＢＡ１に送る。
【０１３５】
ゲートＧ１は、単語の並び（ｋ＝１〜ｍ）に沿って展開されたゲート層およびゲートベクトル演算層と、演算部ＣＯＭ１とを備える。
【０１３６】
演算部ＣＯＭ１は、原文エンコーダＡＥの隠れ層の最終出力と、草稿エンコーダＢＥ１の隠れ層の最終出力とを用いて、式（Ｅ１）および（Ｅ２）によって、ｒsrc、ｒdftを算出する。原文エンコーダＡＥの隠れ層の最終出力は、原文エンコーダＡＥの単語のインデックス（ｋ＝１）の隠れ層の逆方向の状態←ｈ1srcと、原文エンコーダＡＥの単語インデックス（ｋ＝ｎ）の隠れ層の順方向の状態→ｈnsrcである。草稿エンコーダＢＥ１の隠れ層の最終出力は、草稿エンコーダＢＥ１の単語のインデックス（ｋ＝１）の隠れ層の逆方向の状態←ｈ1dftと、草稿エンコーダＢＥ１の単語のインデックス（ｋ＝ｍ）の隠れ層の順方向の状態→ｈmdftである。なお明細書では、上付き矢印が表記できないため、以後も、→ｈmdft  等と表記する。
【０１３７】
ゲートベクトル演算層は、単語のインデックスｉにおいて、原文エンコーダＡＥの単語インデックスｉの隠れ層の状態ｈisrcと、ｒsrc、ｒdftを用いて、式（Ｅ３）に従って、ゲートベクトルｇiを算出する。
【０１３８】
ゲート層は、単語インデックスｉにおいて、式（Ｅ４）に従って、隠れ層の状態ｈisrcを置換する状態ｈigateを算出する。第３の実施形態では、推敲デコーダＢＤ１およびアテンション層ＢＡ１は、式（Ｂ７）、（Ｂ８）において、ｈisrcに代えて、ｈigateを用いる。
【０１３９】
以上のように、第４の実施形態では、推敲部が、ゲートＧ１を備えることによって、草稿生成部から出力される草稿を改善することができる。
【０１４０】
［第５の実施形態］
図８は、第５の実施形態の草稿生成部ＡＳＴＳおよび草稿改善部ＣＳの詳細を表わす図である。草稿改善部ＣＳは、第１段の推敲部ＢＳＴＳ−１を含む。
【０１４１】
第５の実施形態の草稿生成部ＡＳＴＳは、第２〜第４の実施形態の草稿生成部ＡＳＴＳと同様である。
【０１４２】
第５の実施形態の推敲部ＢＳＴＳ−１は、第４の実施形態の推敲部ＢＳＴＳ−１の演算部ＣＯＭ１に代えて、演算部ＣＯＭ２を備える。
【０１４３】
演算部ＣＯＭ２は、演算部ＣＯＭ１と同様に、原文エンコーダＡＥの隠れ層の最終出力と、草稿エンコーダＢＥ１の隠れ層の最終出力とを用いて、式（Ｅ１）および（Ｅ２）によって、ｒsrc、ｒdftを算出する。
【０１４４】
演算部ＣＯＭ２は、さらに、原文エンコーダＡＥの隠れ層の最終出力と、草稿エンコーダＢＥ１の隠れ層の最終出力とに基づいて、推敲デコーダＢＤ１のリカレントニューラルネットワークの隠れ層の初期状態ｓ′0revを算出する。なお、本実施の形態以外の場合には、ｓ0revは、以下の計算式に基づき作成される。
【０１４５】
【数１１】
2020024488.tif 000013
【０１４６】
より具体的には、演算部ＣＯＭ２は、原文エンコーダＡＥの隠れ層の最終出力と、草稿エンコーダＢＥ１の隠れ層の最終出力とを用いて、式（Ｆ１）に従って、推敲デコーダＢＤ１のリカレントニューラルネットワークの隠れ層の初期状態ｓ′0revを算出する。
【０１４７】
原文エンコーダＡＥの隠れ層の最終出力は、原文エンコーダＡＥの単語のインデックス（ｋ＝１）の隠れ層の逆方向の状態←ｈ1srcと、原文エンコーダＡＥの単語のインデックス（ｋ＝ｎ）の隠れ層の順方向の状態→ｈnsrcである。草稿エンコーダＢＥ１の隠れ層の最終出力は、草稿エンコーダＢＥ１の単語のインデックス（ｋ＝１）の隠れ層の逆方向の状態←ｈ1dftと、草稿エンコーダＢＥ１の単語インデックス（ｋ＝ｍ）の隠れ層の順方向の状態→ｈmdftである。
【０１４８】
【数１２】
2020024488.tif 000014
【０１４９】
以上のように、第５の実施形態では、原文エンコーダＡＥの隠れ層の最終出力と、草稿エンコーダＢＥ１の隠れ層の最終出力とに基づいて、推敲デコーダＢＤ１のリカレントニューラルネットワークの隠れ層の初期状態ｓ‘0revを算出するので、草稿生成部から出力される草稿を改善することができる。
【０１５０】
なお、第５の実施形態では、上述の推敲デコーダＢＤ１のリカレントニューラルネットワークの隠れ層の初期状態ｓ′0revを算出する機能を第４の実施形態に対して追加したが、第２または第３の実施形態に対して追加するものとしてもよい。
【０１５１】
［第６の実施形態］
図９は、第６の実施形態の草稿生成部ＡＳＴＳおよび草稿改善部ＣＳの詳細を表わす図である。草稿改善部ＣＳは、第１段の推敲部ＢＳＴＳ−１を含む。
【０１５２】
第６の実施形態の草稿生成部ＡＳＴＳは、第２の実施形態の草稿生成部ＡＳＴＳの構成要素に加えて、一致判定部ＭＡと、第２の原文エンコーダＡＥ２とを備える。
【０１５３】
一致判定部ＭＡは、式（Ｇ１）〜（Ｇ３）に示すように、単語ｗiが草稿デコーダＡＤが出力する草稿の単語ｙ′1〜ｙ′mに含まれるか否かを表わす一致情報ｌiを生成する。Ｙ′は、草稿の単語の集合を表わす。ｄは、単語ｗiが草稿の集合Ｙ′に含まれることを示すシンボルである。ｎｄは、単語ｗiが草稿の集合Ｙ′に含まれないことを示すシンボルである。
【０１５４】
【数１３】
2020024488.tif 000015
【０１５５】
第２の原文エンコーダＡＥ２は、単語の並び（ｋ＝１〜ｎ）に沿って展開されたエンベディング層と、双方向のＧＲＵを有するリカレントニューラルネットワークとを備える。
【０１５６】
エンベディング層は、式（Ｇ１４）に示すように、単語のインデックスｉにおいて、原文の単語ｗiと一致情報ｌiとを含む固定長の実数値ベクトルで表されるｅ′（ｗi）を出力する。ｖ（ｌi）は、ｌiに対応するランダムに初期化されたベクトルである。Ｗは、一定の行列である。
【０１５７】
【数１４】
2020024488.tif 000016
【０１５８】
単語インデックスｉにおいて、原文エンコーダＡＥ２のリカレントニューラルネットワークの隠れ層の状態ｈ′isrcは、式（Ｇ５）〜（Ｇ７）によって表される。
【０１５９】
【数１５】
2020024488.tif 000017
【０１６０】
第６の実施形態では、推敲デコーダＢＤ１およびアテンション層ＢＡ１は、ｈisrcに代えてｈ′isrcを用いる。
【０１６１】
以上のように、第６の実施形態によれば、単語ｗiとともに、単語ｗiが草稿デコーダＡＤが出力する草稿の単語ｙ′1〜ｙ′mに含まれるか否かを表わす一致情報ｌiを含めてエンコードした結果を推敲部ＢＳＴＳ−１のアテンション層ＢＡ１に送るので、草稿生成部から出力される草稿を改善することができる。
【０１６２】
なお、第６の実施形態では、上述の一致情報を含めてエンコードする機能を第２の実施形態に対して追加したが、第３〜第５の実施形態に対して追加するものとしてもよい。第３〜第５の実施形態に対して追加する場合は、第２の原文エンコーダＡＥ２の出力が、図６〜図８におけるゲートＧ１におけるゲート層およびゲートベクトル演算層に入力される。また、草稿生成部ＡＳＴＳが、原文エンコーダＡＥを含むときには、草稿生成部ＡＳＴＳの出力とは、原文エンコーダＡＥの出力を意味する。草稿生成部ＡＳＴＳが、原文エンコーダＡＥに加えて、第２の原文エンコーダＡＥ２を含むときには、草稿生成部ＡＳＴＳの出力とは、第２の原文エンコーダＡＥ２の出力を意味する。
【０１６３】
［第７の実施形態］
上述の実施形態に係る学習装置１０および要約生成装置２０は、コンピュータハードウェアと、そのコンピュータハードウェア上で実行されるコンピュータプログラムとにより実現できる。
【０１６４】
図１０は、学習装置１０および要約生成装置２０の内部構成を表わす図である。
図１０を参照して、学習装置１０および要約生成装置２０は、バス１３００と、ＣＰＵ（Central Processing Unit）１３０１と、ＲＯＭ（Read Only Memory）１３０２と、ＲＡＭ（Random Access Memory）１３０３と、ＨＤＤ（Hard Disk Drive)１３０４と、ＤＶＤ（Digital Versatile Disk）１３０７が接続されたＤＶＤドライブ１３０６と、ネットワークＩ／Ｆ１３０９と、キーボード１３１０と、マウス１３１１と、リムーバブルメモリ１３１３が接続されるメモリポート１３１２と、ディスプレイ１３０８とを備える。
【０１６５】
キーボード１３１０およびマウス１３１１は、開発側の人員またはユーザからの入力を受け付ける。上述の実施形態で説明した機能をコンピュータで実現するための要約学習プログラムまたは要約生成プログラムは、ＤＶＤ１３０７、リムーバブルメモリ１３１３、ネットワークＩ／Ｆ１３０９からＨＤＤ１３０４に転送される。ＲＯＭ１３０２は、たとえば起動プログラム等を記憶する。ＲＡＭ１３０３は、実行中のプログラムの作業データなどを記憶する。ネットワークＩ／Ｆ１３０９は、インターネット１４００に接続され、Ｗｅｂ１０００上のデータを取得することができる。
【０１６６】
［実験結果］
以下に、上記の実施形態の効果について説明する。
【０１６７】
図１１は、原文からコンパクトな回答を生成する実験の結果を表わす図である。図１２は、原文から解決策の要約を生成する実験の結果を表わす図である。図１１および図１２において、Ｎは、単語の生成に使用するベクトルの大きさを表わす。
【０１６８】
ＰＧは、論文Ａ"Abigail See, Peter J. Liu, and Christopher D. Manning. 2017. Get to the point: Summarization with pointer-generator networks. In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics, pages 1073-1083"に記載されている方法である。
【０１６９】
Ｂａｓｅは、論文Ｂ"Ryo Ishida, Kentaro Torisawa, Jong-Hoon Oh, Ryu Iida, Canasai Kruengkrai, and Julien Kloetzer. 2018. Semi-distantly supervised neural model for generating compact answers to open-domain why questions. In Proceedings of the 32nd AAAI Conference on Artificial Intelligence."に記載されている方法である。
【０１７０】
Ｂａｓｅ＋ｇａｔｅｄは、論文Ｃ"Qingyu Zhou, Nan Yang, Furu Wei, and Ming Zhou. 2017. Selective encoding for abstractive sentence summarization. In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics, pages 1095-1104."に記載されているゲートエンコード方法と、論文Ｂに記載されている方法を組み合わせた方法である。
【０１７１】
Ｐｒｏｐｏｓｅｄ（Ａ）は、原文エンコーダの隠れ層の状態と、草稿エンコーダの隠れ層の状態の両方を用いて、推敲部のアテンション層のアテンションの重みベクトルを求める手法である。この手法は、第２の実施形態に記載されている。
【０１７２】
Ｐｒｏｐｏｓｅｄ（Ｂ）は、ゲートを用いる手法である。この手法は、第３の実施形態で記載されている。
【０１７３】
Ｐｒｏｐｏｓｅｄ（Ｃ）は、推敲デコーダのリカレントニューラルネットワークの隠れ層の初期状態を算出する方法である。この手法は、第５の実施形態において、推敲部のアテンション層のアテンションの重みベクトルを、原文エンコーダの隠れ層の状態と、草稿エンコーダの隠れ層の状態の両方を用いて計算するのではなく、原文エンコーダの隠れ層の状態を用いて計算する方法に置き換えたものである。
【０１７４】
Ｐｒｏｐｏｓｅｄ（Ａ＋Ｂ）は、上記Ｐｒｏｐｏｓｅｄ（Ａ）とＰｒｏｐｏｓｅｄ（Ｂ）とを組み合わせた方法である。この方法は、第４の実施形態に記載されている。Ｐｒｏｐｏｓｅｄ（Ａ＋Ｃ）は、上記Ｐｒｏｐｏｓｅｄ（Ａ）とＰｒｏｐｏｓｅｄ（Ｃ）とを組み合わせた方法である。Ｐｒｏｐｏｓｅｄ（Ｂ＋Ｃ）は、上記Ｐｒｏｐｏｓｅｄ（Ｂ）とＰｒｏｐｏｓｅｄ（Ｃ）とを組み合わせた方法である。Ｐｒｏｐｏｓｅｄ（Ａ＋Ｂ＋Ｃ）は、上記Ｐｒｏｐｏｓｅｄ（Ａ）とＰｒｏｐｏｓｅｄ（Ｂ）とＰｒｏｐｏｓｅｄ（Ｃ）とを組み合わせた方法である。この方法は、第５の実施形態に記載されている。
【０１７５】
Ｒ−１、Ｒ−２．Ｒ−Ｌは、生成された要約の品質を評価する手法である。Ｒ−１、Ｒ−２、Ｒ−Ｌは、論文Ｄ"Chin-Yew Lin. 2004. ROUGE: A package for automatic evaluation of summaries. In Proceedings of the ACL-04 Workshop on Text Summarization Branches Out, pages 74-81"に記載されているＲＯＵＧＥ−１、ＲＯＵＧＥ−２、ＲＯＵＧＥ−ＬのＦスコアを表わす。Ａｖｇ.Ｌは、出力した要約文の平均単語数を表す。
【０１７６】
図１１および図１２に示すように、全体として、本実施の形態の方法は、従来の方法よりも品質の高い要約が生成されるといえる。
【０１７７】
［変形例］
本発明は、上記の実施形態に限定されるものではない。本発明は、以下のような変形例も含まれる。
【０１７８】
（１）上記の実施形態のエンコーダＡＥ、ＢＥ１〜ＢＥＸ、ＡＥ２、デコーダＡＤ、ＢＤ１〜ＢＤＸは、ＧＲＵを有するリカレントニューラルネットワークによって構成されるものとしたが、これに限定されるものではない。たとえば、エンコーダＡＥ、ＢＥ１〜ＢＥＸ、ＡＥ２、デコーダＡＤ、ＢＤ１〜ＢＤＸは、ＬＳＴＭ（Long Short-Term Memory）を有するリカレントニューラルネットワークによって構成されるものとしてもよい。
【０１７９】
（２）推敲デコーダＢＤＸから出力される要約の単語ｙtを論文Ａに記載された式によって、求めることとしてもよい。
【０１８０】
（３）上記の実施形態では、草稿エンコーダＢＥｘ（ｘ＝２〜Ｘ）には、推敲デコーダＢＤ（ｘ−１）の出力結果が入力されるものとしたが、これに限定されるものではない。草稿エンコーダＢＥｘ（ｘ＝２〜Ｘ）には、推敲デコーダＢＤ１〜ＢＤ（ｘ−１）の出力のうちのいずれか１つが独立に入力される、あるいはすべてが重み付き線形和で入力されるものとしてもよい。
【０１８１】
（４）学習
上記の実施形態では、第１の学習と第２の学習の２段階の学習を実行したが、これに限定されるものではない。第２の学習のみを実行するものとしてもよい。
【０１８２】
また、推敲デコーダＢＤ１〜ＢＤＸの出力と、徐々に品質が増加する学習用の草稿との誤差が最小となるように学習することによって、推敲デコーダＢＤ１〜ＢＤＸから出力される草稿の品質が徐々に増加するようにしてもよい。
【０１８３】
（５）パラメータを学習する機能と、学習されたパラメータを用いて原文から草稿を生成する機能とが１台の装置で実行されるものとしてもよい。
【０１８４】
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【０１８５】
１０  学習装置、１３  学習データ記憶部、１５  学習結果記憶部、２０  要約生成装置、ＡＳＴＳ  草稿生成部、ＣＳ  草稿改善部、ＢＳＴＳ−１〜ＢＳＴＳ−Ｘ  推敲部、ＡＥ，ＡＥ２  原文エンコーダ、ＡＤ  草稿デコーダ、ＢＥ１〜ＢＥＸ  草稿エンコーダ、ＢＤ１〜ＢＤＸ  推敲デコーダ、Ｇ１〜ＧＸ  ゲート、ＡＡ，ＢＡ１〜ＢＡＸ  アテンション層、ＣＯＭ１，ＣＯＭ２  演算部、ＭＡ  一致判定部、１３００  バス、１３０１  ＣＰＵ、１３０２  ＲＯＭ、１３０３  ＲＡＭ、１３０４  ＨＤＤ、１３０６  ＤＶＤドライブ、１３０７  ＤＶＤ、１３０８  ディスプレイ、１３０９  ネットワークＩ／Ｆ、１３１０  キーボード、１３１１  マウス、１３１２  メモリポート、１３１３  リムーバブルメモリ、１４００  インターネット。
【図１】
2020024488.tif 000018
【図２】
2020024488.tif 000019
【図３】
2020024488.tif 000020
【図４】
2020024488.tif 000021
【図５】
2020024488.tif 000022
【図６】
2020024488.tif 000023
【図７】
2020024488.tif 000024
【図８】
2020024488.tif 000025
【図９】
2020024488.tif 000026
【図１０】
2020024488.tif 000027
【図１１】
2020024488.tif 000028
【図１２】
2020024488.tif 000029