称号及び氏名

博士（工学） 福田 清人

学位授与の日付

平成 31 年 3 月 31 日

論

「計算機による物語の創発的生成に関する研究」

文

名

論文審査委員主査

藤 本典 幸副査

吉 岡理 文副査

本 多克 宏

副査

森直 樹

論文要旨

近年, General-purpose computing on graphics processing units (GPGPU) 技術の発展を含む計算機の爆発的な性能向上に伴い, 深層学習 (Deep Learning: DL) に代表される機械学習 (Machine Learning: ML)の性能が大幅に向上している. 画像識別や機械翻訳, 音声認識などの人工知能 (Artificial Intelligence: AI)の各分野において, 深層学習を用いることでこれまでの手法では限界とされていた結果を大きく上回る成果が次々と報告されている. そのような状況の中で深層学習の次なる適用先として, 音楽や絵画, 小説や漫画といった人の感性に基づく創作物の総称としての物語を対象とした研究分野に大きな注目が集まっている.
人の感性が構成要素の重要な部分を占めている物語を工学的に処理可能とすることは, 人間と同様の知能をもつ機械, いわゆる「強い AI」の実装を目的とする人工知能研究において, 重要度が極めて高い研究である.
これは計算機に物語を理解させることが, 計算機で処理することが困難な人の感性を理解させることや, 人の感性を計算機上で再現可能とすることに直結するためである. また AI 研究の究極の目標である, 「人のような AI」を実現するためには人の感性や創作活動の理解は必要不可欠であると考えられる.
物語はストーリーと表現媒体の 2 つの要素から構成されており, それらの組合せによって小説や漫画などの創作物に枝分かれしていく. また, ストーリーと表現媒体は時代とともに互いに影響を与え合いながら変化, 洗練されてきた. ここで, ストーリーは物語の内容であり, 表現媒体はその内容をどのような形で表現するかという表現方法である. これまでの研究では小説や漫画, 絵本や音楽を対象とした研究が主流であり,ストーリーと表現媒体を組み合わせた創作物を研究対象としてきた. しかしながら, ストーリーと表現媒体はそれぞれ独立した研究対象として扱うべきである. これは, ストーリーと表現媒体が密接に絡み合った創作物に焦点を当ててしまうと, それぞれに対する正確な特徴を抽出することができないためである. その結果, 研究結果を他の創作物に適用することが困難となり, 物語に対する理解が不完全になってしまう恐れがある. そこで, 本論文ではストーリーに焦点を当て, 計算機がストーリーを理解しながら物語を生成することを最終目的として, 生成と解析という 2 つの方向から計算機で創作物を処理する方法について考える. ス
トーリーに焦点を当てるのは, ストーリーの方が表現媒体よりも時間経過に対してロバストであり, 計算機の創作物理解にとって有用であると考えたためである. ストーリーが表現媒体よりも時間経過にロバストであることは, 表現媒体が時代とともに姿を大きく変えることがある一方, 古くから存在するストーリーの典型的な構造が現代でもしばしば使用されることから明らかである. また画像処理や自然言語処理の急速な発展により, 自然言語や静止画に関する自動生成の研究ではすでに一定以上の成果が得られている. そのため,それらより困難な研究対象でありながらも目的実現のためには不可欠な要素であるストーリーに挑戦する.
生成における研究対象には絵本を, 解析における研究対象には小説を用いる. また本研究においては, 単なる検索やパターンマッチングにとどまらず, より高次の創作に近い技術の実現に着眼することを創発的であると位置づけ研究を進める.
計算機を用いた物語創作に関する研究には根底となる考え方が 3 種類ある. まず, 従来までの, 計算機は便利なツールとして位置づけられ, 創作の中心はあくまでも人であるとした「計算機で物語を創作する」という考え方がある. これは “The human creates narratives by the computer.” と英訳できる. 次に, 新たな考え方である, 人が初期設定やある程度のデータを与えるだけで, 計算機が主体となって物語を創作するとした「計算機が物語を創作する」という考え方がある. これは “The computer creates narratives.” と英訳できる. 最後に, これら 2 つの考え方の中間的な考え方である, 人と計算機が物語の創作において相補的な関係にあり, 物語の根幹に関する部分は計算機が生成し, それに対して人が修正や変更を加えることで物語を共同で創作するとした「計算機と物語を創作する」という考え方がある. これは“The human createsnarratives with the computer.” と英訳できる. 本論文の最終目的はこの中で 2 つ目の考え方に従うものである. しかしながら, 2 つ目の考え方は非常に困難であるため, 本論文では 3 つ目の考え方に従って研究を進める.
本論文では, 計算機による物語の創発的な自動生成の実現可能性の観点, 計算機が理解および処理可能なストーリーの表現形式の観点, 計算機によるストーリーや物語の解析という 3 つの観点から研究を進める.
以下にこの 3 つの観点に対する課題を述べる. まず, 本研究を進めるうえで, 計算機による物語の創発的な自動生成にどの程度の実現可能性があるかを確認することは最優先課題である. 物語の創発的な自動生成は,従来までの既存作品に基づいた物語の自動生成とは考え方が大きく異なる. そのためトップダウン的に, 実現に向けた課題を詳細に定義することは非常に困難である. そこで, 既存技術を用いた物語の生成システムを構築し, 目的である物語の創発的な自動生成システムとの間にある差から, 解決するべき課題を発見する
ボトムアップ的なアプローチが実現可能性を確認するために必要となる. また, ボトムアップ的なアプロー
チをとることで, 現在の技術を応用することでどこまでが実現でき, 目的達成のためにはどのような技術が必要となるかを知見として得ることが可能となる. 次に, 本論文ではストーリーを物語の内容とした. これは非常に抽象的な概念であり, そのままでは人と計算機が共通認識をもつことは難しい. これを理解するためには何らかの方法でストーリーを定量的に表現する必要がある. ストーリーは, 人が理解しやすく他者とも共有しやすい表現媒体である自然言語, 具体的には文章で表現されることがもっとも多い. しかしながら,文章で表現されたストーリーは計算機にとっては理解困難なものである. 文章で表現されたストーリーを計算機が処理可能な数値空間上に, ストーリー同士の関係性を維持しながら写像する必要がある. 自然言語はこれまで感情やカテゴリの様な 1 側面のみに着目して数値化されることが多く, ストーリーのような抽象的なものを計算機に理解可能な形式で表現することは困難である. 最後に, 既存のストーリーや物語が有する多種多様な情報を計算機による創発的な自動生成に利用するためには, それらを多次元数値空間上で解析する必要がある. 計算機が創発的に物語を自動生成する場合, 解析結果を数値として取得して直接利用する必要があるためである. 一方, ストーリーや物語は人の感性に大きく依存している. そのため, 人手で解析することで研究目的を実現するために必要な知見を得ることも重要である. 多次元数値空間で得られた結果を可視化することや, 人が理解可能な形式で解析を進めることも必要となる.
本論文では, 計算機と相性の良い数値シミュレーション, 近年急速な発展を遂げた深層学習, これまでに築き上げられた自然言語処理という異なる 3 種類の技術を基幹技術として, 上述した観点における問題や課題を解決するためのシステムや手法を構築する. 異なる基幹技術に基づくシステムや手法に対する実験を通して, 計算機がストーリーを理解しながら物語を創発的に生成するための方法について多角的な視点から考察する.
以下に本論文の構成を示す. まず, 第 2 章では従来までの「計算機で物語を創作する」という考え方ではなく, 「計算機が物語を創作する」という計算機による主体的な物語生成の考え方に基づく物語の自動生成手法の実現可能性を確認するため, 「計算機と物語を創作する」という考え方に基づき, 絵本の半自動生成手法を提案した. 具体的には, 代表的な計算機シミュレーション手法の 1 つである Agent-BasedSimulation を用いて得られるシミュレーションログから複数の表現媒体に対応したストーリーモデルを生成し, ストーリーモデルに基づいてイラストと文章を生成することで絵本を半自動生成した. 被験者によるユーザ実験により, シミュレーションログから生成されたストーリーモデルが自然言語と静止画という 2 つの表現媒体に対応できること, ストーリーモデルを用いて参考にしたストーリーとは異なりつつも自然なストーリーで絵本を半自動生成できることを示した. また, ユーザの評価からシーン遷移の妥当性を識別するモデルを導入することで絵本の完成度が高まることを示した. これらの結果から, 「計算機と物語を創作する」という考え方に基づいて絵本を半自動生成することは十分に可能であり, ストーリーモデルを拡張することで「計算機が物語を創作する」という考え方に基づく物語の自動生成には実現可能性があることを示した.
第 3 章では文章で表現されることが多いストーリーを計算機が処理および理解可能な形式で表現するため,双方向 Long Short-Term Memory (LSTM) に基づく Autoencoder を用いた意味を考慮した文ベクトルの獲得手法を提案した. Encoder-Decoder モデルへの入出力に Word2Vec で得られる単語ベクトルを利用することで, 単語の種類だけでなく意味を考慮した文ベクトルを獲得できる特性を備えている. 従来手法との比較実験により, 提案手法で得られた文ベクトルを用いることで文の意味的な類似性を定義可能であることを示した. また, 2 層の LSTM から構成されるニューラルネットワークモデルにおいて, 各層で異なる情報を保存した文ベクトルが獲得できることを示した. 具体的には, 第 1 層から得られる文ベクトルには主に文法や品詞のような文の表層的な情報が保存され, 第 2 層から得られる文ベクトルには主にセンチメントのような文の深層的な情報が保存される. これは人間の文に対する認知過程とある種の類似性があり, 計算機によるストーリー理解に関する重要な知見を得た. 人間の認知と近い分散表現を得ることは人間と類似した思考をすることを可能とし, 創発的な物語生成の視点から有用である.
第 4 章では人が物語を創作する上で必要な知識や技術を計算機が理解および処理可能な形で獲得することで物語の創発的生成を実現するため, 文ベクトル間の類似度に基づく文の意味的な類似性を考慮した小説の自動セグメンテーション手法を提案した. また, 上述した手法で得られたセグメント間の遷移に着目した小説のストーリー展開の類似性を解析する手法を提案した. 文学作品を用いた実験により, 小説文の文ベクトルを用いて多次元数値空間上でストーリーを解析できることや, 適切なパラメータを設定することで小説を人手によるアノテートに頼ることなく, 構造情報や意味を考慮した形で自動分割できることを示した. 自動分割された小説から文章中の単語分布に依存することなく, ストーリー展開の類似性や文章構成の類似性について解析できることも示した. これらの結果から, 専門家の経験則に基づいた人手での解析に頼ることなく, 計算機が物語を部分的に解析可能であることを示した. 人手に頼らないストーリー展開の類似性解析は計算機がストーリーを俯瞰して捉えるために必須の技術であり, 日本語の小説に対して初めて同手法を提案したことで大きな成果を得た.
最後に, 第 5 章では第 2 章から第 4 章を通して得られた結果, 目的とした計算機による物語の創発的な自動生成に関していくつかの有効な要素技術を確立し, 現段階で困難な項目についてはその問題点を明確にすることで, 「計算機が物語を創作する」という最終目的に対して十分な成果を得たということを示した.

審査結果の要旨
本論文は計算機による創発的な物語生成というテーマに関して, 生成と解析の 2 方向からアプローチを試
み，ストーリー生成およびストーリー理解に必要な手法を提案している． 計算機による物語の創発的な自動生成の実現可能性の観点, 計算機が理解および処理可能なストーリーの表現形式の観点, 計算機によるストーリーや物語の解析という 3 つの観点について研究を進めている. 具体的な提案システムによる数値実験から，以下の重要な研究成果を得ている.
(1) 人が物語を創作する場合, 自身の体験や他者の体験談のような物語の核となるデータが必要となる. 提案手法であるAgent-Based Simulation (ABS) に基づくストーリーモデルを用いた絵本の半自動生成手法に対するユーザ実験により, この部分を人が明示的に計算機に導入することなく, 計算機自身が創発的に物語の核となるデータを構築できることがわかった.
(2) 小説のような自然言語を用いた物語に関して, 単語と比べて表現が膨大な多様性を有する文は, 単語と同じような辞書的な対応では人と計算機が共通認識を持つ具体的な実装はできない. そのため, 創発的な文生成において計算機が文を人に近い感覚で認識する定量的表現が必須となる. 提案手法である双方向 LSTM に基づく Autoencoder を用いた意味を考慮した文ベクトルの獲得手法に関する数値実験から, 人の認知に近い文の分散表現が獲得できることを示した.
(3) 物語の創発的生成のためには, 計算機がストーリー全体を俯瞰する能力が必要となる. そこで, 文ベクトル間の類似度に基づく小説の自動セグメンテーション手法,およびセグメント間の遷移に着目した小説のストーリー展開における類似性解析手法を提案した. 数値実験により, 個々の文や小説のシーン等の基本構造からよりメタなレベルであるストーリー展開について計算機で自動解析可能であることを示した.
以上の研究成果は, 知能情報工学分野における物語理解と物語の自動生成の実現に貢献するところ大である.
また, 申請者が自立して研究活動を行うのに必要な能力と学識を有することを証したものである.