DEIM Forum 2019 A3-3

問い返し可能な質問応答：読解と質問生成の同時学習モデル
大塚淳史†

西田 京介†

斉藤いつみ†
富田

西田

光甫†

浅野

久子†

準二†

† 日本電信電話株式会社 NTT メディアインテリジェンス研究所 〒 239–0847 神奈川県横須賀市光の丘 1-1
E-mail: †{otsuka.atsushi,nishida.kyosuke,saito.itsumi,nishida.kosuke,asano.hisako,tomita.junji}@lab.ntt.co.jp
あらまし

本論文では，曖昧な質問を想定した，質問意図を明確にする質問応答モデルを提案する. 提案モデルでは，

質問に対する回答の候補を複数列挙し，回答候補ごとに回答を一意に特定できるように書き直した具体的な質問（改訂質問）を生成する．提案モデルを実装した質問応答システムでは，質問者が質問を入力したとき，回答と合わせて「問い返し」の効果を持つ改訂質問の候補を提示する．質問者は自身の質問意図に近い改訂質問を選択することで，所望の回答を得ることができる．本論文では，機械読解と改訂質問生成を同時に学習する End-to-End のニューラルネッ
トワークモデルを提案する．評価実験では，曖昧な質問と具体的な質問を含む機械読解のコーパスにおいて，曖昧な質問を入力したときの機械読解の回答精度が従来モデルよりも向上し，具体的な質問と同程度の精度を達成できることを示す．
キーワード 質問応答, 機械読解, 改訂質問, ニューラルネットワークঃॵ७‫ش‬४‫؟‬

1 はじめに人工知能がテキストを読み解いて回答する機械読解は，自然言語による質問応答技術の中核をなす技術として注目を集めている．機械読解では入力質問と，回答のための情報源となるテキスト（パッセージ）を入力すると，回答となる情報をパッ

৳૫⾦請求権者は、当社の求めに応じ、訴訟、仲裁、和解または৹೿भਤ⎃૾யपঢ়घॊ૑ਏऩੲਾ॑ਊ঺प઀୹खऩऐोयऩॉ
ません。正当な理由がないにも関わらず、必要な情報を提供しなかった場合はその⾏為によって当社が被った損害の額を差し引いて保険⾦をお⽀払いします‫ڭ؛‬৚भ଺૩হ௛पणऌਊ঺भ੍௸अ
べき弁護⼠費⽤保険⾦の額は、৳૫ీ৺঻‫ڭ‬੡पणऌ‫ڬڬگ‬ਐ৞
を限度धखऽघ‫؛‬ऽञ‫ؚ‬法律相談・書類作成費⽤保険⾦のપम‫ؚ‬
保険契約者１名につき１０万円を限度धखऽघ‫؛‬
⼊⼒質問：
弁護⼠費⽤特約の保険⾦の限度પमःऎैदघऊ‫ء‬

セージから探索し，回答部分を抽出することで質問応答を可能にする．近年，SQuAD [21] などの大規模な機械読解用データセットが多数公開されており，それらのデータセットを用いた実験において，深層学習モデルによる機械読解は人間と同等以上の回答精度を達成できることが報告されている [4]．
機械読解は，AI チャットやコールセンタのオペレータ支援など様々な領域において活用が期待される技術であるが，実用化に向けては課題が残っている．SQuAD などの実験用データ
セットの質問は，回答が一意に特定できるように人手で作成し੝৒ସਖ‫؟ڭ‬৚भ଺૩হ௛पणःथभఉ૧૒費⽤特約の保険⾦भ
限度પमःऎैदघऊ‫ء‬੝৒ସਖ‫ڭ‬भ৚௦‫؟‬
保険契約者１名につき３００万円を限度੝৒ସਖ‫؟ڮ‬法律相談・書類作成पणःथभఉ૧૒費⽤特約の保険⾦भ
限度પमःऎैदघऊ‫ء‬੝৒ସਖ‫ڮ‬भ৚௦‫؟‬৳૫ీ৺঻‫ڭ‬੡पणऌ‫ڬڭ‬ਐ৞॑限度

図 1 複数の回答と改訂質問による機械読解ているものが主流である．一方で，実際の質問応答システムは様々なユーザが利用するため，必ずしも機械読解で回答可能なによって質問の回答となる可能性がある範囲をパッセージ中か質問ばかり入力されるとは限らない．例えば，質問者が曖昧な

ら複数抽出する．そして，抽出した回答ごとに改訂質問を作成

質問を入力してしまった場合，機械読解ではパッセージ中からする．改訂質問を生成する際に回答の情報を利用することで，回答を特定するための情報が足りずに，質問と関連の低い情報

回答の特定性を高める改訂質問が生成できるようになる．

を回答として抽出してしまうという課題がある．曖昧な質問に質問者は，曖昧な質問を入力してしまった場合であっても，対して正しい回答ができない例を図 1 に示す．パッセージ中に質問応答が「問い返し」として提示した改訂質問と回答のペア

は保険金に関する複数の金額が記載されているが，入力質問のを閲覧することで，“どのような質問をすれば、どのような回「弁護士費用特約の保険金の限度額はいくら？」では，これらの答を得られるか” を判別でき，自身の意図に近い改訂質問を選

どの金額について質問しているのか判断することができない．

択することで，所望の回答を得られるようになる．図 1 の例で

本論文では，曖昧な質問に対する機械読解を実現するために，は，パッセージ中の 100 万円と 10 万円という 2 つの回答につ複数の回答に対応する改訂質問生成を提案する．改訂質問生成

いて，異なる改訂質問を生成し, 提示することで，「１回の被害とは，パッセージと質問が与えられたとき，質問をパッセージ

事故について」の保険金は 300 万円，「法律相談・書類作成につの内容に基づいて具体化する技術である [19]．まず，機械読解

いて」は 10 万円であると判別可能になる.

⼊⼒質問ঃॵ७‫ش‬४Zb‫ؽ‬փಣմ૜
UHDGLQJFRPSUHKHQVLRQDQVZHUVրఙ࣯໲ਫ਼੔૜RXWSXWGHFLVLRQSDVVDJH
DWWHQWLRQTXHVWLRQDWWHQWLRQVRIWPD[‫ؽ‬փಣմ
৚௦౜ଓ
৚௦‫ڭ‬

51
1

VWDUW

৚௦‫ڮ‬

‫؞؞؞‬

HQG

৚௦1

51
1

৚௦‫ڭ‬
৚௦‫ڮ‬

੝ၖସਖ1

৚௦1

0DWFKLQJ
0RGHO

%26!

%L'$)

Zb
VHOI
DWWHQWLRQ

3DVVDJH 51
1&RQWH[W

+ (P
LJ
KZ EH
D\ GG
LQ
J

図 2 機械読解と改訂質問のマルチタスクの流れ

೘ྙཀྵմ૜

511

੝ၖସਖ‫ڮ‬51
1

VHOI
DWWHQWLRQ

51
1րఙ࣯໲ਫ਼੔

੝ၖସਖ‫ڭ‬1H[W'HFRGH
6WHS:RUG(PEHGGLQJ

+ (P
LJ
KZ EH
D\ GG
LQ
J

4XHVWLRQ&RQWH[W

本論文では，複数の回答を出力する機械読解と，回答情報を参考にした改訂質問生成を End-to-End に実行・学習可能なマ

図 3 機械読解と改訂質問生成のマルチタスクモデル

ルチタスクモデルを提案する．提案モデルは，テキストの意味を理解する入力理解層の上に，機械読解層，改訂質問生成層をする．ここで，パッセージは，入力質問の回答となる情報を含結合したニューラルネットワークモデルで表される．このとき，むものとする．

機械読解層の回答および状態ベクトルを改訂質問生成層に入力[定義 3] 機械読解（Reading Complihension :RC）は，入することで，回答情報を考慮した改訂質問が生成できるように

力質問 q と，パッセージ x を入力とし，パッセージ中から回答なる．

の始点 as と終点 ae を出力とするタスクである．ここで，回答

本論文の貢献：本論文では，以下の貢献を果たした．

は A = {xas , xas+1 , ..., xae } である．

•

改訂質問生成と機械読解をマルチタスクで実行する End-

[定義 4] 改訂質問（Specific Question : SQ）は，入力質問

to-End の深層学習モデルを提案した．提案モデルではまず，機の内容が具体化された文 y = {y1 , y2 , ..., yK } である．改訂質

械読解層によって，機械読解の回答候補を複数列挙する．そし問は入力質問をパッセージ内容に沿って回答が一意に決定できて，改訂質問生成層で入力質問を具体化した改訂質問を生成す

るように具体化した質問である．ここで，y1 , y2 , ..., yK は，生る．このとき，機械読解の回答および機械読解層の状態を改訂成した単語に対応する単語辞書のインデックスである．

質問生成層に入力することにより，回答を一意に特定できるよ[定義 5] 改訂質問生成（Specific Question Generation :うに具体化した改訂質問を生成している．

SQG）は，入力質問 q とパッセージ x を入力とし，改訂質問•

日本語の機械読解データセットにおいて，提案モデルの（SQ）y を出力するタスクである．本論文では改訂質問生成の有効性を明らかにした．実験で使用したデータセットは，１つ際に，機械読解の出力 A も使用する．改訂質問生成を用いたの回答に対して，長文質問と短文質問が付与されており，短文

質問応答では，質問者は複数の改訂質問から自身の質問意図に質問を入力したときの機械読解の回答精度は長文質問を入力よ合った SQ を選択する．

りも低下するが，提案モデルから生成した改訂質問を用いた場
合，回答精度を改善できることを明らかにした．また，提案モデルが，従来の改訂質問生成と機械読解を疎結合で実行したときよりも，高い回答精度を達成できることを示した．

2 問題定義本節では，本論文が取り組むタスク，関連する用語についての定義を行う．

3 提案手法
本論文で提案する機械読解と改訂質問生成の流れを図 2 に示す．まず，入力質問とパッセージを機械読解に入力し，パッ
セージ中から抽出した複数の回答を得る．そして，抽出した回
答ごとに改訂質問を生成し，最終的に改訂質問と回答のペアを出力する．
提案手法を End-to-End のニューラルネットワークで実現し[定義 1] 入力質問は，自然言語で記述された文である．入力質たものが図 3 となる．提案モデルは，パッセージと入力質問の問は形態素解析等により単語トークン列に分割し，one-hot ベ

単語トークン列を，単語埋め込みモデルとリカレントニューラ

クトルの系列である q = {q1 , q2 , ..., qJ } として表す．one-hot

ルネットワークによってベクトル系列に変換する入力理解層と，ベクトルは，単語辞書のインデックスに対応する次元のみ 1，

機械読解の回答範囲を抽出する機械読解層，入力質問をパッ

それ以外の次元を 0 とする V 次元のベクトルである．

セージの内容に基づいて具体化する改訂質問生成層の 3 層から[定義 2] パッセージは，自然言語で記述された文である．パッ構成される．以降はそれぞれの層について詳述する．

セージは数百語程度の単語から構成され，入力質問と同様に one-hot ベクトルで表される単語トークン列 x = {x1 , x2 , ..., xT } とパッセージと入力質問の双方向のアテンションベクトルは，

3. 1 入力理解層
入力理解層の入力として，V 次元で表現される one-hot のベ
クトル系列で表されたパッセージ x = {x1 , ..., xT } と入力質問

q = {q1 , ..., qJ } を与える．はじめに，one-hot ベクトルから，v次元で表現される連続値ベクトルに変換する．単語の変換にはパッセージの各単語に対して，アテンションのベクトルを連結した次式により計算する．

G = [H; Ǔ ; H ⊙ Ǔ ; H ⊙ Ȟ] ∈ R8d×T .

(6)

学習済みのベクトル変換行列 We ∈ Rv×V を用いる．変換され最終的に，双方向のアテンションベクトル G を１層の Bi-

たベクトルは 2 層の Highway ネットワーク [26] を通して，最終

GRU に入力し，入力質問を考慮したパッセージのコンテキス

的にパッセージと入力質問それぞれのベクトル系列 X ∈ Rv×T

ト行列 M ∈ R2d×T を得る.
コンテキスト行列により，機械読解の出力結果である，回答と Q ∈ Rv×J を得る．
連続値のベクトル系列に変換されたパッセージと入力質問を，リカレントニューラルネットワーク（RNN）に入力する．本論
文では，RNN に１層の GRU [3] を使用する．ここで，GRU のパラメータはパッセージと入力質問で共有している．また，最初に入力したベクトルの影響が小さくなることを防ぐために，双方向の GRU（Bi-GRU）を使用する．Bi-GRU により，パッセージのコンテキスト行列 H ∈ R2d×T と入力質問のコンテキスト行列 U ∈ R

2d×J

を得る．ここで，d は隠れ状態の次元数での始点と終点位置を決定する．始点と終点は以下により計算される確率分布 pas , pae ∈ RT に従う．

pas = softmaxt (wa⊤s [G; M ]),(7)

pae = softmaxt (wa⊤e [G; M ; M ′ ]),(8)

ここで，was ∈ R10d ，wae ∈ R12d は学習パラメータである．

M ′ ∈ R2d×T は，[G; M ; Mas ] ∈ R12d×T を単層の双方向リカ
レントニューラルネットワークに入力して得た，始点を考慮しある．

たコンテキスト行列である．Mas ∈ R2d×T は，コンテキスト

3. 2 機械読解層

行列 M の as 番目のベクトルを T 列分並べたものである．

機械読解層ではまず，入力理解層でエンコードしたパッセー
ジと入力質問を照合し，パッセージ中から入力質問に関連する領域を発見する．パッセージと入力質問の関連性を取得するモデルとして，本論文では，Bi-directional attention flow
（BiDAF） [23] を使用する．BiDAF は，パッセージと入力質問の双方向からアテンションを計算し，最終的に入力質問に依存したパッセージのコンテキスト行列を作成する．

機械読解の出力層の始点 pas と終点 pae の積の降順によって，機械読解層が出力する回答範囲を N 個抽出する．このとき，回答の範囲が重複しないように選択する．仮に抽出した回答範囲が，先に抽出した回答範囲と重複が存在する場合，この候補をスキップし，次候補を採用する．

3. 3 改訂質問生成層
改訂質問生成層では，入力理解層と機械読解層の出力に基づBiDAF では，パッセージに関するコンテキスト行列 H といて，改訂質問を生成する．改訂質問は，RNN 言語モデルに

入力質問に関するコンテキスト行列 U により，類似度行列

基づく生成モデルと，パッセージと入力質問のコピー機構を組S ∈ RT ×J を以下の式により計算する．

み合わせたネットワークで構成される．

Stj = ws⊤ [Ht ; Uj ; Ht ⊙ Uj ],(1)

ここで，ws ∈ R6d は学習パラメータであり，[; ] は行成分のベ
クトルの連結を表している．次に，類似度行列を基に，パッセー
ジから入力質問へのアテンションと，入力質問からパッセージa ) RNN 言語生成モデル
生成モデルは，アテンション付きの 2 層 GRU とソフトマッ
クス層により構成される．1 層目の GRU の初期状態として与えるベクトル h10 ∈ R2d は，入力質問のコンテキスト行列にア
テンションを適用した以下の式により計算する．

へのアテンションの２方向のアテンションを計算する．
パッセージから入力質問へのアテンションでは，パッセージ
中の単語について，入力質問の単語で重み付けしたベクトルを計算する．パッセージの t 番目の単語についてのアテンション
ベクトル Ǔt ∈ R2d は次式によって計算する．

at = softmaxj (St ),∑Ǔt =j atj Uj ,

(2)
(3)

入力質問からパッセージへのアテンションでは，入力質問のを，パッセージの系列長 T 分だけ並べた行列 Ȟ ∈ R2d×T を次式により計算する．

t

(9)
(10)

ここで， UJ⊤ は，入力質問のコンテキスト行列の最終状態を表している．wh1 ∈ R4d×2d ，vh1 ∈ R2d は学習パラメータである．

いずれかの単語に強く関連する単語に重みをつけたベクトル ȟ

b = softmaxt (maxj (S))
∑
ȟ =
bt Ht

αUj = softmaxj (vh⊤1 tanh(wh1 [UJ ; Uj ])),
0
0
∑
h10 =
α
U
,
U
j
j
j<J

(4)
(5)

0

0

2 層目の GRU の初期状態 h20 ∈ R2d には，パッセージのコン
テキスト行列 H と，回答範囲のベクトル Ā のアテンションによる次式によって計算する．

Ā = mean(Has :ae ),(11)

αHt = softmaxt (vh⊤2 tanh(wh2 [Ā; Ht ])),
0
0

(12)

h20

(13)

=

∑

t<T αHt Ht ,ここで，mean(Has :ae ) は，パッセージのコンテキスト行列 Hの as 列目から ae 列目のベクトルの平均ベクトルを表している．wh2 ∈ R4d×2d ，vh2 ∈ R2d は学習パラメータである．
00

改訂質問の単語列 y = {y1 , ..., ys } を入力したとき，生成モ
デルによって出力される次の単語の確率分布 Pg (ys+1 |y<, x, q)=s

ここで，vcq , vcp , bcq , bcp ∈ R2d および，wcq , wcp ∈ R4d×2d は学習パラメータである．
パッセージからコピーされる確率をそのまま使用した場合，パッセージ中の回答範囲の単語からもコピーされることになる．

は次式によって表される．

Pg (ys+1 |y<, x, q) = softmax(Wg h2s+1 + bg ),
=s

(14)

回答範囲を改訂質問に用いた場合，質問は “〜は・・・ですか？”のように Yes/No を問う様な質問になり，回答との不整合が生は学習パラメータを表してじる可能性がある．そこで，パッセージから単語をコピーする

いる．Vg は，生成モデルで生成する単語の語彙数を表してお際に，回答範囲以外の単語をコピーするようにする．具体的にり，V > Vg である. 生成モデルから生成される単語は高頻度

は式 20 で，t ∈ A のとき，softmaxt の引数を −∞ とすることの単語のみとし，低頻度の単語はコピー機構により抽出的に生によるマスク処理を行う．これにより，回答範囲に該当する t

成することで，生成モデルのサイズを削減し，学習速度を向上

番目の単語のコピー確率を 0 とする．

ここで， Wg ∈ R

2d×Vg

させる. hs ∈ R

2dと bg ∈ R

V

は，2 層目の GRU の s 番目の隠れ状態であり，h2s+1 ← GRU2 (h2s , GRU1 (h1s , ẑs )) によって更新される．

最終的に，パッセージと入力質問中の単語がコピーされる確率 Pcp および Pcq は次式で表される．

1 層目の GRU に入力するベクトル ẑs は，生成モデルが出力した一つ前の単語 ys に基づき，以下のように決定する（ここで，最初の入力は文の始端トークン < BOS > とする）．ys は，
入力理解層と同様に，one-hot ベクトル化した後，単語埋め込, x, q ) =Pcp (ys+1 |y<=s∑

1l(ys+1 = xt )α′(s+1)t ,

(21)

t

, x, q ) =Pcq (ys+1 |y<=s∑

1l(ys+1 = qj )β(′ s+1)j ,

(22)

j

み層と 2 層の Highway ネットワーク層によって連続値のベク
トル es ∈ Rd となる．次に，アテンションを行うためのクエリ

ここで，1l(ys = xt ) は，ys = xt のとき１，それ以外のときはとなるベクトル ĥs ∈ R

0 となる関数である．1l(ys = qj ) も同様である．

2dを，es と１つ前の GRU の隠れ状態

h1s , h2s を用いて次式により作成する．

c ) 言語生成モデルとコピー機構の統合

ĥs = f (Wd [es ; h1s ; h2s ] + bd ).

(15)

パッセージのアテンション αst ∈ RT と，入力質問のアテンショ
ン βsj ∈ RJ はクエリベクトルを用いて次式により計算する．

αst = softmaxt (Mt⊤ · ĥs ),ĉps =

βsj = softmaxj (Uj⊤ · ĥs ),ĉqs =∑RNN 言語生成モデルとコピー機構では，それぞれで単語の生起確率の分布を得られる．最終的な出力単語を決定するための単語の確率分布 P (ys+1 |y<, x, q) は，各々の確率分布の重み=s付き和によって計算される．

P (ys+1 |y<, x, q) = λs Pg (ys+1 |y<, x, q)=s=s

t αst Mt ,(16)

j βsj Uj .

(17)

+ µs Pcp (ys+1 |y<, x, q)=s

最終的に，GRU の入力 ẑs ∈ Rv+4d は次式により得る．

+ νs Pcq (ys+1 |y<, x, q),=sẑs = [es ; ĉps ; ĉqs ],

∑

(18)

ここで，Wd ∈ R(v+4d)×2d と bd ∈ R2d は学習パラメータである．
また， f は活性化関数を表しており，本論文では PReLu [10]を使用する．

b ) コピー機構
コピー機構は，文生成の際に，入力の単語の一部をコピーすることにより，文章や対話などの文脈に一貫性を持たせた文を生成するための機構である．コピー機構を導入することで，入力質問やパッセージの内容に沿った改訂質問を生成する．要約や翻訳などでコピー機構が用いられる際はコピー元のテキストは１つであったが，本論文では入力質問とパッセージの両方をコピー元とする．
パッセージまたは入力質問からコピーする確率は，GRU の状
態ベクトル h2s+1 ，パッセージのコンテキスト行列 H ，入力質問のコンテキスト行列 U による pointer generator network [22](23)

ここで，λs , µs , νs は λs , µs , νs ∈ [0, 1]， λs + µs + νs = 1 の値をとる重みパラメータであり，以下の式に示す softmax 層の
出力 γs ∈ R3 により決定する．

ĉ′p(s+1) =ĉ′q(s+1)=∑′
t α(s+1)t Ht ,(24)′
j β(s+1)j Uj ,

(25)

∑

γs+1 = softmax(vc⊤ [ẑs ; h1s+1 ; h2s+1 ; ĉ′p(s+1) ; ĉ′q(s+1) ])λs = γs0 ,µs = γs1 ,νs = γs2 ,(26)

ここで，vc ∈ R(v+12d)×3 は学習パラメータである．

3. 4 マルチタスクモデル学習
機械読解と改訂質問生成を同時に実行する提案モデルのパラ
メータの学習は，それぞれのタスクの損失を結合した損失関数を最小化することで行う．損失関数 L は次式により計算する．

L(θ) = LRC + λLQG

(27)に基づき，アテンション重みを用いた次式により計算により計
ここで，θ は提案モデルの全ての学習パラメータを示しており，算する．
′
α(s+1)tλ は損失関数調整用のハイパーパラメータである．
⊤= softmaxj (vcqtanh(wcq [h2s+1 ; Uj ] + bcq )), (19)′⊤β(s+1)t= softmaxt (vcptanh(wcp [h2s+1 ; Ht ] + bcp )), (20)

機械読解タスクと，改訂質問生成の損失関数の損失関数は，
負の対数尤度を用いた次式により計算する．

1 ∑(log Pa(i) + log Pa(i) ),
s
e
N i
∑
∑
1
(i)
(i)
LQG = −
log P (ys+1 |y<s , x(i) , q (i) ),=N i s
LRC = −

(28)
(29)

表 1 改訂質問による機械読解で使用する日本語機械読解データセッ
ト．N はパッセージ数，質問数を表している．L はパッセージまたは質問の単語長である．
train

test

LoQs

ShQs

LoQs

ShQs
290

N はミニバッチのサイズであり，i はミニバッチの i 番目のサ

N. passage

1,236

1,236

290

(i)
(i)
ンプルを示すインデックスである．また，as と，ae は，i 目

N. questions

4,176

4,176

933

933

L. passage

295.3

295.3

300.2

300.2

L. question

18.8

9.7

19.1

9.8

のサンプルの正解となる始点，終点の位置を表している．

4 評価実験
4. 1 データセットに必要な情報を判別できるようにする．2 エポック目以降は，

λ = 0.8 に設定し，機械読解と改訂質問生成のマルチタスク学

本論文では，日本語の機械読解コーパスを用いた実験を行う．

習を行う．このとき，入力質問は確率 pq で短文質問が選択さ作成した機械読解コーパスは，日本語の Wikipedia からランれ，(1 − pq ) で長文質問が選択される．本論文では pq = 0.9 にダムで記事を抽出した 600 記事を基に，クラウドソーシングに設定している．

よって，パッセージ抽出と，パッセージごとの質問の作成と質

本論文でより多くのデータからモデル学習を行うために，西問に対する回答範囲のアノテーションを行ったデータとなって田らが日本語のニュース記事から作成した機械読解コーパス

いる．従来の機械読解コーパスとは異なり本データセットでは， （jpNews）[18], [29] の学習データも使用する．jpNews には，短文質問は含まれない．そこで，文圧縮による短文生成 [19] によっ
1 つの回答ごとに 2 種類の質問を作成している．一つ目の質問
は，従来の機械読解コーパスと同様に回答を特定できるようなて，コーパスの質問から機械的に短文質問を作成した．jpNews

具体的な質問（長文質問）であり，もう一方の質問は，質問意を含めた学習データの総数は 462,612 である．反復回数は 10図が伝わる最低限まで，文が短くなるように作成した質問（短エポック（合計 96,380 学習ステップ）とした．

文質問）である．長文質問と短文質問は抽出したパッセージか4. 2. 2 実 験 方 法

ら以下の手順により作成した．

実験は日本語 Wikipedia 機械読解コーパスの test セットを

（ 1 ） 作業者 A がある１つのパッセージを読み，質問と回答用いて行う．test セットは，１エントリーにつき，パッセージ，を作成する．このとき，作業者 A は質問を作成する際に文字数

短文質問，長文質問，回答がセットになっている．回答を質問制限以内（25 文字）で質問を作成するようにする．

者が知りたい真の正解と捉え，機械読解が出力した回答が，真（ 2 ） 作業者 B は，作業者 A と同じパッセージに対して，作の正解と一致するかを評価する．評価尺度は全エントリー中，業者 A が作成した質問と回答を閲覧して，回答が同じになるよ

機械読解の出力が真の正解と一致したエントリーの割合である

うに質問を作成する．このとき，作業 B が作成する質問は文字

正解率を用いる．

数の下限（30 文字）を設定し，下限以上の文字数となるようにする．上限は設定しない．

実験ではまず，短文質問と長文質問をそれぞれ直接機械読解に入力したときの正解率を算出する．次に，短文質問を提案モ

作成したデータセットの詳細を表 1 に示す．作成したデータデルであるマルチタスクモデルに入力したときの正解率を得る．

セットは，記事単位で学習セットと評価セットにランダムに分

このとき，マルチタスクモデルは N 個の回答を出力するため，割している．

k 位までの正解率である正解率@k を採用する．正解率@2 の場
合，提案モデルの出力の 1 位または 2 位の結果が正解と一致し4. 2 実 験 設 定
4. 2. 1 マルチタスクモデルているかを測る．
短文質問と長文質問を入力する機械読解モデルは，BiDAF

提案モデルの入力理解層では，単語埋め込みモデルを使用すによる機械読解モデルを使用する．また比較モデルとして大塚る．本実験では，日本語 Wikipedia 全記事に GloVe [20] を適らの改訂質問生成モデル [19] に，機械読解モデルを疎結合した用して学習した 300 次元の単語埋め込みモデルを使用する．

モデルを使用する．疎結合の改訂質問生成モデルも複数の改訂

マルチタスクモデルの学習は，2 つの GPU（Quadro P6000）

質問を生成するため，正解率@k によって評価する．機械読解を使用した. 学習のためのミニバッチ数は 48 に設定し，隠れ状モデルは，長文・短文質問を入力したものと同じ BiDAF モデ

態の次元数 d は 100 とした. 改訂質問の生成層で用いる語彙数

ルを使用する．

Vg は 5000 に設定した．学習の際のドロップアウト [25] の確率
は，Highway ネットワーク層のみ 0.2 とし，その他の層を 0.5に設定した. パラメータの最適化には Adam を使用する．

4. 3 実 験 結 果
4. 3. 1 機械読解の正解率評価

モデル学習では，学習の 1 エポック目は入力質問に長文質問

実験結果を表 2 に示す．短文質問および長文質問を入力したを入力する，同時に損失関数の係数 λ = 0 とする．これによ場合，機械読解は１つの回答しか出力できないため，正解率@1り，1 エポック目は機械読解のみの学習を行うことになる．このみのスコアとなっている．疎結合モデルは，改訂質問生成モの操作により，マルチタスクモデルが機械読解において，回答

デル [19] と機械読解モデルを疎結合により接続し，回答を得た

表2

品質は評価していない．そこで，生成された改訂質問の評価の

機械読解の正解率@k

k

短文質問

長文質問

疎結合モデルマルチタスクモデル

@1

0.509

0.668

0.516

0.583

@2

-

-

0.583

0.628

@3

-

-

0.605

0.638

@4

-

-

0.623

0.647

評価結果を表 3 に示す．短文質問は，短文質問の単語の重複

@5

-

-

0.640

0.652

を長文質問と直接比較したものである．長文質問は短文質問を

表3

改訂質問の長文質問との類似性評価

ために，改訂質問がどの程度長文質問に近い質問を生成できたかを調査した．長文質問を正解とし，改訂質問との単語の重複率を適合率，再現率，F 値の評価値を設定し評価を行った．

基に作成されているため，適合率は 1.0 となるが，文が短くなるため，再現率が大幅に低下している．

適合率

再現率

F値

短文質問

1.00

0.450

0.621

改訂質問は疎結合モデル，マルチタスクモデルともに 1 位と疎結合モデル

0.738

0.684

0.710

マルチタスクモデルして生成された改訂質問である．どちらも F 値では入力の短文

0.767

0.698

0.731

質問よりも改善されており，より長文質問に近い改訂質問が生成されていることがわかる．特に，マルチタスクモデルのほうものである．マルチタスクモデルは，改訂質問生成と機械読解をマルチタスクで行う提案モデルの結果を示している．
短文質問と長文質問をそのまま機械読解に入力した場合，質問が短くなると正解率が大きく低下している．改訂質問を生成した場合では，正解率＠ 1 で疎結合モデル，マルチタスクモデ
ル共に短文質問を機械読解に入力したときよりも高い正解率となっている．特に，提案モデルは疎結合モデルに比べて，正解率が大幅に改善されている．マルチタスクモデルの結果で，改が，疎結合モデルよりも高い F 値となっており，マルチタスク
で機械読解の結果を用いたほうがより長文質問に近い質問が生成できることが明らかとなった．
機械読解の回答に基づく改訂質問生成の例を図 4 に示す．
ニュースリリースのパッセージに対して，「何を目指していますか？」という短文質問を入力しときの例である．この短文質
問を機械読解モデルに入力すると「対話システムの開発」という回答が得られる．一方で，マルチタスクモデルに入力した場

訂質問と回答を 5 個出力した結果では，正解率@5 が 0.652 と合「対話システムの開発」と「事業導入」という複数パターン

長文質問の正解率 0.668 の約 97%とほぼ同等の正解率となっての回答が得られている．このときの改訂質問は，どちらとも短いることがわかる．
機械読解の正解率の実験結果より，入力する質問が短い場合，機械読解はその性能を十分に発揮できないことが明らかとなったといえる．しかし改訂質問生成により改訂質問を生成することで，短文質問が入力された場合でも，機械読解の回答精度を改善できると考える．本論文では，短い質問は曖昧であり回答を一意に特定できないという仮定から複数の改訂質問候補を生成し，質問者が選択する手法を提案しているが，正解率@1 の結果から，仮に 1 つの改訂質問を質問者に選択させずに使用したとしても，改訂質問は有効に機能するといえる．改訂質問を5 個生成したときの正解率は長文質問とほぼ同等になった．長
文質問は，回答を特定するための情報を過不足なく含むように

文質問よりも長くなっている．パッセージ上には，マルチタス
クモデルで得られた回答部分および，改訂質問を生成する際に pointer generator のアテンションが強くかかった領域をア
ノテーションしている．太字が回答領域であり，下線部がアテンションがかかった領域である．また，改訂質問 1（赤）と 2（青）は色で識別されている．
マルチタスクモデルでは，異なる２箇所の回答に対して，それぞれ全く異なるアテンションによって改訂質問が生成されていることがわかる．特に回答が「事業導入」になる改訂質問 2
は回答部の周辺領域のテキストがそのままコピーされて使用されており，回答が特定できるような改訂質問が生成されていることがわかる．

作成された質問であるため，長文質問を入力したときの機械読
解の回答精度は，機械読解モデル自体の上限に近い性能を発揮

5 関連研究している．以上のことより，改訂質問を 5 個程度生成すれば，
機械読解モデルの性能を最大限発揮した回答が得られるようになるといえる．

5. 1 質問の書き換え・パラフレーズに関する研究
質問応答の回答精度を向上させるために，質問文を書き換え

疎結合モデルの機械読解の異なり回答数を調査したところ，る研究では，Buck らの研究がある [2]．Buck らは，質問者と機械読解での異なり回答数の平均は 2.01 であった．改訂質問は質問応答システムとの間にブラックボックスで質問書き換えモ

5 個生成しているため，生成した改訂質問の半数以上が同じ回デルを設置し，質問者の質問を質問応答システムが回答可能な答となってしまうものだということがわかる．この結果が，疎質問に書き換えてから質問応答システムに入力することで，回結合モデルで正解率@k がマルチタスクモデルよりも低くなっ

答精度を高めている．質問書き換えモデルは，End-to-End のた原因であると考える．このことより，複数の回答を提示する

ニューラルネットワークによるもので，回答精度を最大化する

場合，疎結合モデルよりもマルチタスクモデルのほうが有効でように強化学習を行うことでモデルパラメータの学習を行う．

あるといえる．

言い換え文を作成するパラフレーズも，質問の書き換えに関す

4. 3. 2 改訂質問に関する評価

るタスクの一つといえる．Dong らは，言い換え文生成と質問

機械読解実験の結果は，改訂質問を入力したときの機械読解応答を同時に行うモデルを構築し，学習を行うことで入力質問の回答結果のみを調査しているため，生成した改訂質問自体のと同じ回答が得られるような言い換え文を生成する手法を提案

QWWͲͺʲೖ৙ճ࿫͗Ͳ͘Ζଲ࿫εητϞʳ͹‫ڂݜ‬Ν਒Όͱ͘Ήͪ͢ɽ੊͹஦͹ଡ͚͹ଲ࿫εητϞ͗ಝఈ͹࢕ࣆΝ͞͵ͤνηέࢨ޴‫ܗ‬͹ଲ࿫εητϞͲ͍Ζ͹Ͷଲ͢ɼೖ৙͹෱߁͏࿫ୌͶଲԢ͢ɼࣙ෾͖ΔϤʖδͶಉ͘かけ⻑時間の会話を続けられるଲ࿫εητϞ͹֋൅Ν໪ࢨ͢ͱ͏ΉͤɽΉͪQWWͲͺɼεητϞͶΫϡϧένʖ੓Ν࣍ͪͦΖ͞ͳͲ਎͢Ί͗ଁ͢ɼ⻑く使い続けられると考えておりɼΫϡϧένʖ੓Ν࣍ͮͪଲ࿫εητϞ͹‫ݗ‬౾Ν਒Όͱ͏Ήͤɽ‫ࡑݳ‬ɼWRWWR΃಍೘ͪ͢‫ؽ‬೵͹Ҳ෨ΝΦϱζϱԿͪ͢ɼଲ࿫ΦϱζϱΝ֋൅͢ͱ͕Εɼࣆ‫ۂ‬಍೘Ν໪ࢨ͢ͱ͏Ήͤɽࠕ‫ޛ‬ͺώʖοϡϩϤʖοϣʖώʖΏ‫ع‬ଚ͹Ϋϡϧένʖͳ͹ଲ࿫γʖϑη΃͹Ԣ༽͵ʹΝ‫ݗ‬౾͢ͱ͏Ήͤɽ࣯໲୻ช࣯໲ʁ ՁΝ໪ࢨ͢ͱ͏Ή͖ͤʃյ౶ଲ࿫εητϞ͹֋൅րఙ࣯໲ʁ
QWWͲͺʲೖ৙ճ࿫͗Ͳ͘Ζଲ࿫εητϞʳ͹‫ڂݜ‬Ν਒ΌͱɼՁΝ໪ࢨ͢ͱ͏Ή͖ͤ"ଲ࿫εητϞ͹֋൅րఙ࣯໲ʁWRWWR΃಍೘ͪ͢‫ؽ‬೵͹Ҳ෨ΝΦϱζϱԿͪ͢ɼଲ࿫ΦϱζϱΝ֋൅͢ͱ͕ΕɼՁΝ໪ࢨ͢ͱ͏Ή͖ͤࣆ‫ۂ‬಍೘

図4

改訂質問と機械学習のマルチタスクの例

している [5]．Gupta らの手法では，Variational Autoencoder

5. 3 クエリ推薦に関する研究（VAE）を用いて，言い換え文の変換スタイルを学習させるこ

クエリ推薦とは情報検索や質問応答において，ユーザの入力とで，文生成時には，スタイルを変えることで様々なバリエー

したクエリ（キーワード組）に対して，キーワードの追加や修ションの言い換え文を生成している [9]．Huang らは，フレーズ

正を行いユーザに推薦する技術である．Jaech らは，RNN 言語の変換辞書を組み込んだ，アテンション付き Encoder-Decoder

モデルに基づいて，クエリに追加するキーワードを生成する際によって，動的にパラフレーズを作成するモデルを提案していに，ユーザに関する情報を埋め込んだベクトルを追加することる [11]．

で，個人の趣向に合わせたクエリが推薦できる手法を提案してパラフレーズは質問の意味を変えないまま，異なる語彙を使いる [12]．Jiang らの研究では，一連の情報検索行動を追跡し，用した質問を作成するタスクであり，質問を具体化する改訂質閲覧した Web サイトやそこで使用されている単語情報をクエ

問生成のタスクにパラフレーズを適用することはできない．

リ生成のニューラルネットワークに組み込むことによる，コン

5. 2 質問生成に関する研究
質問生成は，主に教育分野で活用することを目的に，機械読解の逆問題として，パッセージと回答を与えたときに質問を自動生成するタスクとして取り組まれている．Du らは回答を含
んだ文を入力すると，自然言語の質問を生成する手法を提案している [7]．また，文中に BIO タグと共参照関係のタグを埋め込むことで，パラフレーズ単位での回答に対する質問生成手法を提案している [6]．Duan らは，パッセージを入力したときに，回答となる文を選択するタスクを質問生成と同時に扱うことで質問生成の性能を向上させる手法を提案している．Wang らは，
マルチエージェントの仕組みと深層学習の質問生成モデルを組
み合わせて，教師データなしでの回答抽出と，その回答に関する質問生成を実行する手法を提案している [27]．Kim らは，質テキスト依存なクエリ推薦を実現している [14]．クエリ推薦は
主に情報検索をターゲットにし，キーワードの追加修正を行う技術である．本論文の改訂質問生成は，質問応答をターゲットに自然文の質問文を書き換えるのでこれらの研究とは異なる．
情報検索型の質問応答では，入力質問を解析し，質問に対する適合文書を発見することで，回答となる情報を抽出する．このとき，より文書に適合しやすくするために，クエリ拡張やクエリの変形などの処理を行う．しかし，これらの処理は知識源の冗長性に依存して行われるので [1], [16], [28]，ある特定の知識について質問を書き換える必要のある機械読解では有効に機能しない．

6 ま と め問生成の際に回答となる単語が質問に含まれてしまう問題に対

本論文では，機械読解による質問応答において，曖昧な質問応するため，回答部分と特殊なトークンに置き換えることで，が入力された場合に，質問をパッセージの内容に基づいて具体回答を含まず，かつ回答周辺の情報から適切な疑問詞を付与し化する改訂質問生成と，パッセージから質問の回答部を抽出すた質問を生成する手法を提案している [15]．

る機械読解をマルチタスクで学習・実行する深層学習モデルを

質問生成は，パッセージなどの自然文だけでなく，画像を入提案した．提案モデルでは，質問に対する回答の候補を，機械力したときに，画像に関する質問を生成するタスク [13], [17]

読解によってパッセージから複数抽出する．そして，抽出したや，知識ベースから質問を作成するタスク [8], [24] も行われて回答候補ごとに改訂質問を生成する．このとき，改訂質問生成いる．改訂質問生成は，知識源となるパッセージの他に，質問に回答情報を利用することにより，回答が特定できるように具文自体を入力に与えるという違いがある．

体化した改訂質問を生成する．
日本語の機械読解コーパスを用いた実験では，短い質問を入力したとき，提案モデルを利用することで，長い質問を入力したときと同程度の回答精度を得られることを明らかにした．また，回答ごとに異なる改訂質問が生成されることを示した．
今後は，抽出型ではなく生成型の機械読解を適用したモデルの検討や，改訂質問を含めた対話型の質問応答技術について検討を進めていく予定である．

文

献[1] E. Brill, S. T. Dumais, and M. Banko. An analysis of theaskmsr question-answering system. In Empirical Methods
in Natural Language Processing (EMNLP), 2002.
[2] C. Buck, J. Bulian, M. Ciaramita, W. Gajewski, A. Gesmundo, N. Houlsby, and W. Wang. Ask the right questions:
Active question reformulation with reinforcement learning.
In International Conference on Learning Representations(ICLR), 2018.
[3] J. Chung, Ç. Gülçehre, K. Cho, and Y. Bengio. Empiricalevaluation of gated recurrent neural networks on sequencemodeling. CoRR, abs/1412.3555, 2014.
[4] J. Devlin, M.-W. Chang, K. Lee, and K. Toutanova. Bert:
Pre-training of deep bidirectional transformers for language
understanding. CoRR, abs/1810.04805, 2018.
[5] L. Dong, J. Mallinson, S. Reddy, and M. Lapata. Learning
to paraphrase for question answering. In Empirical Methods
in Natural Language Processing (EMNLP), pp. 875–886,
2017.
[6] X. Du and C. Cardie. Harvesting paragraph-level questionanswer pairs from wikipedia. In Association for Computational Linguistics (ACL), pp. 1907–1917, 2018.
[7] X. Du, J. Shao, and C. Cardie. Learning to ask: Neuralquestion generation for reading comprehension. In Association for Computational Linguistics (ACL), pp. 1342–1352,
2017.
[8] H. ElSahar, C. Gravier, and F. Laforest. Zero-shot question
generation from knowledge graphs for unseen predicates andentity types. In North American Association for Computational Linguistics (NAACL), 2018. to appear.
[9] A. Gupta, A. Agarwal, P. Singh, and P. Rai. A deep generative framework for paraphrase generation. In Association for the Advancement of Artificial Intelligence (AAAI),
2018.
[10] K. He, X. Zhang, S. Ren, and J. Sun. Delving deep into
rectifiers: Surpassing human-level performance on imagenet
classification. In IEEE International Conference on Computer Vision (ICCV), pp. 1026–1034, 2015.
[11] S. Huang, Y. Wu, F. Wei, and Z. Luan. Dictionary-guided
editing networks for paraphrase generation. In Association for the Advancement of Artificial Intelligence (AAAI),
2019.
[12] A. Jaech and M. Ostendorf. Personalized language modelfor query auto-completion. In Annual Meeting of the Association for Computational Linguistics (ACL), pp. 700–705,
2018.
[13] U. Jain, S. Lazebnik, and A. G. Schwing. Two can playthis game: Visual dialog with discriminative question generation and answering. In IEEE Conference on Computer
Vision and Pattern Recognition (CVPR), 2018.
[14] J.-Y. Jiang and W. Wang. Rin: Reformulation inference
network for context-aware query suggestion. In Conferenceon Information and Knowledge Management (CIKM), pp.
198–206, 2018.
[15] Y. Kim, H. Lee, J. Shin, and K. Jung. Improving neuralquestion generation using answer separation. In Association for the Advancement of Artificial Intelligence (AAAI),

2019.
[16] J. Lin. An exploration of the principles underlying redundancy based factoid question answering. ACM Transactions
on Information Systems (TOIS), 25(2):6, 2007.
[17] N. Mostafazadeh, I. Misra, J. Devlin, M. Mitchell, X. He,
and L. Vanderwende. Generating natural questions about
an image. In Association for Computational Linguistics(ACL), 2016.
[18] K. Nishida, I. Saito, A. Otsuka, H. Asano, and J. Tomita.
Retrieve-and-read: Multi-task learning of information retrieval and reading comprehension. In Conference on Information and Knowledge Management (CIKM), pp. 647–656,
2018.
[19] A. Otsuka, K. Nishida, I. Saito, H. Asano, and J. Tomita.
Specific question generation for reading comprehension. In
AAAI 2019 Reasoning for Complex Question Answering
Workshop, 2019.
[20] J. Pennington, R. Socher, and C. D. Manning. Glove:
Global vectors for word representation. In Empirical Methods in Natural Language Processing (EMNLP), pp. 1532–
1543, 2014.
[21] P. Rajpurkar, J. Zhang, K. Lopyrev, and P. Liang. Squad:
100,000+ questions for machine comprehension of text.
In Empirical Methods in Natural Language Processing(EMNLP), pp. 2383–2392, 2016.
[22] A. See, P. J. Liu, and C. D. Manning. Get to the point:
Summarization with pointer-generator networks. In Annual
Meeting of the Association for Computational Linguistics(ACL), pp. 1073–1083, 2017.
[23] M. Seo, A. Kembhavi, A. Farhadi, and H. Hajishirzi.
Bidirectional attention flow for machine comprehension.
In International Conference on Learning Representations(ICLR), 2017.
[24] I. V. Serban, A. Garcı́a-Durán, Ç. Gülçehre, S. Ahn,
S. Chandar, A. C. Courville, and Y. Bengio. Generating
factoid questions with recurrent neural networks: The 30m
factoid question-answer corpus. In Association for Computational Linguistics (ACL), 2016.
[25] N. Srivastava, G. E. Hinton, A. Krizhevsky, I. Sutskever,and R. Salakhutdinov. Dropout: a simple way to prevent neural networks from overfitting. Journal of Machine
Learning Research, 15(1):1929–1958, 2014.
[26] R. K. Srivastava, K. Greﬀ, and J. Schmidhuber. Highway
networks. CoRR, abs/1505.00387, 2015.
[27] S. Wang, Z. Wei, Z. Fan, Y. Liu, and X. Huang. A multiagent communication framework for question-worthy phrase
extraction and question generation. In Association for the
Advancement of Artificial Intelligence (AAAI), 2019.
[28] T. C. Zhou, C. Lin, I. King, M. R. Lyu, Y. Song, and Y. Cao.
Learning to suggest questions in online forums. In Association for the Advancement of Artificial Intelligence (AAAI),
pp. 1298–1303, 2011.
[29] 西田京介, 斉藤いつみ, 大塚淳史, 浅野久子, 富田準二. 情報検索とのマルチタスク学習による大規模機械読解. 言語処理学会第24 回年次大会論文集 (NLP2018), 2018.