言語処理学会 第29回年次大会 発表論文集 (2023年3月)

会議議事録を対象とした議論構造解析と議題生成による議会レポートの自動生成
大杉了斗 1

秋葉友良 1 増山繁 22 東京理科大学
ohsugi.ryoto.dv@tut.jp, akiba@cs.tut.ac.jp masuyama@rs.tus.ac.jp
1 豊橋技術科学大学

概要
国や地方議会議会での質疑応答は議事録に記録され, 市民はこの議事録を読むことでどのような対策を行っているか知ることができる. しかし, 議会は特殊な形式で進行するため, 議事録は非常に長く読みづらい. 対策案として, 東京都議会は議事録を分かりやすく構造化した「ネットリポート1）」を人手により作成し, 公開している. そこで本研究では, 「ネットリポート」を自動作成するシステムの構築を目的とする. システム実現のための課題を「議論構造解析」と「議題生成」に分け, それぞれ手法を提案する.

1

はじめに国や地方議会が解決すべき政治的課題は議会の質疑応答を通じて議論され, 発言は議事録に記録される. 図 1 の上に, 本研究の対象でもある東京都議会会議録の例を示す. 市民は議事録を通じて議論内容を把握し, 課題に対する意見や対策を知ることができる. しかし, 東京都議会を含む多くの議会は, 議員がまとめて回答をし, 知事や局長が担当の質問に答弁を行う「一括質問・一括答弁」と呼ばれる特殊な形式が取られている. そのため, 質問や答弁に区切りがないため長く読みづらく, 対応する答弁がどこにあるか探すのも困難であり, 市民が議事録を読むことは難しい. このような問題に対処するため, 東京都議会では「ネットリポート」を公開している. 図 1 の下にデータ例を示す. ネットリポートでは, 議事録が「一問一答」形式に編集されている. また, いくつかの質問答弁ペアをまとめて見出し（本研究では議題と呼ぶ）を付けることで, 議論内容の把握を容易にしている. 一方でネットリポートは議会職員により人手作成されているため, 公開には手間や時間がかかるという問題が存在する.

図1

議事録とネットリポート

1） https://www.gikai.metro.tokyo.jp/netreport/― 2803 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

そこで本研究では, 「ネットリポート」の自動作成するシステムの構築を目的とする. 「ネットリポート」の自動作成システムを実現するために, 本紹介する.

3.1

議論構造解析

研究では大きく 2 つの課題を設定する. 1 つ目の課

議論構造解析における目的は, 「一括質問・一括題は「議論構造解析」と呼び, 議会議事録の構造で答弁」形式の議事録を「一問一答」形式へ変換するある「一括質問・一括答弁」形式から, 「一問一答」ことである. これは, NTCIR-16 QALab-PoliInfo-3 にお形式に自動変換することを課題とする. 2 つ目の課

ける QA Alignment タスク [7] と同様の問題設定であ

題は「議題生成」と呼び, 議論構造解析で得た質問る. 提案手法は,「セグメンテーション」（図 2(1)）と,答弁ペアに対して, 対応する議題を生成することを「アライメント」（図 2(2)）の２段階に分けられる.

課題とする. 議論構造解析と議題生成についてそれぞれ手法を提案し, 評価実験で有効性を確認する. 最

3.1.1

セグメンテーション

後に付録 A では 2 つの提案手法を組み合わせたシス

セグメンテーションでは, 質問と答弁の境界を見テムを構築し, 議事録から「ネットリポート」を自つけ, テキストを分割する. 議会における議論は形式動生成できることを示す.

化されている. 例えば, 議員は質問を「〜について見解を伺います. 」と終えることが多い. このような特2

関連研究

2.1

議論構造解析の関連研究

徴に着目し, 特定語句にマッチする付録 B の表 5 のような正規表現を作成した. 質問と回答側で異なる正規表現ルールを用いて, 質問の場合はマッチしたテキストを分析・構造化するために, 様々なアプ文の後ろに, 答弁の場合はマッチした文の前に境界ローチが提案されている. その内の１つは, 文間でのを挿入する. 境界に挟まれたテキストはセグメント

論理構造を見つける修辞構造理論（RST）[1] を用と呼び, 一つの質問と答弁として扱う. またセグメンいる方法である. 林ら (2015) は, 修辞構造理論に基テーションエラーに対するヒューリスティックな処づいて談話構造木を導出することで, 談話構造を分理として, 連続した境界は削除する.

析した [2]. 本研究との違いは, 単に文同士を比較する構造化ではなく, 異なる話者のまとまった発話文

2.2

3.1.2

アライメントアライメントでは, 質問と答弁の対応付けを行い（質問答弁ペア）の対応関係を見つける.

「一問一答」を導出する. まず, Okapi BM25[8] を用い議題生成の関連研究てセグメントをベクトルに変換する. 次に, ベクトル要約テキストを生成する研究は広く行われているが, 特にキーフレーズ抽出・生成が挙げられる. この間のマッチングを行う. 質問と回答のペアは必ず一対一となるため, ベクトル間のコサイン類似度を最研究の目的は, 文書を要約するような複数の短いフ大にする完全マッチング問題として解く. この問題

レーズ表現（キーフレーズ）を抽出, または生成するを効率的に解くハンガリアン・アルゴリズム [9] がことである. キーフレーズ抽出では, 抽出したキーフ知られており, 提案手法でもこのアルゴリズムを適

レーズ TopicRank[3] や AttentionRank [4] などを用い用する. またセグメンテーションエラーにより, セグて順位付けする. キーフレーズ生成では, seq2seq モメント数が質問と答弁で一致しないことがあるた

デル [5][6] を用いてキーフレーズを生成する. 本研

め, その場合はダミーのセグメントを追加して双方究との違いは, 複数の質問答弁に対応する 1 つの議の数を合わせることで対応する.

題を生成することである. キーフレーズ研究では複数の短い単語の集合で文書を表すのに対し, 議題は1 つのフレーズで質問答弁を表現する必要がある.

33.2

議題生成

ネットリポートにおける議題は, 複数の質問答弁に対してまとめて付けられている. なぜなら, 議員は提案手法質問を細分化して複数回に渡って質問するからであ提案手法に基づく「ネットリポート」の自動作成プロセスを図 2 に示す. 3.1 では議論構造化 (1)(2) にる. したがって, 議題生成における問題設定においても同様に, 複数の質問答弁を与えて１つの議題を生ついて, 3.2 では議題生成 (4)(5) について提案手法を成することを目的とする. 質問答弁をどの程度まと― 2804 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

図2

自動作成システムの処理の流れの概要

めて議題を付けるかについては, ネットリポートの編集者に委ねられる. この処理は図 2 における (3) グ

最も性能が高かった Tri-gram を採用する.
w/o Hungarian

質問答弁の割り当てにハンガリア

ループ分けとして示されている. グループ分けの明
確な正解は存在しないため, この部分は手動で行いン・アルゴリズムを用いない比較手法. 代わりに類似度が最大となるように貪欲に割り当てを本研究の対象外とする.

行う手法を実装する. また, この手法は一対多ま

3.1 議論構造解析で得た複数の質問答弁から, 議題を生成する. 提案手法では, seq2seq モデルである

たは多対一の質問答弁を許す.
Oracle類似度計算の際に正解の一問一答ペアを参Transformer[10] を用いて議題を学習・予測する. 複照する. セグメント同士で正解と同じ文ペアが数の質問答弁を入力する都合上, 入力が長くなりテ含まれているほど, 類似度が高くなるように算キストの一部が切り捨てられてしまう場合が存在す

出する.

る. このような問題に対処するため, 提案手法では議題候補を抽出する（図 2(4)）. 議題候補を得るため4.1.2

実験設定に, 回答の先頭文から付録 B の表 6 に示す正規表現

データセットと評価方法は, QA Alignment タスクで範囲を選択して取り出す. 抽出した議題候補は特[7] に従う. データセットは 2019〜2020 年度のネッ殊トークンで区切って全て結合し, 生成モデルを通トリポートである. 具体的な評価方法は, 予測が正解じて 1 つの議題を得る（図 2(5)）. また与えられたと同じ一問一答ペアになっているかどうか文単位でカウントし, Precision, Recall, F1 を計算する. 実装に質問答弁が１つの場合, 提案手法は生成モデルを用いずに候補議題を予測としてそのまま出力する. １
つの質問答弁に対しては, 生成した抽象的な議題よ

おいて, BM25 を適用するためのテキスト分割として MeCab[11] を用いた.

りも, 発話から取り出した抽出的な議題候補が適しているという考えに基づいている.

4評価実験・分析

4.1

議論構造解析

4.1.1

比較手法

4.1.3

実験結果と分析

評価結果を表 1 に示す. まず提案手法は, 既存の検索手法やアルゴリズムを組み合わせたシンプルな手法にも関わらず, F1 は約 8 割以上を達成した. 比較手法である w/o BM25 は, 提案手法と比べやや F １が低下した. BM25 は他のセグメントも考慮する点が性能改善につながったと考えられる. w/o Hungarian

主にアライメントの提案手法の有効性を検証するは, 提案手法と比べ F １が大きく低下した. 実際の結ため, 比較手法を実装する. 加えて, アライメントの果では, 一部のセグメントに偏って割り当てられる上限値として Oracle も実装する.

ケースが多く観察された. 質問と答弁は一対一の関係であるという制約下でアルゴリズムを適用するこ類似度計算に BM25 ベクトルのコサイン類似度を用いない比較手法. 代わりに N-gram 集

w/o BM25合の一致数を類似度として用いる. 予備実験でとで, 高い精度で効率的に対応付けを見つけることができる. Oracle の結果から, アライメントの上限値― 2805 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

表1

議論構造解析における評価結果

表3

議題生成における評価結果

Precision

Recall

F1

提案手法

0.848

0.845

0.846

提案手法

0.362

0.260

0.361

w/o BM25

0.822

0.820

0.821

w/o Transformer

0.283

0.192

0.280

w/o Hungarian

0.773

0.662

0.713

w/o 候補入力

0.345

0.244

0.344

Oracle

0.894

0.891

0.892

w/o 候補出力

0.292

0.175

0.292

表2ROUGE-1 ROUGE-2 ROUGE-L

表4

データセット統計

navg.src avg.tgt avg.qa

学習52461317.3

3.65

3.00

検証

311766.4

3.94

2.08

テスト

309

780.0

3.74

2.09

出力例

新型コロナ対策
質問 1

次に、新型コロナ対策です。岸田政権…

答弁 1

次に、新型コロナウイルス感染症対策…

質問 2

都の説明では、都内で一日当たり最大…

答弁 2

まず、検査件数でございますが、一日…
…

は約 9 割であることがわかる. このことから, アライ
メントの性能を改善するよりも, セグメンテーショの F1 平均値を用いる. 実装として, 学習フレームンの性能に関して改善の余地があると言える.

ワ ー ク と し て fairseq[13] を, ト ー ク ナ イ ザ と し て

4.2

議題生成

4.2.1

比較手法

MeCab[11] を用いる.
4.2.3

実験結果と分析

評価結果を表 3 に示す. まず提案手法は, ROUGE-1議題生成における提案手法の有効性を比較するため, 以下の比較手法を実装する.

で 0.362 を達成した. 性能評価に関する前提として,議題のような短いフレーズの制限下で正解単語を完Transformer を用いない手法. 代わ全に予測することは難しく, 全体的に性能は低下すりに抽出した議題候補を予測としてそのまま出る. 他の性能低下の要因としては, 単なる生成ミスのw/o Transformer

力する. 候補が複数ある場合は, 最初に抽出され他, 議題の長さの不一致, そもそも間違った議題候補た議題候補を選ぶ.

が入力されることなどが挙げられる. 比較手法であTransformer に候補を入力しない手法.

る w/o Transformer は, 提案手法と比べ ROUGE が大代わりに質問答弁の発話テキストをそのままTransformer に入力し, 学習と予測を行う. 複数きく低下した. これは議題候補を出力する抽出手法に比べ, 抽象手法である Transformer による生成が有の質問答弁は特殊トークンで区切って結合し,効であることを示している. w/o 候補入力は, ROUGEモデルに入りきらない長い入力は切り捨てられる.

がやや低下した. 発話すべてを入力に用いることは,w/o 候補入力

長い入力は冗長で切り捨てられる短所がある一方提案手法では与えられた質問答弁がで, 発話に含まれる情報量が多く候補抽出によるミ

一つの場合に候補議題を直接予測として出力しスもない長所もあるため, 性能差が小さくなったとているが, これを行わない手法. 与えられた質問考えられる. w/o 候補出力は, ROUGE が低下した. 1

答弁の数に関わらず, 全てのサンプルに対してつの質問答弁に対しては, 生成した議題よりも抽出議題を生成する.

した議題候補が適していることを示している.

w/o 候補出力

4.2.2

おわりに5

実験設定

データセット作成のため, 公開されている 13 年分の東京都議会ネットレポートを収集した. データ
セットの統計を表 2 に示す. 表において, n はサンプル数, avg.src は質問答弁の平均単語数, avg.tgt は議題の平均単語数, avg.qa は与えられる質問答弁の平均数を表す. 評価指標として, 単語 ROUGE-1,2,L[12]

本研究では, 「ネットリポート」の自動作成システムの構築を目的とし, 議論構造解析ではシンプルで有効的な手法を, 議題生成では議題候補と生成モデルを組み合わせる手法を提案した. 最後に, 各提案手法を組み合わせたシステムの出力例を表 4 に一部示し, 詳細は付録 A に示す.

― 2806 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

参考文献[1] WILLIAM C. MANN and SANDRA A. THOMPSON.
Rhetorical structure theory: Toward a functional theory oftext organization. Text - Interdisciplinary Journal for theStudy of Discourse, Vol. 8, No. 3, pp. 243–281, 1988.
[2] 林克彦, 平尾努, 吉田康久, 永田昌明. 修辞構造木から自動変換した談話依存構造木の性質について.
Proceedings of the Twenty-ﬁrst Annual Meeting of theAssociation for Natural Language Processing, 2015.

2005.
[12] Chin-Yew Lin. ROUGE: A package for automatic evaluation of summaries. In Text Summarization Branches
Out, pp. 74–81, Barcelona, Spain, July 2004. Associationfor Computational Linguistics.
[13] Myle Ott, Sergey Edunov, Alexei Baevski, Angela Fan,Sam Gross, Nathan Ng, David Grangier, and Michael Auli.
fairseq: A fast, extensible toolkit for sequence modeling.
In Proceedings of NAACL-HLT 2019: Demonstrations,2019.

[3] Adrien Bougouin, Florian Boudin, and Béatrice Daille.
TopicRank: Graph-based topic ranking for keyphrase extraction. In Proceedings of the Sixth International Joint
Conference on Natural Language Processing, pp. 543–551, Nagoya, Japan, October 2013. Asian Federation ofNatural Language Processing.
[4] Haoran Ding and Xiao Luo. AttentionRank: Unsupervised
keyphrase extraction using self and cross attentions. In Proceedings of the 2021 Conference on Empirical Methods
in Natural Language Processing, pp. 1919–1928, Online

and Punta Cana, Dominican Republic, November 2021.
Association for Computational Linguistics.
[5] Rui Meng, Sanqiang Zhao, Shuguang Han, Daqing He, Peter Brusilovsky, and Yu Chi. Deep keyphrase generation.
In Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics (Volume 1: LongPapers), pp. 582–592, Vancouver, Canada, July 2017. As-sociation for Computational Linguistics.
[6] Xingdi Yuan, Tong Wang, Rui Meng, Khushboo Thaker,
Peter Brusilovsky, Daqing He, and Adam Trischler. One
size does not ﬁt all: Generating and evaluating variable
number of keyphrases. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 7961–7975, Online, July 2020. Associationfor Computational Linguistics.
[7] Yasutomo Kimura, Hideyuki Shibuki, Hokuto Ototake,Yuzu Uchida, Keiichi Takamaru, Madoka Ishioroshi,
Masaharu Yoshioka, Tomoyoshi Akiba, Yasuhiro Ogawa,
Minoru Sasaki, Kenichi Yokote, Kazuma Kadowaki, Tatsunori Mori, Kenji Araki, Teruko Mitamura, and Satoshi
Sekine. Overview of the ntcir-16 qa lab-poliinfo-3 task.
Proceedings of The 16th NTCIR Conference, 6 2022.
[8] Stephen Robertson, S. Walker, S. Jones, M. M. HancockBeaulieu, and M. Gatford. Okapi at trec-3. In Overview ofthe Third Text REtrieval Conference (TREC-3), pp. 109–
126. Gaithersburg, MD: NIST, January 1995.
[9] H. W. Kuhn and Bryn Yaw. The hungarian method forthe assignment problem. Naval Res. Logist. Quart, pp.
83–97, 1955.
[10] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob
Uszkoreit, Llion Jones, Aidan N Gomez, Ł ukasz Kaiser,and Illia Polosukhin. Attention is all you need. In I. Guyon,U. Von Luxburg, S. Bengio, H. Wallach, R. Fergus, S. Vishwanathan, and R. Garnett, editors, Advances in Neural
Information Processing Systems, Vol. 30. Curran Associates, Inc., 2017.
[11] T. KUDO. Mecab : Yet another part-of-speech andmorphological analyzer. http://mecab.sourceforge.net/,― 2807 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

A

システム構築「議題構造分析」と「議題生成」における提案手法
を組み合わせ, ネットリポートの自動作成システムを構築する. 図 3 に, システムが実際に出力したデータの例を示す. 提案手法の結果を HTML+CSS 形式で出力することで, 閲覧者にわかりやすく提示できるようにした. 実際のネットリポートと同様に, 出力結果は一問一答で, 議題がつけられたデータを出力できていることが分かる. 対応するネットリポート
は脚注 URL に示す2）.

B使用した正規表現
表 5 と表 6 に, 実際に用いた正規表現を示す.
表5

セグメンテーションのための正規表現質問(お)?(伺い|尋ね)(を)?(いた)?し?(させていただき)?(ます|たい)|(見解|答弁|所見|課題|認識|考え|説明) をお?(求め|伺い|聞かせ|尋ね)|(お)?(答え|聞かせ)(て|を)?
ください|ありがとうございました|いかがですか|どうですか|ではありませんか|るものです|(どのように|どう)(考えて|認識して|取り組む)|のですか|のでしょうか答弁(お)?答え (を)?(いた)?(|し|申し上げ) ます|初めに, |次 (いで|に|は), |まず, |他方
で, |最後に, |続きまして, |について (です|であります|でございます)|の (お話|お尋ね)(がございました|でございます)|(の|に 関 す る)(ご)?質 問 で (ご ざ いま)?す|(質問|指摘|言及|お尋ね) が?ございました|(質問|指摘) を?いただきました

開始^初めに, |^次 (いで|に|は), |^まず, |^また, |^他方で, |^最後に, |^続きまして, |^それから, |^さらに, |^いわゆる,終了に (つ い て|つ き|関 す る|お?答 え)|[^にで] は (, )|で (ござい|あります)|ですが|.

表6

候補抽出のための正規表現

図3

システムの出力結果

2） https://www.gikai.metro.tokyo.jp/netreport/2022/report01/04.html― 2808 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).