# 「数値気象予報からの天気予報コメントの自動生成」の研究過程

村上聡一朗 ${ }^{\dagger, \dagger \dagger}$
## 1 はじめに

本稿では, 言語処理学会 2021 年度論文賞をいただいた「数値気象予報からの天気予報コメントの自動生成」（村上他 2021）（以降，原論文と呼称する）について，論文では語られなかつた研究の着想から原論文の採択に至るまでの経緯を交えて解説する。

## 2 着想から採択に至るまでの経緯

本研究は, 著者が大学院の修士課程 2 年であった約 6 年前に取り組み始めた研究である。また原論文は, NLP2017 で発表した研究 (村上他 2017) を発展させて, その後EACL2021 に採択された論文 (Murakami et al. 2021)を基にしている。 そこで本節では, 著者が約 6 年前に本研究に着手した当時から，EACL2021 および原論文の採択に至るまでの経緯を振り返りたい.

当時，著者は人間が物事を理解し，それを言葉で説明できるように，計算機でも同様の処理を実現できないかと考え，自然言語生成の研究に取り組んでいた，その中でも特に修士課程 1 年目に取り組んでいた野球の試合速報を生成する研究 (村上他 2016) を通して，デー夕を言語で記述する研究課題である，すなわち Data-to-Text 生成課題に対して関心が高まっていた．野球の試合速報が試合状況やそれを表すデータを理解している制作者によって書かれるように，どのようにすれば世の中のあらゆるデータを計算機が理解し，それを記述するテキストが生成できるかという問題に面白さを感じたためである。またそれと同時に，ドメインや扱うデータが異なれば，データを記述する際に着目すべき点や直面する課題も異なるはずであり，研究対象のドメインを広げていきたいとも考えていた.

天気予報コメントの自動生成はこのような流れで始まった研究の1つである。天気予報コメントは，気象予報モデルを大規模コンピュータでシミュレーションして得られる数値気象予報を基に人手で記述されている。著者は天気予報に関して素人であったため, 研究を始めるにあたりまずは調査から始めたが，こうした実際の天気予報コメントの制作過程を知り，まずはその過程を計算機で再現してみることから着手した. このようにして NLP2017 の研究 (村上他


2017) では, 実際の天気予報コメントの制作過程に着想を得て, 数値気象予報を用いた天気予報コメントの自動生成に取り組んだ。

その後, 研究の方向性を検討するにあたり従来の手法では解決できていないくつかの課題を検討した。その中の 1 つが生成テキストの忠実性の課題である. Data-to-Text 生成課題において主流な手法であるニューラルネットワークに基づく言語生成モデルは，その生成テキストの流暢性の高さが注目されているが，生成時の制御が難しく入力デー夕に対して忠実ではないテキストが生成される課題が多く指摘されていた (Wang et al. 2020). これは特に天気予報コメン卜などの生成内容の正確さが求められる応用先においては重要な課題といえる. この課題に着想を得て，天気予報コメントでは特に「晴れ」「曇り」「雨」「雪」に関する情報が重要視されることに着目し，これらを適切に言及するための内容選択モデルを導入する手法を考案した. これは，EACL2021に採択された論文，またその後の原論文におけるアイデアへ繋がっている.

論文誌に向けては，EACL2021の査読で頂いたコメントなどを基に追加実験を行った。その中の 1 つが比較手法の追加であり，原論文では事例ベース推論による実験を実施した。これは先行研究 (Adeyanju 2012) でも言及されているように, 天気予報コメントでは類似した数値気象予報や気象観測値等に対して同様のコメントが記述されるため, 有用な比較手法であると考えたためである。また原論文は主著として 2 本目の論文誌であるが, 原論文の執筆にあたっては 1 本目の論文誌を執筆した際に得られた経験が活きている。例えば論文誌では提案手法の有用性を示すための多面的な評価実験に加え，それを読者に向けて分かりやすく提示することが求められる. 1 本目の論文誌の査読を通して査読者より様々な視点から指摘や助言をいたたけたことで，2 本目である原論文の執筆時にはそれらを考慮しながら必要な実験や提示すべき情報などを洗い出し，計画的に執筆に取り組むことができた。

2022 年 1 月の「論文賞」の吉報は著者にとって想像もしていなかった出来事であったが, このように評価をいただけたのはひとえに原論文に限らずこれまでの著者の研究に対して指摘や助言を頂いた査読者および共著者, 指導者の皆様のおかげである.こうした経験を経たことで，研究や論文執筆を着実に進めることができ，今回の受賞へ繋がったと考えている.

## 3 論文の概要

本研究では, 天気予報コメントの自動生成タスクにおける 3 つの課題に焦点を当てている. ここで，図 1 を用いて具体的にそれぞれの課題を説明する．1つ目は，コメントを記述する際に数値気象予報のシミュレーション結果に含まれる降水量や気圧などの複数の物理量とその時間変化を考慮しなければならない点である。例えば, 図 1 で雲や降水量のそれぞれの時間変化に言及されているように，天気予報コメントを記述する際には複数の物理量の変化を考慮しなければならない，2つ目は，天気予報コメントでは，対象エリアやコメントの配信時刻，日付な

配信日時: 4 月 6 日午前 $5: 51$, 東京

今日は日差しが届く時間がありますが、雲が広がりやすくて夕方以降は雨が段々と降り出します。外出時に雨が降っていなくても傘を持ってお出かけ下さい。

図 1 数値気象予報のシミュレーション結果と天気予報コメントの例

どのメ夕情報に基づいて記述されている点である。例えば，午前中に配信される天気予報コメントは，日中から夕方にかけた天気に言及することが多く，夕方以降に配信される天気予報コメントでは，夜から翌日の日中までの天気に言及する傾向がある。また，海辺のエリアを対象とした天気予報コメントでは，波の高さなどに言及されることが多い，3つ目は，天気予報サイトのユーザーは天気予報コメントの情報の有用性（以降では，情報性と呼称する）を重要視している点である。特に「晴れ」「雨」「曇り」「雪」といった気象情報について適切に言及されているかはユーザーにとって重要といえる。

これらの課題に対して, 本研究では数値気象予報のシミュレーション結果や気象観測值から天気予報コメントを生成するための Data-to-Text モデルを提案している. 図 2 に提案モデルの概要を示す. 1 つ目の課題に対しては，数値気象予報における様々な物理量を捉えるために多層パーセプトロンまたは畳み込みニューラルネットワークをエンコーダとして用い，さらにその時間変化を考慮するために双方向リカレントニューラルネットワークを導入した． 2 つ目の課題については，天気予報コメントの対象となるエリア情報や配信時刻などのメ夕情報をモデルへ導入し, 生成時にこれらの情報を考慮するように工夫した，3つ目の課題について，本研究では「晴れ」「雨」「曇り」「雪」の気象情報をユーザーにとって重要な情報と定義し, これらを適切に言及するために内容選択モデルを導入した．内容選択モデルでは，数値気象予報のシミュレーション結果から言及すべき重要な情報である「晴れ」「雨」「㫫り」「雪」の気象情報を予測する，提案モデルでは，それらの予測結果をテキスト生成時に考慮することで，生成テキ

図 2 提案モデルの概要

ストの情報性の向上を図っている.

実験では，数値気象予報のシミュレーション結果，AMeDAS により収集された気象観測デー 夕およびウェザーニュース1で配信された天気予報コメントを用いて提案モデルの評価を実施した。自動評価では，生成テキストと参照テキストの $n$-gram の一致に基づく評価指標である BLEU および ROUGE を用い, 生成テキストの品質を評価した。また, これらの評価指標では,生成テキストにおいて「晴れ」「雨」「量り」「雪」の気象情報を適切に言及できているか評価が難しいため, 手がかり語に基づく生成テキストの内容の評価も合わせて実施した. これらの自動評価により，提案モデルがベースラインモデルに比べて性能が改善することを確認した。 さらに, 人手評価では, 提案モデルはベースラインモデルと比べて天気予報コメントの情報性が向上していることが示された. 詳細の実験設定, 結果については原論文を参照していたたきさたい.

## 4 おわりに

本記事では, 本研究の着想から採択に至るまでの経緯を交えて, 原論文の概要を解説した. あらためて本研究に着手した経緯を振り返ると, その動機は当初著者が抱いていた興味関心から駆り立てられたものであり，これは現在の研究活動にも繋がっている。今回の受賞を励みに，今後も探究心を大切にしながら研究に取り組んでいきたい.


## 謝 辞

本研究に関して，論文の査読や審査，助言をしていただた査読者，編集委員会，関係者の皆様に感謝申し上げます。また，本記事の執筆機会を与えていただいた編集委員会の皆様に感謝申し上げます。

## 参考文献

Adeyanju, I. (2012). "Generating Weather Forecast Texts with Case Based Reasoning." International Journal of Computer Applications, 45, pp. 35-40.

Murakami, S., Tanaka, S., Hangyo, M., Kamigaito, H., Funakoshi, K., Takamura, H., and Okumura, M. (2021). "Generating Weather Comments from Meteorological Simulations." In Proceedings of The 16th Conference of the European Chapter of the Association for Computational Linguistics. Association for Computational Linguistics.

村上聡一朗，笹野遼平，高村大也，奥村学 (2016). 打者成績からのイニング速報の自動生成. 言語処理学会第 22 回年次大会発表論文集, pp. 338-341. [S. Murakami et al. (2016). Dasha Seiseki kara no Iningu Sokuho no Jido Seisei. Proceedings of the 22nd Annual Meeting for the Association for Natural Language Processing, pp. 338-341.].

村上聡一朗, 笹野遼平, 高村大也, 奥村学 (2017). 数値予報マップからの天気予報コメントの自動生成. 言語処理学会第 23 回年次大会発表論文集, pp. 1121-1124. [S. Murakami et al. (2017). Suchi Yoho Mappu kara no Tenki Yoho Komento no Jido Seisei. Proceedings of the 23rd Annual Meeting for the Association for Natural Language Processing, pp. 1121-1124.].

村上聡一朗，田中天，萩行正嗣，上垣外英剛，船越孝太郎，高村大也，奥村学 (2021). 数値気象予報からの天気予報コメントの自動生成. 自然言語処理, 28 (4), pp. 1210-1246. [S. Murakami et al. (2021). Generating Weather Comments from Numerical Weather Prediction. Journal of Natural Language Processing, 28(4), pp. 1210-1246.].

Wang, Z., Wang, X., An, B., Yu, D., and Chen, C. (2020). "Towards Faithful Neural Table-toText Generation with Content-Matching Constraints." In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 1072-1086. Association for Computational Linguistics.

## 略歴

村上聡一朗 : 2015 年熊本高等専門学校専攻科電子情報システム工学専攻修了. 2017 年東京工業大学大学院博士前期課程修了. 2019 年より, 東京工業大学工
学院博士後期課程に在籍. 株式会社サイバーエージェント AI Lab リサーチサイエンテイスト. 自然言語処理, 特に自然言語生成に関する研究開発に従事. 言語処理学会会員.