DEIM Forum 2023 1b-3-3

短文テキストの意味分析と意味類似検索
小山 大介†

上之園彗志†杉田祥太郎†
田中大島 裕明††莊司慶行†††

克己†† 福知山公立大学 情報学部 〒 620 – 0886 京都府 福知山市 字堀†† 兵庫県立大学 社会情報科学部 〒 651 – 2197 兵庫県 神戸市 西区 学園西町††† 青山学院大学 理工学部 〒 252 – 5258 神奈川県 相模原市 中央区 淵野辺
E-mail: †{32045031,32045009,32245045,tanaka-katsumi}@fukuchiyama.ac.jp, ††ohshima@ai.u-hyogo.ac.jp,†††shoji@it.aoyama.ac.jp
あらまし 本論文では，惹句（キャッチコピー），俳句，短歌といった短文テキストの「意味」分析を行う手法を提案する．具体的には，語の意味分析を行う Word2Vec の結果を用いて，短文の意味分析を行う２つの手法を提案する．1
つ目の手法は，２つの文の意味類似度をそれぞれに出現する各語の意味ベクトルの相互比較に基づいて計算する方法であり，２つ目の手法は，与えられた文に出現する各語の意味ベクトルを加減算することで元の文の意味ベクトルを合成する方法である．これらの手法を惹句，俳句・短歌に適用して，意味が類似する惹句や俳句・短歌を検索する実験を行ったので，その実験結果についても報告する．
キーワード 短文テキスト, 惹句 (キャッチコピー），俳句，短歌，意味分析，情報検索

1 はじめに2 関連研究テキストの機械学習技術と言語処理技術の進展により，様々語の意味の分散表現をニューラルネットワークの機械学習でなテキスト情報の「意味」の分析が可能となりつつある．特に，求める手法として，T.Mikolov らの Word2Vec 手法が著名で語や文や文書の「意味の分散表現」をニューラルネットワークある [1]．T.Mikolov らは，その後，この手法を拡張して，文の機械学習で求める T.Mikolov らの Word2Vec 手法が著名でや文書の意味の分散表現を求める手法も提案している [2]．まある [1] [2]．

た，語の意味は時間や時代によって変化する．このため異なる文や文書の「意味」を分析することで，類似の意味を持つ文・文書の検索や新たな生成が可能となり，社会に蓄積された大量のテキストデータの新しい活用にもつながる．

時期・時代に使用されてきた語の意味を機械学習で求める手法
が Yating らによって提案されている [3]．
最近では，機械学習によって新たな文やテキストを生成す

本論文では，惹句（キャッチコピー），俳句，短歌といったる仕組みについても多くの研究がなされており，例えば，T.

短文テキストの「意味」分析を行う手法を提案する．具体的にZhang らは BERT を用いたテキスト生成手法を提案し，生成は，語の意味分析を行う Word2Vec の結果を用いて，短文の意されたテキストを評価するために BERTScore というアルゴリ味分析を行う２つの手法を提案する．1 つ目の手法は，２つのズムを提案している [4]．

文の意味類似度をそれぞれに出現する各語の意味ベクトルの相

著者らは，本研究の先行研究として，語の意味の分散表現か互比較に基づいて計算する方法であり，２つ目の手法は，与えら，短文（俳句，短歌，惹句）の「意味」を計算するアルゴリられた文に出現する各語の意味ベクトルを加減算することで元ズムおよび意味類似する短文検索の手法を提案した [5]．の文の意味ベクトルを合成する方法である．
これらの手法を惹句，俳句・短歌に適用して，意味が類似する惹句や俳句・短歌を検索する実験を行ったので，その実験結果についても報告する
第 2 節では，関連研究を紹介し，本研究の位置づけを示す．
第 3 節では，短文テキストの「意味」分析を行う手法を２つ提案する．第 4 節では，惹句（キャッチコピー）の意味分析と意味類似検索，第 5 節では，俳句・短歌の意味分析と意味類似検索について述べる．第 6 節は本論文のまとめであり今後の課題についても述べる．

3 提案手法
本節では，語の意味分析を行う Word2Vec の結果を用いて，文の意味分析を行う手法を二つ提案する．

•語ペアの意味類似度合成法•語の意味ベクトル合成法

3. 1 語ペアの意味類似度合成法
語ペアの意味類似度合成法は，２つの文の意味類似度を，それぞれの文に出現する各語の意味ベクトルを相互比較して計算して合成する方法であり，手法としては，与えられたテキス

トと自動生成したテキスト間の類似度を計算する BERTScore法 [4] に基づくものである．BERTScore 法は，元来，事前学習された BERT から得られるベクトル表現を利用して、与えられたテキストと生成されたテキスト間の類似度を計算する評価手法で，その手順は以下の通りである：（ 1 ） 生成テキスト (Candidate) と正解テキスト（Referen-ce）を BERT に入力し, トークン（語）のベクトル表現を獲得する.
（ 2 ） それらのベクトル表現を利用して, トークン（語）間の cos 類似度行列を作成.
（ 3 ） 最後に各トークン (語）に対して最大類似度を利用して, Precision, Recall, F 値を計算し,スコアとする.

4 惹句の意味分析と意味類似検索
惹句（キャッチコピー） 1 とは主に商品・サービスや作品の広告等, 何らかの告知や宣伝用に用いられ, 謳い文句や煽り文句となる文章のことである．
惹句（キャッチコピー）の分類は多く行われているが，手法による分類（ベネフィット型, 情報提供型, 権威型, 問いかけ型,切れ味重視型, 対比構造型, 常識の逆型, 比喩型） 2 や，ジャンル・雰囲気・ターゲットによる分類（ジャンル（飲食, 企業, 旅行等），雰囲気（印象的, 面白い等），ターゲット（男女, 主婦・学生・社会人等） 3 などがある．

4. 1 惹句の語の意味分析

本稿で提案する，語ペアの意味類似度合成法は，基本的には惹句の意味分析と意味類似検索として, まず，惹句の語の意

BERTScore 法と同一である．但し，BERTScore 法では入力

味分析を分野毎に Word2Vec を用いて行った．具体的には，アデータが生成テキストと正解テキストであるところを，語ペア

ルコール飲料（ビール）に関する惹句，アルコール飲料（ウイの意味類似度合成法では入力データとして任意の２つのテキススキー/焼酎）に関する惹句，企業・求人・教育系に関する惹句トとした点が異なっている．

をそれぞれ別々に収集し, 収集した各々の惹句を Word2Vec で語ペアの意味類似度合成法の手順は以下の通りである（図 1参照）．

機械学習し，語の意味を分析した．語の意味分析にあたっては，分析対象とする語と意味的に近い語を Word2Vec の closest-to（ 1 ） 短文テキスト集合を Word2Vec で学習し，各語の意味を，意味ベクトル（Word2Vec の中間層の値のベクトル）として獲得する．
（ 2 ） 短文テキストのペア（対）(x, y) (x = (u1 u2 u3 u4 u5 )，関数を用いて求めた．
語の意味分析の結果としては，「意味的に近い」語としては，類似度は概ね低いものの，次のような特徴が明らかになった．
（ 1 ） 「ビール」と意味的に近い単語として「夢」, 「愛」,y = (v1 v2 v3 v4 )，(ui , vj ) は語) に対して，語ペア毎「働く」, 「嬉しい」など, 若い働く世代に向けたメッセージがのコサイン類似度をそれらのベクトル表現を利用し見られた (図 3 参照).て, 語間の cos 類似度行列を作成する.

（ 2 ） 一方で, ウイスキー/焼酎の惹句においては, 「ウイス（ 3 ） 最後に，語ペア毎の最大類似度を用いて，文 x, y の類似度スコアとする．
語ペアの意味類似度合成法の長所は，文中の語の出現場所にキー」と意味的に近い単語として「古い」, 「甘い」, 「大人」など, 中高年層の世代に向けたメッセージが見られた (図 4 参照).

関係無く文同士の類似度が求められる点であり，欠点は，2 文（ 3 ） 企業・求人・教育系に関する惹句では，「勉強」と意味の語の意味ベクトル同士をすべて比較するため，計算量が大き的に近い単語として「人生」, 「授業」といった類似性の高いくなることである．

言葉が出力されていることから, 意味分析が上手くできている

3. 2 語の意味ベクトル合成法
語の意味ベクトル合成法は，与えられた文に出現する各語の意味ベクトルを加減算することで元の文の意味ベクトルを合成する方法である．Word2Vec では，語の意味ベクトルの加減算が可能であり [1]，本稿で提案する語の意味ベクトル合成法も，この，語の意味ベクトルの加減算を利用したものである．
語の意味ベクトル合成法の手順は以下の通りである：（ 1 ） 短文テキスト集合を Word2Vec で学習し，語の意味を意味ベクトルとしてを獲得する（各語の意味は，Word2Vec の中間層の値のベクトルとして獲得する）．と思われる. また, 「仕事」と意味的に近い単語の中で「勉強」という言葉に対してマイナスの評価がされていることから, 仕事と勉強は類似していないことが分かる (図 5，図 6 参照).
以上のように単語の意味分析を Word2Vec により行い, 意味的に近い単語の出力ができているが, 出力結果の意味類似度の値が全体的に低いことが問題点として挙げられる. 今後はこの値を少しでも良くなるように, データセットやソースコードの改善に取り組んでいきたい.

4. 2 惹句の文の意味分析
本節では，惹句の「文」の意味分析について述べる. 惹句の（ 2 ） 短文テキスト（文）s = w1 w2 , ..., wn の意味ベクトル

文の意味分析を行うために，前節で述べた，語ペアの意味類似meaning(s) を，各語 wi の意味ベクトル meaning(wi ) を加算度合成法（BERTScore に基づく意味類似度計算法）を用いた．

することで求める（図 2 参照）．

「語」の意味分析でも用いたビールの惹句, ウイスキー/焼酎語の意味ベクトル合成法の長所は，計算量を増やすこと無く，文中の語の出現場所に関係無く文の意味ベクトルが求められる点である．

1：https://ja.wikipedia.org/wiki/キャッチコピー
2：https://nakaeshogo.com/catch-copy-samples/
3：https://catchcopy.make1.jp/

ペア毎のコサイン類似度
短文 x

語の意味の抽出the weather is cold today

the weather
is cold today

短文 y
it is freezing
today
it

is freezing today

ペア毎の最大類似度
0.597

0.428

0.408

1.27

weather

0.462

0.393

0.515

0.326

7.94

is

0.635

0.858

0.441

0.441

1.82

cold

0.479

0.454

0.796

0.343

7.90

today

0.347

0.361

0.307

0.913

8.88

idf重み

free

isit

RBERT=(0.713×1.27)+(0.515×7.94)+…/(1.27+7.94+1.82+7.90+8.88)

today

0.713

zing

the重み付け重要度

図 1 語ペアの意味類似度合成法による文の類似度計算

語の意味の学習古庭

短文の機械学習(Word2Vec)

啼く鶯

古庭に鶯啼きぬ
日もすがら

日
すがら

文の意味ベクトル（語の意味ベクトルの加算）
古庭

鶯のあちこちとするや小家がち

鶯

+

啼く++

日 すがら+＝あちこち・・・・する

鶯

・・・

小家

図 2 語の意味ベクトル合成法による文の類似度計算の惹句, 企業・求人・教育系の惹句について, 「文」の意味分析

焼酎に関する各惹句文に対して，意味類似する惹句文とその類を語ペアの意味類似度合成法を用いて行った. その結果は以下似度を出力したものである．図 9 は，企業・求人・教育系の各の通りである．

惹句文に対して，意味類似する惹句文とその類似度を出力した

図 7 は，ビールに関する各惹句文に対して，意味類似する惹句文とその類似度を出力したものである．図 8 は，ウイスキー/ものである．
全体的に，精度良く,「意味類似」した文を出力できているも

図 3 Word2Vec による惹句の語（ビール）の意味分析

図 6 Word2Vec による惹句の語（企業・求人・教育系）の意味分析 2て、汗をかけ。」という２つの文も, 「可能性に対して何か行動を起こす」という点において意味が類似していると考えられる.
２つ目は「手法」の類似である. 例えば, ウイスキーの惹句である「歳を重ねるほど、父と重なっていく。」と「離れるほど、私に近づいてくる。」という２つの惹句は, 「〇〇するほど、〜なる。」のように言葉の使い方や手法が似ていると判断することができる.
このように文の類似度計算について実験を行ったところ, 「類図 4 Word2Vec による惹句の語（ウイスキー）の意味分析似している」ということに対して２つの種類（文の意味類似と文の手法類似）が存在することが分かった. このことから, ジャンルによって使われている単語や手法は同じものが多いのではないかと予想される. また, 本来の BERTScore は生成テキス
トと正解テキストの類似度を測るものであったが, 今回の実験結果は精度が高いことから, 任意の２つの文の類似度を測ることにも応用できる可能性を示したことも本研究の成果と考える.
今後は，語ペアの意味類似度合成法を利用して, 今回扱わなかったジャンルや手法が使われた惹句についても, 意味類似度計算を行っていきたい.

5 俳句・短歌の意味分析と意味類似検索
俳句・短歌という短文テキストの意味の抽出を，Word2Vecで計算された語の意味を加減算することで求める「語の意味ベ
図 5 Word2Vec による惹句の語（企業・求人・教育系）の意味分析 1クトル合成法」（前節）を用いて行った．

5. 1 俳句・短歌データの収集と形態素解析のと考えられるが，この「意味類似」には大きく２種類あると考える.
１つ目は「意味」の類似である. 文が類似しているということは, その文の意味が似ているということであり, 最も分かりやすい類似であると考えられる. 実際に, ビールの惹句である「おつかれ生です。」と意味的に近いものとして「まごころ冷えてます。」という文が出力されているが, どちらも相手を労い, ビー

青空文庫や関連 Web サイトから，次のような実験に用いる俳句・短歌データを収集した．

•

芭蕉発句全集 1066 句（伊藤洋作） 4•

一茶発句全集約２万句（小林一郎編） 5•

和歌と俳句（与謝蕪村） 6•

みだれ髪（与謝野晶子）（青空文庫） 7

ルを飲んでもらうという気持ちが込められた文であり, 意味が4：https://www2.yamanashiken.ac.jp/~itoyo/basho/haikusyu/Default.htm

似ているものと考えられる. その他にも, ウイスキーの惹句で5：http://www.janis.or.jp/users/kyodoshi/issaku.htm

ある「ワクをハミ出せ、二十歳の可能性。」と「可能性にむかっ

6：http://www5c.biglobe.ne.jp/~n32e131/haiku/buson411.html
7：http://www.aozora.gr.jp/cards/000885/files/51307_ruby_47032.zipl

図 9 語ペアの意味類似度合成法による惹句（企業・求人・教育系）の類似度計算
図 7 語ペアの意味類似度合成法による惹句（ビール）の類似度計算

図 10 与謝蕪村の俳句 1424 首

図 8 語ペアの意味類似度合成法による惹句（ウイスキー）の類似度
計算

図 11 与謝蕪村の俳句の形態素解析

し，語の意味の検出や意味類似語の検索などを行った．
収集した与謝蕪村の俳句 1424 首の一部とその形態素解析結果を図 10，図 11 に示す．

5. 2 俳句・短歌の語の意味分析と意味類似語の検索収集し形態素解析を行ったデータを Word2Vec を用いて学習

与謝蕪村の俳句の学習結果を図 12 に示す．この図にあるように，語の意味は 6 次元の意味ベクトルで表現され, model という変数に格納されている．
与謝蕪村の俳句の語の意味の機械学習の結果を用いて，意味類似語の検索が可能となる．図 13 に示すように，ここでは，

図 12 与謝蕪村の俳句の語の意味の機械学習（Word2Vec で機械学習した結果 (model))図 13 与謝蕪村の俳句の機械学習に基づく意味類似語の検索"五月雨"の意味類似語（コサイン類似度）
model %>% closest_to("五月雨")

蕪村

芭
蕉

"家"の意味類似語（コサイン類似度）
model %>% closest_to("家")1
家 1.0000000
1 五月雨1.0000000
2
骨 0.9261883
2 ほた 0.9305354
蕪3
爺 0.9261225
3
旅 0.9158569
村4
魔 0.9252293
4 いそぐ
0.9069318
5 古寺 0.9228442
5 曾我 0.9059942
6 松明 0.9223364
6 田植 0.9040583
7 ふさぐ0.9215659
7 飛ぶ 0.9029714
1 五月雨1.0000000
2
空 0.8220809
3
龍 0.7499267
4
壁 0.7380657
5
光 0.7331254
6
桑 0.7189779
7
日 0.7186242

芭
蕉

1
家
1.0000000
2
雛0.9393183
3 住み替る 0.9324174
4 いろいろ 0.9193118
5
代
0.9141818
6
坊
0.8846717
7
菫0.8814018"五月雨" + "家"とのコサイン類似度
model %>% closest_to(~"五月雨"+"家")

蕪村

芭
蕉

図 15 芭蕉の意味類似する俳句の検索

1
旅 0.9665826
2
床 0.9646886
3 曾我 0.9595311
4簑 0.9594445
5蜆 0.9580128
6
雫 0.9513634
7 またぐ
0.9500562
1 五月雨0.9047742
2空 0.8858850
3
龍 0.8721785
4
桑 0.8574107
5 降りる
0.8569468
6
光 0.8565671
7 隠れる
0.8509847

図 14 蕪村/芭蕉の俳句の機械学習に基づく意味類似語の検索

語”花”，2 語”五月雨+家”に対して意味類似語を検索している．
検索結果は，意味類似語と類似度のペアという形で示されている．また，2 語を与えて，その語間の意味類似度をコサイン類似度で求めることも可能であり，”五月雨”と”家”とのコサイン類似度も出力している．
意味類似語の検索性能は，機械学習した俳句テキストに依存
図 16 山月記の意味類似する文の検索する点に注意が必要である．例えば，機械学習した俳句データが与謝蕪村の俳句の場合と芭蕉の俳句の場合では，意味類似する語が異なる，図 14 のその 1 例を示す．

ベクトル meaning(s) を，各語 wi の意味ベクトル meaning(wi )を加算して求める

5. 3 俳句・短歌の文の意味分析と意味類似文の検索
3.2 節で提案した「語の意味ベクトル合成法」に基づいて，俳句・短歌の文の意味分析と意味類似文の検索を行った．俳句・短歌の文の意味分析と意味類似文の検索の手順は以下の通りで（ 3 ） 文 s の意味ベクトルと類似する意味ベクトルをもつ文

s’ を検索する
図 15，図 16 に，芭蕉の意味類似する俳句の検索結果，山月記の文に意味類似する文の検索結果を示す．

ある：（ 1 ） 短文テキスト集合（例えば，与謝蕪村の俳句テキスト集合）を Word2Vec で学習し，語の意味を意味ベクトルとして獲得する（各語の意味は，Word2Vec の中間層の値のベクトルとして獲得する）．
（ 2 ） 各文（例えば，１つの俳句）s = w1 w2 , ..., wn の意味

6 ま と め
本論文では，惹句（キャッチコピー），俳句，短歌といった短文テキストの「意味」分析を行う手法を提案した．具体的には，語の意味分析を行う Word2Vec を用いて，短文の意味分析を行う２つの手法を提案した．1 つ目の手法は，２つの文の意味類似度をそれぞれに出現する各語の意味ベクトルの相互比較に基づいて計算する方法であり，２つ目の手法は，与えられた文に出現する各語の意味ベクトルを加減算することで元の文の意味ベクトルを合成する方法である．これらの手法を惹句，俳句・短歌に適用して，意味が類似する惹句や俳句・短歌を検索する実験を行ったので，その実験結果についても報告した．
今後の課題として次のような事項がある．

•

文の意味分析を行うアルゴリズムの計算時間の改善が必要である．特に，語ペアの意味類似度合成法は入力される文数の二乗に比例する計算量が必要で有り，大量のデータを学習する場合には本手法の改善が必要である．

•惹句（キャッチコピー）文はその表現方法も多様であり，特に，本稿では扱えなかった対比構造型や常識の逆型や比喩型の惹句の意味分析手法の開発が必要である．

•

俳句・短歌の意味の獲得や意味類似検索をおこなうためには，俳句の作法をより考慮して意味分析を行うことが必要である．例えば，ものの対比的配置（構造）と比喩による思いの表現となっている俳句等 8 については，意味の獲得手法の大幅な改良が必要と考えている．

謝辞

本研究は，令和 4 年度科研費基盤研究 (B)(一般）「機械学習による情報の意味獲得と意味類似情報の検索・生成」(代表：田中克己，課題番号 22H03905）によるものである．

文

献[1] Tomas Mikolov, Ilya Sutskever, Kai Chen, Greg Corrado,and Jeﬀrey Dean. Distributed representations of words andphrases and their compositionality. In C.J. Burges, L. Bottou, M. Welling, Z. Ghahramani, and K.Q. Weinberger, editors, Advances in Neural Information Processing Systems
26 (NIPS 2013), Vol. 26. Curran Associates, Inc., 2013.
[2] Quoc Le and Tomas Mikolov. Distributed representationsof sentences and documents. Proc. of 31st Int l. Conf. on
Machine Learning, pp. 1188–1196, 2014.
[3] Yating Zhang, Adam Jatowt, Sourav S. Bhowmick, andKatsumi Tanaka. The past is not a foreign country: Detecting semantically similar terms across time. IEEE Transactions on Knowledge and Data Engineering, Vol. 28, No. 10,
pp. 2793–2807, 2016.
[4] Tianyi Zhang, Varsha Kishore, Felix Wu, Kilian Q Weinberger, and Yoav Artzi. Bertscore: Evaluating text generation with bert. In arXiv preprint arXiv:1904.09675, 2019.
[5] 小 山 大 介, 上 之 園 彗 志, 杉 田 祥 太 郎, 田 中 克 己. 短 文 テ キス ト（ 俳 句・短 歌・キャッチ コ ピ ー ）の 意 味 分 析 と 意 味 類
似 検 索. 東 海 関 西 デ ー タ ベ ー ス ワ ー ク ショップ 2022, p.
https://sites.google.com/mil.doshisha.ac.jp/dbws2022, 2022
年 9 月.

8：一茶の次の 2 句の意味は同じであることを判別できるであろうか：「雀の子そこのけそこのけ御馬が通る」，「寝返りをするぞそこのけきりぎりす」