レトリック⾔語資源整備の戦略
九州⼤学

⾔語⽂化研究院
伊藤 薫
2024/3/15
⽇本語⾔語資源の構築と利⽤性の向上 (JLR2024)

はじめに⾃⼰紹介・研究背景• テーマ：多様な⾔語資源の領域間融通• Universal Dependenciesとの関わり• 発表者はレトリック研究が専⾨• 以前は認知意味論ベースの分析をやっていました• 現在は構⽂が関わる修辞表現の⾔語資源を構築中• 本発表の⽬的• レトリックに関わる⾔語資源を取り巻く環境を確認し、これからのあり⽅を議論• コーパス構築を済ませ、それを紹介するわけではない

⾔語資源を巡る動向• LLMの時代• NLPではAIが基本的な⽂法を「マスター」し、⾃然⾔語理解や実世界接地など、⾼度な⾔語能⼒へ注⽬が集まる• 課題に取り組むためには⾔語資源が不可⽋レトリックとは• 弁論術と修辞学• 上⼿く話すための技術• 本発表では修辞に絞って述べる• 伝統的な修辞学では様々な効果的な表現の「型」を整理• ⼀般的な表現からの逸脱のパターン [佐藤92]• 近年の⾔語学では⾝体性や認知能⼒との関わりで研究 [Lakoff+80]• 具体例• メタファー「SNSの発⾔が炎上する」• メトニミー「鍋を⾷べる」「ブラームスを聴く」• 平⾏法 “I am fond of pigs. Dogs look up to us. Cats look down on us. Pigs treat us as equals.”(Winston Churchill)• 緩叙法「この味、嫌いじゃないよ」• 異義兼⽤「あそこの店、影も味も薄いな」• 誇張法「100年ぶりにコーヒー飲んだ」レトリカルな⽣成AI• 動機：同じ内容を伝えるのであれば・・・• 分かりやすい⽅がいい・⾯⽩い⽅がいい・説得⼒のある⽅がいい•例• 運営業務と教育業務が多すぎて研究する時間が取れない。（普通の⽂）• ⼭のように他の仕事が降ってきて研究できない。（直喩と隠喩）• 運営、雑⽤、メール、問い合わせ、授業、採点、シラバス作成、会議。⼀体いつ研究すればいいんだ。（列叙法、反語法）• 教育教育教育教育教育教育雑⽤雑⽤雑⽤研究雑⽤雑⽤雑⽤メールメールメール
メールメール（反復法、暗⽰引⽤）• 効果的な⽂章の⽣成と評価、分析にレトリック⾔語資源が必要

(https://friday.kodansha.co.jp/article/324316/photo/c05195c1)

レトリカルな⽣成AI• 動機：同じ内容を伝えるのであれば・・・• 分かりやすい⽅がいい・⾯⽩い⽅がいい・説得⼒のある⽅がいい•例• 運営業務と教育業務が多すぎて研究する時間が取れない。（普通の⽂）• ⼭のように他の仕事が降ってきて研究できない。（直喩と引喩）• 運営、雑⽤、メール、問い合わせ、授業、採点、シラバス作成、会議。⼀体いつ研究すればいいんだ。（列叙法、反語法）• 教育教育教育教育教育教育雑⽤雑⽤雑⽤研究雑⽤雑⽤雑⽤メールメールメール
メールメール（反復法、暗⽰引⽤）• 効果的な⽂章の⽣成と評価、分析にレトリック⾔語資源が必要

修辞技法の性質• 定義が難しく、データも作りにくい• 機械的に探しづらく、⼈によってもばらつきが出る• そもそも専⾨書間でも微妙に定義や分類が異なる• e.g. 創造的なメタファーと死喩の区別• 「元ネタ」を知らないと気付けない修辞表現も (e.g. 暗⽰引⽤)• マイナーな修辞技法は認知度が低い• ただし、知らないうちに⽇常で接してはいるレトリック⾔語資源の利⽤者

⾔語資源の利⽤者• NLP研究者• 機械学習（学習・評価 / 検証）→⾔語モデル、サービス• ⾔語学者• 量的研究• 質的研究• デジタル・ヒューマニティーズ• 資料としての価値• ⼈が閲覧

⾔語学での構築・利⽤状況• 現在の資源• VU Amsterdam Metaphor Corpus (VUAMC) [Steen+10]• ⽇本語指標⽐喩データベース [加藤+20]（BCCWJベース）• ⽇本語レトリックコーパス (J-FIG) [⼩松原21]• 利⽤⽅法• メタファー出現頻度の基準値 [Semino20]

NLPでの利⽤• VUAMCの利⽤• メタファー検出 [Pramanick+18, Igamberdiev+18, 他多数]
• クラウドソーシング利⽤⼿法改良のベンチマーク[Parde+17]• マイナーな修辞表現のデータは独⾃に構築され、公開されず研究室内にとどまることも多い• キャッチコピーから抽出した対句のデータ [丹⽻+20]

デジタル・ヒューマニティーズ• ⼀般公開の事例• ⼈⽂学オープンデータ共同利⽤センター• 「⽇本古典籍データセット」「江⼾料理レシピデータセッ
ト」など様々な⼈⽂学データを提供• 修辞表現の実例も検索・閲覧できるとうれしい• これまで様々なレジスターで⽣み出されてきた名⽂・名⾔は⽇本語話者共通の財産(http://codh.rois.ac.jp/)

これからのレトリック
⾔語資源開発戦略を考える⾔語学・修辞学とレトリック資源開発の研究サイクル• 伝統的な⾔語学では少数の例⽂を対象核となる例⽂の• 典型的な事例による説明

整備• うまく説明できない事象も多い• ⾔語資源を構築するときに必ず当たる障壁• 現実は複雑技法の分類の⾒直し性質記述• 量的データを⽤いた研究の充実が必要• 科学としての⾔語学を洗練させる• 実証性の向上

量的分析

⽤例データの拡充

⾔語資源拡⼤のプロセス
アノテーションなし⼤規模コーパス••••

機械向けのタグ
規模が⼤きいアノテーションに⼀貫性はあるが⼈がまず犯さないような間違いも• 機械向けのタグ• 信頼度⾼• ⼈⼿のためブレもある••••

⾃動アノテーション付き

LLMのpre-training⽤データ
形態論情報付きコーパス(COCA, BNC, BCCWJ, …)

VUAMC
⽇本語指標⽐喩データベース

⼿動アノテー
ション付き
J-FIG

⼈間向けの詳細な説明 専⾨書の少数の⽤例
⽤例 修辞学の事典類
正確な説明
カバー率は低い(e.g. 『レトリック事典』[佐藤+06],『⽇本語レトリックの体系』[中村91])

⾃動化
で
きると規
模を増やせる

⾔語資源における質・量のトレードオフ
アノテーションなし⼤規模
コーパス

閲
覧
・鑑賞

質的⾔語分
析

量的⾔語
分
析

機
械
学
習

⾃動アノテーション
付き
⼿動アノテー
ション付き
専⾨書の⽤例

⽤途

1例あたりの労⼒・情報量⼩データ

1例あたりの労⼒・情報量⼤アノテーション作業

分野による⾔語資源の傾向• NLP• 性能・⼀貫性重視• ⽬的となるタスクにおいて、モデルの性能を上げることが⽬標• コーパスの量が（相対的に）重要• ⾔語学• 理論的な正しさを重視• ⼈が検索、閲覧することを想定• クリティカルな⽤例や説明が重要• 両者が相互乗り⼊れし、効率の良い⾔語資源の構築・使⽤をするにはどうすれば良いか？

要因1: NLPの動向• fine-tuningの流⾏• LLMベースのAIはzero-/one-/few-shotで学習してしまう対象もある• これからの⾔語資源のサイズはどれだけ必要？
• 学習に必要な例は以前より少なくて済む• 検証⽤データは依然として必要• 質的記述は重要になってくるか？
• 辞書の定義⽂を⽤いた⽂埋め込みの作成 [塚越+23]• プロンプトエンジニアリングの隆盛• 必要な資源の多様化• 既にあるメジャーな修辞表現のデータを拡⼤するのが有効？
• マイナーな修辞表現のデータを新たに作成するのが有効？

要因2: ⾔語学での整備状況• どれも⼈⼿でリッチな情報を付与しているが、カバーしている範囲に差• 修辞技法の種類• メタファー、メトニミー、シミリー（直喩）、アイロニー、オクシモロンなど• ⾔語の層• 意味論的側⾯、統語論的側⾯、語⽤論論的側⾯など• 分類と解説• 分類：e.g. ある語がメタファーか否か• 解説：e.g. ある語がどのような概念領域に基づくメタファーで、どのような効果をもたらすかVUAMC [Steen+10]• BNC-babyの⼀部 (186,688語)に⾮メタファー(Non-MRW)、疑わしきは含める(WIDLII)、メタファー関係語(MRW)をアノテーション• MIPVUと呼ばれる⼿続きで4レジスターを対象• 概念メタファー理論 [Lakoff+80]に基づき、機能語のメタファーもアノテーション• κ係数などの指標が提供されている

⽇本語指標⽐喩データベース [加藤+20]• BCCWJをベース• 直喩の箇所に加え、概念マッピングなどの意味論情報、わかりやすさのアノテーションなど• VUAMC +αの情報量• BCCWJ由来の形態論情報などが利⽤可能※同じセッションで発表があったばかりなのでスペック等の詳細は割愛させていただきます。

J-FIG [Komatsubara21]• 様々な種類の修辞表現を収録• 164種類• 総⽤例数は7,423• ロングテールの分布で、種類ごとの収録数にはばらつきがある• 記述の幅が広い：「厚い記述」の⽅針• 修辞表現の種類、意味、構⽂、語⽤• テキスト全体へのアノテーションではなく、焦点となる表現を中⼼にコンテクストと共に収録• ⼀般的な機械学習向けコーパスとは異なる• ⼈間が参照・閲覧することを前提• ⼀つの⽤例に様々な修辞表現に関する説明（※数値は2024/3/8にhttps://www.kotorica.net/j-fig/へアクセスして確認したもの）

要因3: デジタル・ヒューマニティーズ• デジタル・ヒューマニティーズとは• 「デジタル・ヒューマニティーズとは、⼈⽂学的問題を情報学的⼿法を⽤いて解くことにより新しい知識や視点を得ることや、⼈⽂学的問題を契機として新たな情報学の分野を切りひらくことなどを⽬指す、情報学と⼈⽂学の融合分野である。またデジタル・アーカイブはデジタル・ヒューマニティーズの成果公開の有⼒な⽅法の⼀つである。 」(http://agora.ex.nii.ac.jp/~kitamoto/research/dh/)• ⾮常に広い定義だが、⾔語学のコーパス利⽤もこの⼀部と捉えられる• 修辞表現研究における応⽤可能性• ⽤例をリンクで結び、⽤例間の関係ネットワークを記述できる

暗⽰引⽤、パロディ• いわゆる「元ネタ」があって成⽴する修辞表現• 夏⽬漱⽯『草枕』•

⼭路を登りながら、こう考えた。
智に働けば⾓が⽴つ。情に棹させば流される。意地を通せば窮屈だ。とかくに⼈の世は住みにくい。
住みにくさが⾼じると、安い所へ引き越したくなる。どこへ越しても住みにくいと悟った時、詩が⽣れて、画が出来る。

• 井上ひさし『おれたちと⼤砲』•（…）その、⽺腸の如くくねった、おれはこう考えた。
薩⻑の反逆を思えば腹が⽴つ。君家の窮状を思えば涙が流れる。腹⽴ちと涙を押えて暮らすのは窮屈だ。とにかくに⼈の世はお先まっくらだ。お先くらいのが⾼じると、明るい所へひっ越したくなる。どこへ越してもくらいと悟った時、おれたちのように、戦おうとするものが⽣まれる……

• デジタルだとネットワークを表現しやすいし、扱いやすい

LLMは⾔語資源構築にどう影響するか• これからの機械学習にどの程度のデータ量が必要か？
• LLMは⾔語学の専⾨書を理解できるか• 分類モデルへの応⽤• ⾃然⾔語理解の進展• LLMは新しい⽤例の⽣成や検索に利⽤できるかもしれない• 不安や使いづらい⾯も• ⽣成される⽤例のバイアス• メタ情報や使⽤⽂脈• ⼈間が使う⾔語資源と機械が使う⾔語資源の接近これからのレトリック⾔語資源構築戦略• ⽣テキストの共通化と記述の多層化• テキスト収集、著作権処理などのコストを圧縮• 共通のテキストにアノテーションすることで多様な情報を利⽤可能• あらかじめ施されている形態論情報や、他の研究で施されたアノテーションの利⽤• BNC, COCA, BCCWJなど、現在基盤となっている⾔語資源が確⽴してからできたSNSなど、、新しいレジスターのデータも追加していく必要も• ⽤例間の関係の記述• 特に（明⽰的にせよ暗⽰的にせよ）引⽤• ⽤例数は（今まで想定されていた最⼤よりも）少なくて済む？

• 少ない⽤例で機械学習できるようになっても性能検証できる程度の量は最低限必要• ⽤例あたりの記述の質・量の向上• モデルが⼈間向けの記述を「理解」できるようになるのであれば、⼈間向けの記述も役⽴つ• カバーする修辞表現の種類を広げる• ⽣成される⽂体の操作

おわりに• 思索的で不確定要素も多く、明確な根拠に基づく発表ではありませんが、今後の⾔語資源のあり⽅や構築戦略に関する議論につながれば幸いです。

ご清聴ありがとうございました

謝辞
本研究は国⽴国語研究所基幹型プロジェクト「実証的な理論・対照⾔語学の推進」 ・サブプロジェクト「アノテーションデータを⽤いた実証的計算⼼理⾔語学」 によるものです。
また、本研究は JSPS 科研費 23K12164 の助成を受けたものです。