# 誰に向けた発言か？：ツイートの指向性推定

清基英則 ${ }^{1}$ 劉康明 ${ }^{1}$ 矢田竣太郎 ${ }^{1}$ 若宮翔子 1 荒牧英治 ${ }^{1}$
1 奈良先端科学技術大学院大学
\{kiyomoto.hidenori.kj5, liew.kongmeng, s-yada, wakamiya, aramaki\}@is.naist.jp

## 概要

新型コロナウイルスの拡大に伴い，政府や自治体はソーシャルメディアを用いた正確かつ迅速な情報発信が求められている. そのためには, 特定の対象 （年代や性別など）に向けて発信された情報を，その対象が自分に向けて発信されていると理解できるかどうか，すなわち「指向性」が重要である．情報発信者の属性を特定する研究は多いが，情報が対象とする受信者の属性を特定する研究は見受けられない. 本研究では, Twitter における雑誌の公式アカウントが発信するツイートは読者層向けに最適化されていると仮定し, 各雑誌の対象年齢と性別をラベル付けした指向性ツイートデータセットを用いて，ツイートがどの年齢, どの性別に向けられているものなのか機械学習モデルで分類した.この実験結果を分析し，指向性の定量的測定がもたらす価值を考察した.

## 1 はじめに

今や情報発信のインフラとしてソーシャルメディアはなくてはならないものとなっている. 日本においては東日本大震災を契機として，SNS を活用した情報発信が大きく注目され始めた. その後も，2017 年 7 月九州北部豪雨災害や 2018 年西日本豪雨災害でも救助を要請するツイートが多数投稿され, 政府と市民間での情報発信の有効な手段として利用された [1]. このように，リアルタイム性と拡散性に優れた SNS を用いた情報発信は重要性を増しており, その動きは新型コロナウイルスの流行に伴い, さらに加速的に進んだ。例えば，厚生労働省により組織されたクラスター対策班は，分かりやすい情報を一般市民に届けるために，Twitter アカウントを開設し，情報発信を行った. さらに他の自治体も相次いて，SNS を通じた情報配信を活発化した。従来， SNS に消極的であった公的期間でさえも，SNS を重要なインフラとして捉え始めている.

図 1 ツイートの指向性推定. 政府の発信のツイートには多方面への無指向性が，男子学生が好む話題のツイートには 10 代男性への超指向性が推定される.

一方で，情報発信における問題点も浮き彫りになっている. 2020 年 6 月に報告された新型コロナウイルス感染症に関する情報流通調査 [2] において，政府が正しい情報を届けるための工夫を適切に行っていないと評価した人が多かった. その後, 新型コロナウイルス感染症対策分科会は，情報の受信者側が関心をもち，理解を深め，行動を変容させるような “対話ある情報発信” の実現に向けて，情報発信の強化を迅速に進めるよう政府に提言した [3]. しかし, 不特定多数に向けた情報発信では，受信者側にうまく伝わらない傾向にあり，様々な年齢・性別・状況の人への情報発信は難しい [4].

このような背景のもと, リスクコミュニケーションに配慮した情報配信を実現するために，本研究では，ツイートがどの対象（年代や性別など）に向けて発信されているか，この発信者が想定する受信者像を，本研究では「指向性」と呼び，ツイートの「指向性」に着目する。指向性とは，音響学的に，空中に出力された音や電波の伝わる強さが，方向によって異なる性質を意味する [5]. マイクやスピーカー の指向性の種類には，全方向に対して発信される無指向性や特定の限られた範囲に発信される超指向性などがある。このアナロジーを情報発信に当てはめると，例えば政府の発表などは広い範囲の無指向性が，敬老会の予定などは高齢者に対する指向性が， カードゲームのイベント情報は若年層の男性に向け
表 1 雑誌の公式アカウントが発信するツイートの例対象属性ツイート

10 代女性みんなどんな夏休みを過ごしてたのかな？

20 代女性韓国で盛んなハズせないファッション

30 代女性季節の変わり目をおしゃれに乗り切るっっ!

40 代女性皆さんの興味を引く記事はありますでしょうか？

50 代女性みなさん、足元にお気をつけください。

60 代女性ひざ痛は今日みたいに「急な寒さ」で悪化します

10 代男性シンオウ地方で出会えるポケモンを大紹介！

20 代男性このチェキ、カッコいいですよね

30 代男性 「0 円マイカー」というサービスをご存知でしょう

40 代男性この柄に見覚えありますか？

50 代男性 100 年以上にわたって愛され続ける作品の魅力とは

60 代男性たかがねこ背だなんて軽視してると危険ですよ。

られた超指向性があると考えることができる.

我々は，誰に向けたツイートであるかを言語的特徵で捉え，定量的に推定できるようになることで，情報発信者はより迅速かつ効果的に必要な情報を多くの人に届けることができると考えた. 本研究では，対象としている層を公開している雑誌の公式アカウントが発信するツイートは指向性を持つと仮定し, 雑誌の対象層をラベル付けしたデータセットを用いてツイートの指向性を推定するモデルを構築した. ツイートには 30 代から 40 代の男性向けといった複数が対象層となっているものが含まれるため, マルチラベル分類タスクとして解き，指向性のある文章の定量的解析を行なった.

## 2 関連研究

メッセージ送受信に関わる者の属性（年齢，性別，職業など）を推定する場合，これまでよく研究されてきたのは送信者の属性である。 Burger ら [6] は，1850万人のユーザが発信した約 2 億 1300 万件の多言語ツイートコーパスを構築し，ツイート発信者の性別を分類した. この研究で構築した Balanced Winnow2 アルゴリズムがベースの機械学習モデルは，66.5\%の精度で性別を分類することができた。 またこのモデルが髪や愛に関連する単語，感嘆符や顔文字などの女性がよく用いる用語に強い影響を受けたことを示した. Morgan-Lopez ら [7] は Twitter ユーザの年齢を推定する際の言語的特徴を捉える研究を行った. ユーザを 18 から 24 歳の若年層, 13 から 17 歳の若者層, 25 歳以上の成人層と三つの年齢層に分け，最近発信した 200 件のツイートを収集し, 学習データとして利用した. この研究で構築したロジスティック回帰モデルは $\mathrm{F}$ 值 0.72 で分類する
ことができた．若年層は“学校”や“大学”などの用語を特徴として捉えることができたため，高い精度での分類を行うことができたが，成人層の発信するツイートの言語的特徴を捉えることは困難で，低い精度での分類となったことを示した. Abdul-Mageed ら [8] は，約 160 万件のアラビア語のツイートからなるデータセットを構築し，書き手の性別（男性または女性) と年齢グループ (25 未満, $25-34,35$ 以上）の合計 6 ラベルの分類を行った. 彼らは BERT を用いて，年齢層を $51.42 \%$ ，性別を $65.30 \%$ の精度で分類できることを示した. さらに，"they ask me", “you dear", "good evening” などの語句を分類の根拠としていたことから，性別間で書き方に明確な違いがあることを述べた.

これらの研究に対して本研究の指向性推定は,発信者が想定する受信者像を推定する点で新規である。

表 2 指向性ツイートデータセットの統計量

## 3 データセット

本稿では，指向性を定量的に推定するために，指向性ツイートデータセット [9]を用いた. 指向性ツイートデータセットは，特定の対象に向けて発信された，すなわち，指向性を持つツイートを収集して構築された. 特定の対象に向けて発信された，すなわち，指向性を持つツイートを収集し，データセットの構築を行った. 指向性を持つツイートとして，雑誌の公式アカウントが発信するツイートは読者層 （年齢と性別）向けに最適化されているとみなし，収集対象とした. 具体的には，対象年齢と性別ごと
表 33 つの提案モデルによる分類結果 (太字がモデル間の中での最も高い値)

に雑誌をまとめたウェブサイト 1)2)3)を参考に， 10 代から 60 代までの男女別の雑誌リストを作成し, Twitterにおける公式アカウント名を取得した.この結果, 女性向けと男性向け雑誌のアカウント数はそれぞれ 71 と 35 であった. なお，対象とする性別が示されていない雑誌は, 男性と女性の両方を対象とする雑誌アカウントとして，幅広い年齢層を対象とする雑誌は, 複数の年齢層を対象とする雑誌アカウントとして扱った. 例えば，“@safari_online”というアカウントは 20-30 代の男性向けの雑誌の公式アカウントであるため, 20 代男性と 30 代男性の両方に含まれる. ツイート取得方法やノイズ除去処理などの詳細については [9]を参照されたい。 データセットにおけるツイートの総数は 187199 であり，その概要は表 2 に示す.

## 4 提案手法

本研究では，ツイートがどの年齢や性別に向けて発信されているのかを，マルチラベル分類タスクとして解く．そのために指向性ツイートデータセットを用いて，文章分類モデルを構築する. 分類モデルには Bidirectional Encoder Representations from Transformers (BERT) [10]を日本語コーパスで事前学習したモデル゙吕採用し，指向性ツイートデータ


セットでファインチューニングした.このモデルは 12 層のエンコーダ, 768 次元の隠れ層, 12 個のアテンションヘッドから構成される. 学習条件として，最適化手法は AdamW，学習率は $1.0 \times 10^{-5}$, エポック数は 5 ，バッチサイズは 32 である。各ツイートには複数のラベルが付与されうるため，マルチラベル分類モデルを構築した． BERT の最終層の出力を全てのトークンに渡って平均化，その値を線形変換したものを分類スコアとし，スコアが正の値の場合に該当ラベルとした.

さらに，ツイートの話題ではなく，語尾や文体といった言語的特徴を考慮した分類のために，固有名詞と名詞をそれぞれ特殊トークンとして学習させた 2 のモデル（BERT MASKEd ProPer Noun と BERT MASKED NOUN）を構築した. 固有名詞と名詞の判定には，形態素解析器 MeCab [11]を用いた. 特殊トー クンに置き換えることで，BERT の学習に影響を与える単語を意図的に制限することができる [12].

## 5 結果

指向性ツイートデータセットを 9 （訓練）：1（評価）の割合で分割し，BERT，BERT MASKEd PROPER Noun，BERT Masked Noun の 3 つのモデルによるツイートの分類精度を評価した。評価指標には， Macro-F1 と各ラベルの F 値を用いた。表 3 に結果を示す.

各モデルの $\mathrm{F}$ 值の平均はそれぞれ $0.87,0.82,0.70$ と高い精度となった。2 節で述べたツイート文から

（1）[CLS]こん\#\#にち\#\#は今日から3月がスタート!!そしてニコラ発売日今\#\#月は中3で思い出づくりしたよぜ\#\#ひチェックしてみてね\#\#ー!

（2）[CLS]こん\#\#にち\#\#は今日から3月がス夕ート!!そして[Proper noun]発売日今\#\#月は[Proper noun]で[Proper noun]したよぜ\#\#ひチェックしてみてね\#\#ー

（3）[CLS]こん\#\#にち\#\#は[Noun]から[Noun]が[Noun]!!そして[Noun][Noun][Noun]は[Noun]で[Noun]したよぜ\#\#ひ[Noun]してみてね\#\#ー!

（4）[CLS]まもなくあの3.11から10年です。月刊4月号に寄稿しました。よろ\#\#し\#\#ければお手に取ってみて下さい。

（5）[CLS]まもなくあの[Proper noun]から10年です。月刊4月号を寄稿しました。よろ\#\#し\#ければお手に取ってみて下さい。

（6）[CLS]まもなくあの[Noun]から[Noun]です。[Noun][Noun][Noun]を[Noun]しました。よろ\#\#し\#\#けね゙[Noun][Noun]に取ってみて下さい。

図 2 Attention weight の可視化結果.(1)(2)(3) はF10に，(4)(5)(6) は F60と M60 に BERT, BERT Masked Proper Noun, BERT MASKED NOUN でそれぞれ正しく分類された例，マスキングにより，文末や文体の表現に重み付けされている.

書き手の年齢層を推定するモデル [7] の $\mathrm{F}$ 値が 0.72 で，一定の有用性を評価しているため，今回の我々の結果もある一定の精度を示したと判断した.

モデルごとに確認すると，BERT の $\mathrm{F}$ 值の平均が 0.87 であり，F40から F60，M30から M60の F 値が突出して高い結果となった. ほぼ全てのラベルが $\mathrm{F}$値が 0.8 を超えていることから，高精度での分類結果となった. BERT MASKEd PROPER NOUN については, $\mathrm{F}$ 値の平均值は 0.82 であり, BERT に比べてやや低い精度となった，F40から F60，M30 から M60 の F 值が依然として高いままであったが，他のラべルは下がる結果となった. BERT MASKING Noun の F 値の平均値は 0.70 となり, 他の 2 つのモデルと比べ $\tau$, 適合率, 再現率, $\mathrm{F}$ 値の全てが下がった. M40 の $\mathrm{F}$ 值のみ 0.85 と高いままであるが，他のラベルは BERT に比べて大きく精度が下がった.

## 6 考察

本節では，分類結果と各モデルの Attention weight の可視化結果をもとに，各モデルの結果と分類の判断根拠について考察する. まず F30 から F60，M30 から M60 のラベルの精度がモデルを問わずに高かった. これは先行研究 [9] では, 低い精度であったラベルであり，マルチクラスからマルチラベルにタスクを変更したことで，複数のラベルが付いたツイートの分類精度が大幅に向上したことがわかる. モデルごとに確認すると，通常の BERT の精度が最も高いことから, 固有名詞と名詞を含んだ方が分類精度が高くなることがわかった.図 2 は BERT の Attention weight の可視化結果である. 図 2 の(1)と (4)より, BERT は, “ニコラ”, “中 3 ”, “思い出づくり”, “3.11” などの特徴的な言葉を根拠に分類を行っていることがわかる．BERT MASKED PROPER NOUN は，どのラベルも高い精度で推定することができており, 固有名詞をマスキングしても，高い精度で分類されていることがわかる.図 2 の (2) と (5) より，“スタート”，“チェック”，“寄稿” という特徴的な単語を根拠に分類している一方，“みてね一！”，“みて下さい”といった文末の表現により重み付けされていることから，対象となる属性に向けた文体が学習されていることがわかる. BERT MASKED NOUN の精度は他のモデルと比べると下がるが，依然として高い精度で分類ができており, 図2の (3)と (6)を見ると, “こんにちは”, “したよ”，“ければ”，“みて下さい。”といった文体の表現を根拠としており，より文体的特徴を学習していることが推測される.

## 7 おわりに

本研究では，特定の年代性別のユーザに向けて発信されたツイートは指向性を持つと仮定し，それを定量的に推定するために，雑誌の公式アカウントによるツイートを収集し，BERT による分類モデルを構築した. 実験では，通常の BERT モデルにより一定の精度で推定できることを示し, さらに固有名詞と名詞を特殊トークン化したモデルとの比較により，指向性を持つツイートの言語的特徴を考察した. マルチラベル分類タスクとして解くことで，どのラベルも高い精度で分類することができた.

今後の課題としては，雑誌の公式アカウント以外の指向性ツイートの取得と実用的なツールの開発である. 現在，インフルエンサーが発信するツイートを対象として検討している。これにより指向性を雑誌の公式アカウント以外の発信するツイートで確認することができる。また現在，試験的に開発したシステム VOICE2PeOple（付録の図 3) $)^{5}$ を公開している. VoICE2PEOPLe は今回の実験で用いたモデルを組み込んだ Web アプリケーションで，入力したテキス卜の指向性を推定することができる．今後，ユーザによる評価実験を行い，指向性の定量的評価の有用性や拡張性について検証する予定である。


## 謝辞

本研究は AMED の課題番号 JP22mk0101229，JSPS

科研費 JP20K19932, JP19H01118, JP22K12041，Yahoo 株式会社共同研究費の支援を受けたものです.

## 参考文献

[1] 佐藤翔輔, 今村文彦. 2018 年西日本豪雨災害における「井救助」ツイートの実態:2017 年 7 月九州北部豪雨災害との比較分析. 自然災害科学, Vol. 37, No. 4, pp. 383-396, 2019.

[2] 総務省. 新型コロナウイルス感染症に関する情報流通調査報告書, 2020. https://www.soumu.go.jp/ menu_news/s-news/01kiban18_01000082.html.

[3] 新型コロナウイルス感染症対策分科会. “対話ある情報発信” の実現に向けた分科会から政府への提言令和 2 年 11 月 12 日 (木), 2020. https://www.cas.go. jp/jp/seisaku/ful/bunkakai/seifu_teigen_15.pdf.

[4] 公益財団法人東京市町村自治調査会. 誰にも伝わる情報発信に関する調査研究報告書. 2017. https:// www. tama-100.or.jp/cmsfiles/contents/0000000/ 672/0. darenimotutawarujouhouhassin.pdf.

[5] コトバンク. 第 2 版, 世界大百科事典内言及日本大百科全書 (ニッポニカ), “指向性とは”, 2022. https://kotobank.jp/word/\%E6\%8C\%87\%E5\%90\% $91 \%$ E6\%80\%A7-73018.

[6] John D. Burger, John Henderson, George Kim, and Guido Zarrella. Discriminating gender on Twitter. In Proceedings of the 2011 Conference on Empirical Methods in Natural Language Processing, pp. 1301-1309, Edinburgh, Scotland, UK., July 2011. Association for Computational Linguistics.

[7] Antonio A Morgan-Lopez, Annice E Kim, Robert F Chew, and Paul Ruddle. Predicting age groups of twitter users based on language and metadata features. PloS one, Vol. 12, No. 8, p. e0183537, 2017.

[8] Muhammad Abdul-Mageed, Chiyu Zhang, Arun Rajendran, AbdelRahim Elmadany, Michael Przystupa, and Lyle Ungar. Sentence-level bert and multi-task learning of age and gender in social media. arXiv preprint arXiv:1911.00637, 2019.

[9] 清基英則, 劉康明, 矢田竣太郎, 若宮翔子, 荒牧英治.言語的特徵を用いたツイートの指向性推定. 信学技報, Vol. 122, No. 88, pp. 19-24, 2022.

[10] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 4171-4186. Association for Computational Linguistics, 2019.

[11] Taku Kudo. Mecab: Yet another part-of-speech and morphological analyzer. http://mecab. sourceforge. jp, 2006.

[12] Thomas Wolf, Lysandre Debut, Victor Sanh, Julien Chaumond, Clement Delangue, Anthony Moi, Pierric Cistac,
Tim Rault, Rémi Louf, Morgan Funtowicz, et al. Huggingface's transformers: State-of-the-art natural language processing. arXiv preprint arXiv:1910.03771, 2019.

## A 参考情報

表 4 各ラベルの重要語 (TF-IDF 値)

新宿に...フォートナイト!?

これはチャプター3のヒントなのか???

みんな解読してくれ!

## 分析結果

図 3 Voice2People の画面