言語処理学会 第29回年次大会 発表論文集 (2023年3月)

誰に向けた発言か？：ツイートの指向性推定
清基英則 1 劉康明 1 矢田竣太郎 1 若宮翔子 1 荒牧英治 1
1 奈良先端科学技術大学院大学{kiyomoto.hidenori.kj5,liew.kongmeng,s-yada,wakamiya,aramaki}@is.naist.jp

概要
新型コロナウイルスの拡大に伴い，政府や自治体はソーシャルメディアを用いた正確かつ迅速な情報発信が求められている．そのためには，特定の対象（年代や性別など）に向けて発信された情報を，その対象が自分に向けて発信されていると理解できるかどうか，すなわち「指向性」が重要である．情報発信者の属性を特定する研究は多いが，情報が対象とする受信者の属性を特定する研究は見受けられない．本研究では，Twitter における雑誌の公式アカウントが発信するツイートは読者層向けに最適化されていると仮定し，各雑誌の対象年齢と性別をラベル付けした指向性ツイートデータセットを用いて，ツイートがどの年齢，どの性別に向けられているものなのか機械学習モデルで分類した．この実験結果を分析し，指向性の定量的測定がもたらす価値を考察した．

1

はじめに今や情報発信のインフラとしてソーシャルメディアはなくてはならないものとなっている．日本においては東日本大震災を契機として，SNS を活用した情報発信が大きく注目され始めた．その後も，2017
年 7 月九州北部豪雨災害や 2018 年西日本豪雨災害
でも救助を要請するツイートが多数投稿され，政府と市民間での情報発信の有効な手段として利用された [1]．このように，リアルタイム性と拡散性に優れた SNS を用いた情報発信は重要性を増しており，その動きは新型コロナウイルスの流行に伴い，さらに加速的に進んだ．例えば，厚生労働省により組織されたクラスター対策班は，分かりやすい情報を一般市民に届けるために，Twitter アカウントを開設し，情報発信を行った．さらに他の自治体も相次いて，SNS を通じた情報配信を活発化した．従来，SNS に消極的であった公的期間でさえも，SNS を重要なインフラとして捉え始めている．

図 1 ツイートの指向性推定．政府の発信のツイートには多方面への無指向性が，男子学生が好む話題のツイートには 10 代男性への超指向性が推定される．

一方で，情報発信における問題点も浮き彫りになっている．2020 年 6 月に報告された新型コロナウイルス感染症に関する情報流通調査 [2] において，政府が正しい情報を届けるための工夫を適切に行っていないと評価した人が多かった．その後，新型コロナウイルス感染症対策分科会は，情報の受信者側が関心をもち，理解を深め，行動を変容させるような 対話ある情報発信 の実現に向けて，情報発信の強化を迅速に進めるよう政府に提言した [3]．しかし，不特定多数に向けた情報発信では，受信者側にうまく伝わらない傾向にあり，様々な年齢・性別・状況の人への情報発信は難しい [4]．
このような背景のもと，リスクコミュニケーションに配慮した情報配信を実現するために，本研究では，ツイートがどの対象（年代や性別など）に向けて発信されているか，この発信者が想定する受信者像を，本研究では「指向性」と呼び，ツイートの「指向性」に着目する．指向性とは，音響学的に，空中に出力された音や電波の伝わる強さが，方向によって異なる性質を意味する [5]．マイクやスピーカーの指向性の種類には，全方向に対して発信される無指向性や特定の限られた範囲に発信される超指向性などがある．このアナロジーを情報発信に当てはめると，例えば政府の発表などは広い範囲の無指向性が，敬老会の予定などは高齢者に対する指向性が，カードゲームのイベント情報は若年層の男性に向け― 2359 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

表1

雑誌の公式アカウントが発信するツイートの例

ことができた．若年層は “学校” や “大学” などの用ツイート語を特徴として捉えることができたため，高い精度

10 代女性みんなどんな夏休みを過ごしてたのかな？

での分類を行うことができたが，成人層の発信する

20 代女性韓国で盛んなハズせないファッションツイートの言語的特徴を捉えることは困難で，低い30 代女性

季節の変わり目をおしゃれに乗り切るっっ！

40 代女性皆さんの興味を引く記事はありますでしょうか？

精度での分類となったことを示した．Abdul-Mageed

50 代女性

みなさん、足元にお気をつけください。

ら [8] は，約 160 万件のアラビア語のツイートから60 代女性ひざ痛は今日みたいに「急な寒さ」で悪化します

なるデータセットを構築し，書き手の性別（男性

10 代男性シンオウ地方で出会えるポケモンを大紹介！

または女性) と年齢グループ (25 未満，25-34，35 以

対象属性

20 代男性 このチェキ、カッコいいですよね
30 代男性 「0 円マイカー」というサービスをご存知でしょう
40 代男性

この柄に見覚えありますか？

50 代男性100 年以上にわたって愛され続ける作品の魅力とは60 代男性

たかがねこ背だなんて軽視してると危険ですよ。

上）の合計 6 ラベルの分類を行った．彼らは BERTを用いて，年齢層を 51.42% ，性別を 65.30%の精度で分類できることを示した．さらに，“they ask me”，“you dear”，“good evening” などの語句を分類の根拠としていたことから，性別間で書き方に明確な違いられた超指向性があると考えることができる．
我々は，誰に向けたツイートであるかを言語的特徴で捉え，定量的に推定できるようになることで，情報発信者はより迅速かつ効果的に必要な情報をがあることを述べた．
これらの研究に対して本研究の指向性推定は，発信者が想定する受信者像を推定する点で新規である．

多くの人に届けることができると考えた．本研究では，対象としている層を公開している雑誌の公式ア

表 2 指向性ツイートデータセットの統計量

ラベル 対象属性

ツイート数

MeanSD

カウントが発信するツイートは指向性を持つと仮定
し，雑誌の対象層をラベル付けしたデータセットを

F10

10 代女性11,7101301.1

405.7

用いてツイートの指向性を推定するモデルを構築し

F20

20 代女性

7,929

881.0

588.1た．ツイートには 30 代から 40 代の男性向けといった複数が対象層となっているものが含まれるため，

F3030 代女性

7,230 1032.9

1274.4

マルチラベル分類タスクとして解き，指向性のある

F40
F50

40 代女性50 代女性

12,596
17,1641399.6
1716.41209.71215.1

文章の定量的解析を行なった．

F60

60 代女性

21,0871405.8853.8

M10

10 代男性

14,6531971.0303.8

M2020 代男性26,926

1941.3359.2

メッセージ送受信に関わる者の属性（年齢，性M3030 代男性

13,5681356.8865.5

別，職業など）を推定する場合，これまでよく研究

M40

40 代男性22,1181701.4

992.3

されてきたのは送信者の属性である．Burger ら [6]M5050 代男性18,3931839.31036.4は，1850 万人のユーザが発信した約 2 億 1300 万件

M6060 代男性

13,825

1874.7570.3

2

関連研究の多言語ツイートコーパスを構築し，ツイート発信者の性別を分類した．この研究で構築した Balanced
Winnow2 アルゴリズムがベースの機械学習モデル

データセット3は，66.5%の精度で性別を分類することができた．

本稿では，指向性を定量的に推定するために，指またこのモデルが髪や愛に関連する単語，感嘆符や顔文字などの女性がよく用いる用語に強い影響を向性ツイートデータセット [9] を用いた．指向性ツ受けたことを示した．Morgan-Lopez ら [7] は Twitter

イートデータセットは，特定の対象に向けて発信された，すなわち，指向性を持つツイートを収集してユーザの年齢を推定する際の言語的特徴を捉える構築された．特定の対象に向けて発信された，すな研究を行った．ユーザを 18 から 24 歳の若年層，13わち，指向性を持つツイートを収集し，データセッから 17 歳の若者層，25 歳以上の成人層と三つの年トの構築を行った．指向性を持つツイートとして，齢層に分け，最近発信した 200 件のツイートを収集

雑誌の公式アカウントが発信するツイートは読者層し，学習データとして利用した．この研究で構築し（年齢と性別）向けに最適化されているとみなし，たロジスティック回帰モデルは F 値 0.72 で分類する収集対象とした．具体的には，対象年齢と性別ごと― 2360 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

表 3 3 つの提案モデルによる分類結果 (太字がモデル間の中での最も高い値)

BERT

BERT Masked Proper Noun

BERT Masked Noun

Label

Precision

Recall𝐹1 -score

Precision

Recall𝐹1 -score

Precision

Recall𝐹1 -score

F10
F20
F30
F40
F50
F600.850.880.89
0.88
0.89
0.92

0.87
0.72
0.84
0.82
0.87
0.92

0.86
0.79
0.87
0.85
0.88
0.92

0.85
0.92
0.88
0.87
0.87
0.85

0.76
0.50
0.76
0.76
0.79
0.88

0.80
0.64
0.82
0.81
0.83
0.87

0.80
0.65
0.80
0.75
0.77
0.84

0.55
0.57
0.66
0.67
0.68
0.65

0.65
0.61
0.72
0.71
0.72
0.73

M10
M20
M30
M40
M50
M60

0.92
0.90
0.90
0.94
0.93
0.93

0.79
0.82
0.86
0.93
0.86
0.88

0.85
0.86
0.88
0.93
0.89
0.91

0.80
0.79
0.84
0.90
0.87
0.840.76
0.79
0.84
0.91
0.85
0.87

0.78
0.79
0.84
0.90
0.86
0.86

0.83
0.71
0.76
0.85
0.85
0.90

0.48
0.61
0.77
0.84
0.66
0.54

0.61
0.66
0.76
0.84
0.74
0.68

macro avg

0.90

0.85

0.87

0.86

0.79

0.82

0.79

0.64

0.70に雑誌をまとめたウェブサイト1）2）3）を参考に，10セットでファインチューニングした．このモデルは代から 60 代までの男女別の雑誌リストを作成し，12 層のエンコーダ，768 次元の隠れ層，12 個のアテTwitter における公式アカウント名を取得した．このンションヘッドから構成される．学習条件として，結果，女性向けと男性向け雑誌のアカウント数はそ

最適化手法は AdamW，学習率は 1.0 × 10−5 ，エポッ

れぞれ 71 と 35 であった．なお，対象とする性別がク数は 5，バッチサイズは 32 である．各ツイートに示されていない雑誌は，男性と女性の両方を対象とは複数のラベルが付与されうるため，マルチラベルする雑誌アカウントとして，幅広い年齢層を対象と分類モデルを構築した．BERT の最終層の出力を全する雑誌は，複数の年齢層を対象とする雑誌アカウントとして扱った．例えば，“@safari online というてのトークンに渡って平均化，その値を線形変換しアカウントは 20-30 代の男性向けの雑誌の公式アカ該当ラベルとした．

ウントであるため，20 代男性と 30 代男性の両方に含まれる．ツイート取得方法やノイズ除去処理などさらに，ツイートの話題ではなく，語尾や文体といった言語的特徴を考慮した分類のために，固有名の詳細については [9] を参照されたい．データセッ

詞と名詞をそれぞれ特殊トークンとして学習させたトにおけるツイートの総数は 187199 であり，その2 つのモデル（BERT Masked Proper Noun と BERT

概要は表 2 に示す．

Masked Noun）を構築した．固有名詞と名詞の判定4たものを分類スコアとし，スコアが正の値の場合にには，形態素解析器 MeCab [11] を用いた．特殊トー提案手法

クンに置き換えることで，BERT の学習に影響を与本研究では，ツイートがどの年齢や性別に向けて発信されているのかを，マルチラベル分類タスクとして解く．そのために指向性ツイートデータえる単語を意図的に制限することができる [12]．

結果

5セットを用いて，文章分類モデルを構築する．分類

指向性ツイートデータセットを 9（訓練）：1（評モデルには Bidirectional Encoder Representations from価）の割合で分割し，BERT，BERT Masked Proper

Transformers (BERT) [10] を日本語コーパスで事前学習したモデル4）を採用し，指向性ツイートデータ

Noun，BERT Masked Noun の 3 つのモデルによる

1） https://www.magazine-data.com/menu/age.html
2） https://www.san-an.co.jp/media/senior.html
3） https://en.wikipedia.org/wiki/List of manga magazines4） https://huggingface.co/cl-tohoku/
bert-base-japanese-whole-word-masking

ツイートの分類精度を評価した．評価指標には，Macro-F1 と各ラベルの F 値を用いた．表 3 に結果を示す．
各モデルの F 値の平均はそれぞれ 0.87，0.82，0.70と高い精度となった．2 節で述べたツイート文から― 2361 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

図 2 Attention weight の可視化結果．(1)(2)(3) は F10 に，(4)(5)(6) は F60 と M60 に BERT, BERT Masked Proper Noun,BERT Masked Noun でそれぞれ正しく分類された例．マスキングにより，文末や文体の表現に重み付けされている．

書き手の年齢層を推定するモデル [7] の F 値が 0.72

図 2 の (2) と (5) より，“スタート”，“チェック”，“で，一定の有用性を評価しているため，今回の我々寄稿” という特徴的な単語を根拠に分類している一の結果もある一定の精度を示したと判断した．

方，“みてねー！”，“みて下さい” といった文末の表

モデルごとに確認すると，BERT の F 値の平均が現により重み付けされていることから，対象となる0.87 であり，F40 から F60，M30 から M60 の F 値が属性に向けた文体が学習されていることがわかる．

突出して高い結果となった．ほぼ全てのラベルが F

BERT Masked Noun の精度は他のモデルと比べると値が 0.8 を超えていることから，高精度での分類結下がるが，依然として高い精度で分類ができてお果となった．BERT Masked Proper Noun についてり，図 2 の (3) と (6) を見ると，“こんにちは”，“しは，F 値の平均値は 0.82 であり，BERT に比べてやたよ”，“ければ”，“みて下さい。” といった文体のや低い精度となった．F40 から F60，M30 から M60の F 値が依然として高いままであったが，他のラベ表現を根拠としており，より文体的特徴を学習してルは下がる結果となった．BERT Masking Noun の F
値の平均値は 0.70 となり，他の 2 つのモデルと比べいることが推測される．

おわりに7て，適合率，再現率，F 値の全てが下がった．M40

本研究では，特定の年代性別のユーザに向けて発の F 値のみ 0.85 と高いままであるが，他のラベルは信されたツイートは指向性を持つと仮定し，それをBERT に比べて大きく精度が下がった．

定量的に推定するために，雑誌の公式アカウントに6よるツイートを収集し，BERT による分類モデルを考察構築した．実験では，通常の BERT モデルにより一本 節 で は，分 類 結 果 と 各 モ デ ル の Attention

定の精度で推定できることを示し，さらに固有名詞

weight の可視化結果をもとに，各モデルの結果とと名詞を特殊トークン化したモデルとの比較によ

分類の判断根拠について考察する．まず F30 からり，指向性を持つツイートの言語的特徴を考察しF60，M30 から M60 のラベルの精度がモデルを問た．マルチラベル分類タスクとして解くことで，どわずに高かった．これは先行研究 [9] では，低い精のラベルも高い精度で分類することができた．

度であったラベルであり，マルチクラスからマル今後の課題としては，雑誌の公式アカウント以外チラベルにタスクを変更したことで，複数のラベルが付いたツイートの分類精度が大幅に向上したの指向性ツイートの取得と実用的なツールの開発である．現在，インフルエンサーが発信するツイートことがわかる．モデルごとに確認すると，通常のを対象として検討している．これにより指向性を雑BERT の精度が最も高いことから，固有名詞と名詞誌の公式アカウント以外の発信するツイートで確を含んだ方が分類精度が高くなることがわかった．

認することができる．また現在，試験的に開発した

図 2 は BERT の Attention weight の可視化結果であ5）を公開していシステム Voice2People（付録の図 3）

る．図 2 の (1) と (4) より，BERT は，“ニコラ ，“る．Voice2People は今回の実験で用いたモデルを組中３”，“思い出づくり”，“3.11” などの特徴的な言み込んだ Web アプリケーションで，入力したテキス葉を根拠に分類を行っていることがわかる．BERTトの指向性を推定することができる．今後，ユーザ

Masked Proper Noun は，どのラベルも高い精度でによる評価実験を行い，指向性の定量的評価の有用推定することができており，固有名詞をマスキング性や拡張性について検証する予定である．

しても，高い精度で分類されていることがわかる．

5） https://voice2people.netlify.app/― 2362 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

謝辞
本研究は AMED の課題番号 JP22mk0101229，JSPSTim Rault, Rémi Louf, Morgan Funtowicz, et al. Huggingface’s transformers: State-of-the-art natural language
processing. arXiv preprint arXiv:1910.03771, 2019.

科研費 JP20K19932, JP19H01118, JP22K12041，Yahoo
株式会社共同研究費の支援を受けたものです．

参考文献[1] 佐藤翔輔, 今村文彦. 2018 年西日本豪雨災害における「#救助」ツイートの実態:2017 年 7 月九州北部豪雨災害との比較分析. 自然災害科学, Vol. 37, No. 4,pp. 383–396, 2019.
[2] 総務省. 新型コロナウイルス感染症に関する情報
流通調査 報告書, 2020. https://www.soumu.go.jp/
menu news/s-news/01kiban18 01000082.html.
[3] 新型コロナウイルス感染症対策分科会. 対話ある情報発信 の実現に向けた 分科会から政府への提言
令和 2 年 11 月 12 日 (木), 2020. https://www.cas.go.
jp/jp/seisaku/ful/bunkakai/seifu teigen 15.pdf.
[4] 公益財団法人東京市町村自治調査会. 誰にも伝わる情報発信に関する調査研究 報告書. 2017. https://www.tama-100.or.jp/cmsfiles/contents/0000000/672/0.darenimotutawarujouhouhassin.pdf.
[5] コ ト バ ン ク. 第 ２ 版, 世 界 大 百 科 事 典 内 言 及
日 本 大 百 科 全 書 (ニ ッ ポ ニ カ), 指 向 性 と は ,2022. https://kotobank.jp/word/%E6%8C%87%E5%90%
91%E6%80%A7-73018.
[6] John D. Burger, John Henderson, George Kim, and Guido
Zarrella. Discriminating gender on Twitter. In Proceedings of the 2011 Conference on Empirical Methods
in Natural Language Processing, pp. 1301–1309, Ed-

[7]

[8]

[9]

[10]

inburgh, Scotland, UK., July 2011. Association for Computational Linguistics.
Antonio A Morgan-Lopez, Annice E Kim, Robert F Chew,and Paul Ruddle. Predicting age groups of twitter users
based on language and metadata features. PloS one,Vol. 12, No. 8, p. e0183537, 2017.
Muhammad Abdul-Mageed, Chiyu Zhang, Arun Rajendran, AbdelRahim Elmadany, Michael Przystupa, andLyle Ungar. Sentence-level bert and multi-task learning of age and gender in social media. arXiv preprint
arXiv:1911.00637, 2019.
清基英則, 劉康明, 矢田竣太郎, 若宮翔子, 荒牧英治.
言語的特徴を用いたツイートの指向性推定. 信学技報, Vol. 122, No. 88, pp. 19–24, 2022.
Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina
Toutanova. BERT: Pre-training of deep bidirectionaltransformers for language understanding. In Proceedings of the 2019 Conference of the North American
Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1(Long and Short Papers), pp. 4171–4186. Associationfor Computational Linguistics, 2019.
[11] Taku Kudo. Mecab: Yet another part-of-speech andmorphological analyzer. http://mecab. sourceforge. jp,2006.
[12] Thomas Wolf, Lysandre Debut, Victor Sanh, Julien Chaumond, Clement Delangue, Anthony Moi, Pierric Cistac,― 2363 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

A

参考情報
表 4 各ラベルの重要語 (TF-IDF 値)
順位

F10F20

F30

F40

F50

F60

1

発売 (0.38)

steady(0.44)

さん (0.64)

さん (0.71)

さん (0.71)

さん (0.50)

2ニコラ (0.33)

さん (0.36)

レシピ (0.24)

家庭画報 (0.22)

おとなの週末 (0.23)

東京人 (0.36)3popteen(0.22)

cawaii(0.28) リンネル (0.24)

九星気学 (0.17)

紹介 (0.21)

和樂 (0.27)

4
5さん (0.19)
本日 (0.19)

6

みんな (0.15)

7

先生 (0.15)

付録 (0.20)
spring(0.20)

otona(0.21)
muse(0.18)

こと (0.17)
レシピ (0.17)

こと (0.19) 暮しの手帖 (0.22)
家庭画報 (0.13)
特集 (0.22)

特集 (0.16)

こちら (0.14)

真木 (0.12)

レシピ (0.13)

紹介 (0.19)

チェック (0.14) おすすめ (0.14)

こちら (0.10)

九星気学 (0.10)

こと (0.19)

8

りぽん (0.15)

本日 (0.14)

紹介 (0.14)

クロワッサン (0.08)

皆様 (0.09)

発売 (0.18)

9

コミ (0.12)

mini(0.13)

lee(0.12)

占い (0.08)

人気 (0.09)

記事 (0.12)

10

表紙 (0.12)

こちら (0.13)

mamagirl(0.12)

よう (0.08)

よう (0.09)

歴史 (0.08)

順位

M10

M20

M30

M40

M50

M60

週刊エコノミスト (0.41)

さん (0.42)

東京人 (0.51)

1

発売 (0.42)

発売 (0.44)

さん (0.27)

2

先生 (0.30)

さん (0.34)

こと (0.27)

3

本日 (0.27)

4
5
6
7

さん (0.32) 週刊エコノミスト (0.41)

さん (0.42)

本日 (0.28) アイテム (0.18)

こと (0.32)

こと (0.27)

特集 (0.27)

コミックス (0.26)

smart(0.19)

out(0.15)

online(0.21)

おとなの週末 (0.26)

発売 (0.21)

ジャンプ sq(0.18)
掲載 (0.16)

公開 (0.18)
掲載 (0.18)

紹介 (0.15)
理由 (0.15)

日本 (0.14)
理由 (0.12)

online(0.19)
紹介 (0.14)

記事 (0.15)
こと (0.14)

連載 (0.14)

人気 (0.15)

よう (0.12)

発売 (0.12)

中央公論 (0.14)

最新 (0.13) ブランド (0.13)

ため (0.12)

特集 (0.12)

紹介 (0.13)

公開 (0.16)

8

少年ガンガン (0.14)

9さん (0.14)

こと (0.12)

別注 (0.13)

九星気学 (0.11)

日本 (0.11)

演劇界 (0.12)

10

更新 (0.12)

表紙 (0.11)

go(0.12)

紹介 (0.10)

九星気学 (0.11)

歴史 (0.11)

図3

Voice2People の画面― 2364 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).