# STaMP: 個人の性格や政治的立場等の多面的特性と紐づく SNS データの構築及び文章スタイルによる個人特性予測

福畠 汐音 ${ }^{1}$ 仲田 明良 ${ }^{1}$ 佐橋 優人 ${ }^{1}$ 増川 哲太 ${ }^{1}$ 三輪 洋文 ${ }^{2}$
野中 尚人 ${ }^{2}$ 木下翔太郎 ${ }^{3}$ 岸本 泰士郎 ${ }^{3}$ 五十嵐彰 4 岡久太郎 ${ }^{1}$ 狩野 芳伸 ${ }^{1}$
1 静岡大学 ${ }^{2}$ 学習院大学 ${ }^{3}$ 慶應義塾大学 ${ }^{4}$ 大阪大学
\{sfukuhata, anakada, ysahasi , tmasukawa, kano\}@kanolab.net
okahisa-taro@inf.shizuoka.ac.jp \{hirofumi.miwa, naoto.nonaka\}@gakushuin.ac.jp
\{shotaro.kinoshita, tkishimoto\}@keio.jp igarashi.a.hus@osaka-u.ac.jp

## 概要

言語は人と人のコミュニケーションにおける重要なツールであると同時に，その表現には性別・年齢・学歴・政治的立場・性格特性などの個人特性が表出すると考えられる. 本研究では，そうした個人を形成する特性とその個人が作成したテキストとの関係を明らかにすべく, 日本語 SNS ユーザを対象に， 1 千人規模のクラウドソーシングによる個人特性に関連したアンケート調査を行い，STaMP データセットを構築した。また，独自に構築した文章スタイルのベクトル表現を獲得した言語モデルを用いて文章からの個人特性の予測を行い，個人特性と文章の関係に関する分析及び考察を行った. このような個人特性と SNS 上のテキストを紐づけたデータはこれまで存在せず，オンラインテキストに現れるユーザ行動を形づくる要素の解明に貢献すると期待される.

## 1 はじめに

ソーシャルネットワーキングサービス (Social Networking Service, 以下 SNS) の普及に伴い，インターネットでは人々による言語コミュニケーションが行われている。現実世界同様に，ユーザという人物を構成する様々な特性が，その文章形成に影響を及ぼしていると推測される。

異なる個人特性を持つユーザが，同じ内容について言及した文章を記した場合，命題的な内容が同じであったとしてもその文章の様相には細やかな違いが生じることがある. この差異の仕組みを解明出来れば，ユーザの個人特性とユーザの記す文章の関係性を明らかにできる。
これまでも，SNS 上のテキストデータを元にユー ザの特性を予測する研究は盛んにおこなわれてきた [1][2] が，それらは，オンラインの自発的テキストデータのみと閉じているものであった.

そこで本研究ではクラウドソーシングによるアンケートを実施して，オフラインの個人の特性に関するデータと，代表的な SNS の一つである Twitter(現 X）の投稿であるツイートデータ (以下，旧名の Twitter およびツイートと表記する）を収集し，それらを紐づけた STaMP (Social Texts and Multifaceted Personality) データセットを作成した ${ }^{1)}$. データセッ卜における個人特性の内容は，性別・年齢・最終学歴・収入・政治的立場・パーソナリティと非常に多岐にわたり，人々のオンラインでの振る舞いの表出としてのテキストと，現実の人間の属性の相関や推測につながると期待される。

作成したデータセットを用いて各個人特性予測のための学習データ及びテストデータを作成し, 文章スタイルを元に事前学習を行ったモデルに対してファインチューニングを行ったうえで，個人特性の予測性能を評価した。また，既存の事前学習済みモデルを同条件でファインチューニングした場合とで予測精度を比較し，文章と個人特性の関係性について分析を行った.

## 2 関連研究

StyleSimCSE StyleSimCSE モデル [3] は, 事前学習済み BERT[4] である bert-base-japanese-v32)をべー スモデルとし，学習データをツイート，ラベルを発

言者のアカウントとして，同一アカウントによる発言か否かを分類する対照学習により，類似する SimCSE [5] と異なりスタイルなどテキストの非内容的ベクトル表現獲得を行うモデルである。

移民問題と SNS 分析移民を対象とした社会科学の領域では，近年 Twitterを活用して人々の移民に態度を推定する研究が目立ってきている. 例えばツイートから人々の移民に対する態度を推定し，アメリカの一部地域における移民政策導入直後に態度が悪化していると報告した研究がある [6]. 同様に SentiStrength という SNS のテキストから感情を推定するソフトを使い，メディアで移民がより多く取り上げられている地域だと，移民に対する態度が否定的であったとしている研究がある [7].

パーソナリティ研究と政治行動近年のパー ソナリティ研究では, 外交性 (Extraversion), 協調性 (Agreeableness), 勤勉性 (Conscientiousness), 神経症傾向 (Neuroticism), 開放性 (Openness) の 5 つの要素から捉える Big Five などのモデルが主流となっている [8]. Big Fiveを測定する手法も多く開発されており，5つの要素を 10 項目で測定可能な Ten Item Personality Inventory (TIPI)[9] などがよく用いられている。また，パーソナリティのネガティブな特性に焦点をあてたものとして， ナルシシズム (Narcissism), マキャベリアニズム (Machiavellianism), サイコパシー (Psychopathy) の 3 特性を総称した Dark Triad も注目されている [10]. これらのパーソナリティ，性格特性の違いは，個人の政治的態度や政治参加の違いとも関連付けた検討が行われてきている [11].

## 3 STaMP データセットの構築

我々はアクティブな Twitterアカウントを対象にクラウドソーシング調査を複数回実施してアンケー 卜結果と投稿データを収集し，発言者と文章・個人特性が紐づいたデータセットを構築した。

調査は以下の 3 つの基準すべてを満たす Twitter ユーザを対象に実施した。
1. 18 歳以上である.

2. 日本国籍を持っている.
3. 2021 年 12 月 31 日以前から Twitterを公開アカウントで利用しており，平均して 3 日に 1 回以上投稿している.

結果，1,594 アカウントから回答を得た.そのう
ち 605 件は Lancers クラウドソーシングによって， 989 件は Yahoo クラウドソーシングによって収集した. 実施時期により，収入・DTDD-J ・ TIPI-Jに関連する9つの項目は Yahoo クラウドソーシングデータにのみ設問が存在する。

アンケートの設問で回答者の Twitter アカウントを尋ね，各アカウントのツイートを Twitter API v2 の Academic Researchアクセスにより取得した。

## 3.1 パーソナリティに関する統計情報

本研究では性格特性の評価として Big Five と Dark Triad に相当するものとして，日本語版 Dark Triad Dirty Dozen（以下，DTDD-J）[12]，日本語版 TIPI (以下，TIPI-J) [13]を用いた。

収集したパーソナリティに対応するアンケートの設問一覧及び，ラベル決定のための計算式は，付録 A. 1 と付録 A. 2 に記載する. アンケートの各パーソナリティカテゴリのうち, DTDD-J と TIPI-J の回答結果の統計情報を以下の表 1 に示す.これらのスコアは付録 A. 2 の計算式をもとに計算されており，スコアが高いほど各傾向が強いことを表す.

表 1 DTDD-J/TIPI-Jに関する回答の統計情報

## 3.2 その他の設問

DTDD-J，TIPI-J の他に，政治的立場や個人特性に関する設問として，性別や年収，最終学歴，イデオロギーに関する設問を作成し調査を実施した。

## 4 個人特性の予測

アカウント単位での，性別・年齢・年収・最終学歴・イデオロギー・移民に対する態度・防衛費増額に対する態度・憲法改正に対する態度の 8 項目とDTDD-Jと TIPI-Jに含まれる 8 項目の計 16 項目についての分類タスクの予測精度の評価を行った. 3 節のデータセットから各個人特性カテゴリに対応した学習用データセットを作成し，以下で述べる前処理を適用したうえで，事前学習済みモデルに対して作成したデータセットを用いてファインチューニングを行った. 具体的には，我々が構築した StyleSimCSE の利用を提案手
法とし, 京都大学が公開している日本語 BERT の deberta-v2-large-japanese ${ }^{3)}$ を比較対象として用いた. これら事前学習済み BERT の最終層に，タスクに応じて多值分類用の全結合層を追加してファインチューニングを行った. ファインチューニング時の各種パラメータ設定は，付録 A. 3 に記載する.

## 4.1 ツイートデータの前処理

投稿テキストと個人特性の関係を調査するため,引用リツイートやプロモツイート，ツイート内のメンション部分を除外した. 文字数が 15 文字未満のツイートは内容に乏しい可能性があるため，100 文字以上のツイートは StyleSimSCE の事前学習設定に合わせ，除外した. 総ツイート数が 80 件を超えるアカウントは直近 80 件のみを対象とし, 80 件未満のアカウントは除外して，アカウントあたりのツイート数を 80 件にそろえた. 結果，670アカウント 53,600 イイトとなった.

## 4.2 個人特性のラベリング

アンケートの各回答項目に関してラベリングを行った. その結果と各ラベルの人数の内訳を表 2 に示す. 項目ごとの回答数の合計が一致しないのは,一部設問に無回答のアカウントがあること, 前述のように一部設問が追加される前の調査があることに起因する.

なお，表 2 内のラベルについて，ラベル 3 は各項目における中立的なラベルである. また，政治的立場に関するカテゴリでは, ラベル 1 がリベラル的な立場に，ラベル 2 が保守的な立場に対応している.4)

## 4.3 訓練時のデータ分割と評価指標

表 2 のうちラベル 1 , ラベル 2 の個人特性を対象として，個人特性ごとに 3 分割交差検証による訓練と

3) https://huggingface.co/ku-nlp/deberta-v2-large-japanese

4）本研究では，個人特性の違いの予測を目的としているため，各カテゴリで中立的な個人特性を持つアカウントについては除外した評価を行った. 個人特性ごとにラベル比率が 1:1 になるようオーバーサンプリングを実施してからデー タ分割し，その際訓練と評価でアカウントの重複が起こらないょうにした. 訓練データの $20 \%$ は訓練時の検証データとして用いた. Accuracy およびラべルごとの $\mathrm{F} 1$ 値を評価指標とした。

推論時には，対象アカウントの各ツイートに対する予測確率5) が 0.7 以上の結果に対して， 2 值であるラベルの比率を計算し，設定した閾値により最終的な推測結果のラベルを決定した。

DTDD-Jと TIPI-Jについては，学習モデル個別に，各項目それぞれで閾値を決定した。交差検証においてラベルごとの性能 (F1 值) の平均が最も高くなる閾値を探索的手法で求め, 個人特性項目ごとに設定した (付録 A.4). ${ }^{6)}$ DTDD-J と TIPI-J 以外の項目については間値を 0.5 とした。

## 5 個人特性予測の結果

各個人特性項目における予測性能の評価結果を表 3 に示す. 性別, 年齢, 最終学歴, 移民に対する態度，勤勉性，開放性の 6 項目の予測においては高い性能であった. ${ }^{7)}$

表 3 各個人特性の予測精度の比較結果

 &  & 0.7359 & \\

## 6 分析と考察

表 3 の個人特性の予測精度の結果から，文章スタイルが個人特性の予測において有用であると推察される。そこで，訓練後の StyleSimCSE モデルに対して，予測が当たっておりかつ予測確率が 0.7 以上のツイートを対象として分析を行った. まず，評価データに対する「移民に対する態度」「最終学歴」ごとの文章ベクトルを t-SNE [14]を用いて 2 次元に削減したうえでプロットした. 次に, 密度の高い位置

5）各ラベルに対する予測確率をソフトマックス関数を使用して合計値が 1 になるように調整した後の値

6) StyleSimCSE,deberta-V2-large-japanese ともに，訓練データにおける予測精度 (F-Score) が最も高くなるような值のばらつきは少なかった

7）表内で値が 0 になっている箇所は，予測が片方のラベルに傾いたためで，学習データの不足が原因と考えられる。

に存在するツイートを代表值として抽出して，「移民に対する態度」「最終学歴」とツイートの関係性を分析した. ${ }^{8)}$

## 6.1 移民に対する態度とツイートの関係性

文章ベクトルの分布（図 1）から，「移民に対する態度」の違いによって文章ベクトルに違いがあることが分かる。すべて異なるアカウントによるツイー トを列挙した表 4・表 5 からは，「移民に対する態度」が肯定的なユーザは絵文字を多用し，否定的なユーザは使用しない傾向があることが分かる. 政治的な態度と文章との関連を示唆している。

図 1 ファインチューニング後の StyleSImCSE による「移民に対する態度」ごとの文章べクトルを次元圧縮した図

表 4 「移民に対する態度」が肯定的なユーザのツイー 卜例

表 5 「移民に対する態度」が否定的なユーザのツイー 卜例

## 6.2 最終学歴とツイートの関連性

同様の処理及び分析を「最終学歴」に対しても行った. 文章べクトルの分布（図 2）から，「最終学歴」の違いによって文章べクトルに違いがあることが分かる. ツイート例（表 6・表 7）では，「最終学歴」が中学校卒・高等学校卒であるユーザとそれ以外のユーザに分けて例示している。ここでも，絵文字の有無が違いとして見て取れ，高等教育を修了し

8）表中の事例ツイートテキストは発信者が特定できない程度に加工したものである.
ていないユーザは絵文字が多く，発言の内容が日常生活に関するものが多いといった傾向がある．また高等教育を修了しているユーザは，発言の内容が政治に関するものが多い，スタイルが書き言葉的であるという傾向がある。

これらから，最終学歴とその文章においても関連がある可能性が示唆される．なお，最終学歴と移民に対する態度の間には相関がみられなかった。

図 2 ファインチューニング後の StyleSImCSE による「最終学歴」ごとの文章べクトルを次元圧縮した図

表 6 「最終学歴」の違いによるツイート例 (中学校卒,高等学校卒)

表 7 「最終学歴」の違いによるツイート例 (高等専門学校卒，大学卒，大学院卒)

## 7 おわりに

本研究では，クラウドソーシング調査による個人特性と紐づいた SNS 投稿データセットを構築し，実際に文章からの個人特性の予測を行うことで，文章と個人特性の関係性についての分析を行った．実験の結果，文章と個人特性には特性に関する明示的な内容以外の関係性がある可能性が高いことが分かった. 今後の展望として，文章と個人特性の関係性のより詳細な分析や，その他の個人特性に関する予測精度の検証，分析結果を用いた言語モデルのアライメントへの応用, データ規模の拡大が挙げられる.

## 謝辞

本研究は JSPS 科研費 JP22H00804，JP21K18115， JP20K20509，JST AIP 加速課題 JPMJCR22U4，及びセコム科学技術財団特定領域研究助成の支援を受けたものです.

## 参考文献

[1] Ryohei Sasano Kosuke Yamada and Koichi Takeda. 「いいね」「シェア」をした投稿のテキストを利用した SNS ユーザの性格推定. 人工知能学会論文誌, 2020.

[2] 石川晴貴, 荒澤孔明, 服部峻. 属性が性格に及ぼす作用の存在解明のためのツイッターユーザの属性抽出と性格ベクトル化. 電子情報通信学会技術研究報告 (IEICE Technical Report (Institute of Electronics, Information and Communication Engineers)), Vol. 119, pp. 7-12, 2020 .

[3] 仲田明良, 狩野芳伸. Style SimSCE: SNS ユーザ同一性に基づく対照学習によるスタイル類似性を捉えた文ベクトルの獲得. 言語処理学会年次大会発表論文集 (to appear), 2024.

[4] Kenton Lee Jacob Devlin, Ming-Wei Chang and Kristina Toutanova. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. arXiv preprint arXiv, 2018.

[5] Xingcheng Yao Tianyu Gao and Danqi Chen. SimCSE: Simple contrastive learning of sentence embeddings. In Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing, p. 6894-6910, 2021 .

[6] René D. Flores. Do anti-immigrant laws shape public sentiment? a study of arizona' s sb 1070 using twitter data1. American Journal of Sociology, Vol. 123, No. 2, pp. 333-384, 2017.

[7] Anastasia Menshikova and Frank van Tubergen. What drives anti-immigrant sentiments online? a novel approach using twitter. European Sociological Review, Vol. 38, pp. 694-706, 2022.

[8] L. P. John, O. P. Naumann and C. J Soto. Paradigm shift to the integrative big five trait taxonomy. Handbook of personality: Theory and research, Vol. 3(2), pp. 114158,2008 .

[9] Rentfrow P. J. Gosling, S. D. and W. B. Swann Jr. A very brief measure of the big-five personality domains. Journal of Research in personality, Vol. 37(6), pp. 504-528, 2003 .

[10] D. L. Paulhus and K. M. Williams. The dark triad of personality: Narcissism, machiavellianism, and psychopathy. Journal of Research in personality, Vol. 36(6), pp. 556-563, 2002.

[11] Pruysers S. Chen, P. and J Blais. The dark side of politics: Participation and the dark triad. Political Studies, Vol. 69(3), pp. 577-601, 2021.

[12] 田中圭介田村紋女, 増井啓太. 日本語版 dark triad dirty dozen (DTDD-J) 作成の試み. パーソナリティ研究, Vol. 24(1), pp. 26-37, 2015.
[13] 小塩真司, 阿部晋吾. 日本語版 ten item personality inventory (TIPI-J) 作成の試み. パーソナリティ研究, Vol. 21(1), pp. 40-52, 2012.

[14] Laurens van der Maaten and Geoffrey Hinton. Visualizing data using t-SNE. Journal of Machine Learning Research, Vol. 9, pp. 2579-2605, 2008.

## A 付録

## A. 1 各個人特性の判定に対応した設問の 一覧

各個人特性の判定に対応した設問の一覧は以下の表 8 に示すとおりである.

設問 Q2-a については，「かなり増えたほうが良い」を 1 「「かなり減った方がよい」を 5 として， 5 段階での回答を求めている. 設問 Q2-c Q2-e，Q3, Q4 については，「そうは思わない」を1，「そう思う」 を 5 として，5 段階での回答を求めている. 設問 $2-b$ は $0 \sim 100$ の整数値での回答を求めている. ラベリングに際して, 81 以上 100 以下を 1,61 以上 80 未満を2, 41 以上 60 未満を 3,21 以上 40 未満を 4,20 以下を 5 とした. 設問 $\mathrm{Q} 5$ については，「200万円未満」「200 万円以上 400 万円未満」「400 万円以上 600 万円未満」「600 万円以上 800 万円未満」「800 万円以上 1000 万円未満」「1000 万円以上 1500 万円未満」 $「 1500$ 万円以上」の 7 段階での回答を求めている. また，設問 Q7-a～Q7-1 の文頭にはそれぞれ以下の文言「以下の項目は，あなたにどの程度あてはまりますか.「全くあてはまらない」を 1 ，「非常にあてはまる」を 5 としたとき，最も近いと思うものを選んでください.」が含まれている. 設問 $\mathrm{Q} 8-\mathrm{a} \sim \mathrm{Q} 8-\mathrm{j}$ の文頭にはそれぞれ以下の文言「次のことばがあなた自身にどのくらい当てはまるかについて, 「全く違うと思う」から「強くそう思う」までのうちもっとも適切なものをそれぞれ選んでください. 文章全体を総合的に見て，自分にどれだけ当てはまるかを評価してください.」が含まれている. 設問 Q8-a Q8-j は 7 段階評価での回答を求めている.

表 8 各個人特性の判定に対応した設問の一覧

## A. 2 ラベル決定のための計算式と各ラベ ルの判定基準

ラベル決定のための計算式 [12][13]を以下に示す. ImmigrantsScore $=(Q 2 a+Q 2 b+Q 2 c+Q 2 d+Q 2 e) / 5$
IdeologyScore $=($ ImmigrantsScore $+Q 3+Q 4) / 3$

MachiavellianismScore $=Q 7 a+Q 7 b+Q 7 c+Q 7 d$

PsychopathyScore $=Q 7 e+Q 7 f+Q 7 g+Q 7 h$

NarcissimScore $=Q 7 i+Q 7 j+Q 7 k+Q 7 l$

ExtroversionScore $=Q 8 a+(8-Q 8 f)$

CooperativenessScore $=(8-Q 8 b)+Q 8 g$

DiligenceScore $=Q 8 c+(8-Q 8 h)$

NeurologicalTendencyScore $=Q 8 d+(8-Q 8 i)$

OpennessScore $=Q 8 e+(8-Q 8 j)$

移民に対する態度は, ImmigrantsScore が 2.5 以下のものを否定的， 3.5 以上のものを肯定的とした.防衛費増額に対する態度は，Q3 の回答が 1 のものを否定的，5のものを肯定的とした. 憲法改正に対する態度は，Q4 の回答が 1 のものを否定的，5のものを肯定的とした. イデオロギーは, IdeologyScore が 2.5 以下のものをリべラル派， 3.5 以上のものを保守派とした。

DTDD-J,TIPI-J に関するラベリングは, 表 1 の結果と人数分布をもとにして閾値を設定し, 閾値 1 より大きいものを Positive, 間值 2 より小さいものを Negative，それ以外を Neutral とした. 各カテゴリと間値の対応関係を以下の表 9 に示す。

表 9 DTDD-J/TIPI-J のラベル決定のための閾值

## A. 3 ファインチューン時のパラメータ 設定

各予測タスクにおけるファインチューニング時のパラメータ設定は以下の通りである.

$\mathrm{lr}=2 \mathrm{e}-5$, max epochs $=10$ (early stopping により早期終了する可能性がある)， batch size $=64$

## A. 4 推論時の DTDD-J・TIPI-Jの threshhold