# BERT を用いた孤独体験テキストからの孤独感推定

岩井律子 ${ }^{1}$ 熊田孝恒 ${ }^{1,2}$
${ }^{1}$ 理化学研究所ガーディアンロボットプロジェクト ${ }^{2}$ 京都大学大学院情報学研究科
ritsuko.iwai@riken.jp kumada. takatsune.7w@kyoto-u. ac.jp

## 概要

本研究では，記憶された過去の体験等を想起し，記述したテキストには，書き手の孤独感が反映されると考え, BERT を用いてテキストから書き手の自己評価孤独感が推定できるか検討する. ウェブ調查を実施し, 2,947 名分(女性 $=1,507$ 名, $M_{\text {age }}=50.3$, $S D=16.1,20$ 歳 78 歳)の寂しさや孤独についての記述（孤独体験テキスト）を収集し，同時に書き手自身の自己評価孤独感を収集した。また, 孤独体験テキストについて, クラウドソーシングを通じて読み手が評価した他者評価孤独感も収集した. それぞれのデータ（孤独体験テキスト・自己評価孤独感・他者評価孤独感）についての解析や BERT の正解率,分類結果に基づく孤独感スコアについて報告する.

## 1 はじめに

孤独感は心理学研究において古くから重要なテー マの一つである. 孤独感とは, 孤立等によって社会的つながりに関する期待と現実の間に質的，または量的に乘離が認知され, またその認知された乘離に満足できないことにより生じるネガティブな情動と定義される(Cacioppo \& Patrick, 2008). 従って, 友人が多い（量的に満足している）が質的にはもつと満たされるべきだと認識し, それが満たされないことに孤独を感じる人もいるが，一方，友人は少ないが本人はその量と質に満足しており，孤独を感じない人もいる.このように孤独感は, 同じような状況でも, その個人が有する心理特性によって, その感じる程度は異なる。 心理特性は, 個人の中では比較的一貫しており,さまざまな行動や認知に反映される。心理学では, 自らの過去の体験を想起し, 記述する過程で個人の心理特性が反映されるという理論が提案されている.この理論では, 記憶された過去の体験等を想起し記述したテキストには，書き手の心理特性が反映されると考える．このことを検証するために，本研究では，孤独感を取り上げ，書き手の孤独体験に関わる記述から，書き手の自己評価孤独感が推定可能か検証する，具体的には，自らの孤独体験を記述したテキストから，BERT (Bidirectional Encoder Representations from Transformers; Delvin et al.,2019)を用いて孤独感が推定できるかを検証する。 また, 同じテキストに対して他者が評価した孤独感の BERT による推定も行う．BERT が，他者が評価するのと同じような文脈を学習しているのであれば，他者評価についても推定可能であると考えられる. そこで，孤独体験テキストと書き手の自己評価孤独感と，そのテキストを読んだ他者（クラウドワーカ一）による他者評価孤独感を収集し，検討を行う．

## 2 関連研究

孤独感に関わる自然言語処理に関連した先行研究は, 英語によるものではいくつか存在する. Guntuku et al. (2019)は, alone または loneliness の語を含むツイートを収集してその出現頻度によって群分けを行い，言語的特徴などの比較を行った。また， Kiritchenko et al. (2020)は, 1 人でいることのポジテイブな側面(solitude)とネガティブな側面(loneliness) とにツイートを区別し，言語に表れるその特徴の違いについて検討した. Andy et al. (2022)は, 年齢群・性別群ごとにツイートを分析し, 自己評価孤独感に基づいて群分けされた高孤独感群の特徴を検討した。 Liu et al. (2022)は, Facebookへの投稿について類似の分析を行った。これらはいずれも, Twitter・ Facebook などのソーシャルネットワークサービスの言語データを使用したものである.これらはに必ずしも自己評価孤独感が付与されておらず, 他者評価孤独感はいずれにも付与されていない。

孤独感に関わる自然言語処理に関する日本語の研究としては, Nakai et al. (2022)の食事体験に関する研究が唯一である. Nakai et al. は, クラウドソーシングを通じて食事体験に関するテキストと同時に自己評価孤独感スコアを収集し, 解析した。一方, 他者評価については, テストデータの BERT の自己評価
分類結果と比較するために, テストデータのみに対して書き手の孤独感評価を行っているが，他者評価に関する実験は行なっていない。

同じテキストに対して, 自己評価と他者評価を付与して解析する試みは宮内ら(2022)が行っている. クラウドソーシングを通じて募集した注釈者が，自身の過去の投稿に対して感情とその強度, また感情極性を付与している. 加えて, 別途募集した注釈者が同様の評価を行った. しかし, 孤独感に関する自己評価と他者評価と比較した研究は英語にも日本語にも存在しない。

## 3 孤独体験テキストと評価の収集

## 3.1 孤独体験テキストと自己評価の収集

2020 年 3 月に 2,947 名(女性 $=1,507$ 名, Mage $=50.3$, $S D=16.1,20$ 歳 78 歳)に対してウェブ調查 (クロスマーケティング社）を実施し，孤独体験に関するテキストと自己評価孤独感を収集した。

孤独体験テキスト以下のような教示をもとに，自らの孤独体験に関する自由記述を求めた。 『女なたが，この３ヶ月で「さみしさ」や「孤独」を最近感じたのはどんな状況ですか. いつ, 誰と, または一人で, 何をしているとき, どんなきっかけで感じましたか. また，そのときの心の状態はどうでしたか. できるだけ詳しく具体的にその時の状況や気持ち，心情などを記述してください.』

自己評価孤独感日頃の孤独感について日本語版 UCLA 孤独感尺度（第 3 版）(外田ら, 2012)の 20 項目について，「まれに，あるいは，なかった(1 日未満)」「いくらか (1 2 日)」「たまに, あるいは, ある程度の時間(3 4 日)」「ほとんど, あるいは, 全ての時間(5 7 日)」の 4 件法で回答した.

収集した孤独体験テキストの例として，「いつもさみしさがまとわりついて仕方がない。」「1 人で部屋にいて面白くもないテレビを見ているとき。」

「離れて住んでいる母の自律神経がおかしくなり，何を言っても話が通じなくなった時. 姉が面倒をみてくれていたが，姉の体調も心配だったし，なぜこういうことになるのかという憤りもあった. 」などがある，なお，「過去 3 か月で孤独感を実感したことはない.」という孤独体験を否定する回答や, 「特にないけど・・・強いて言えば仕事が早く終わつ
^{i}$ https://github.com/ku-nlp/jumanpp
}

ちやって一人で帰る時くらい。」という否定しながらも何かしらの体験が追記されている回答など，孤独体験であるかの判別が難しいものも含まれている.本研究の目的は記憶から想起され記述されたテキス卜に本人の孤独感が反映されるかを検証することであり, 孤独体験の内容に限定するものではない. そのため，記述内容によってデータを排除することは行わなかった。

## 3.2 他者評価の収集

クラウドソーシング（Yahoo!クラウドソーシング社）を実施し， ウェブ調查で収集した各孤独体験テキストについて, クラウドワーカーが書き手の孤独感の評価を行った $(N=1,075) .1$ タスクは, 14 名分の孤独体験テキスト（一部のテキストは重複）から成り，1タスクあたり 5 名のクラウドワーカーが 4 件法で評価を行った. クラウドワーカーが孤独体験テキストを評価する際に提示された教示は以下のものである. 『以下の「孤独やさみしさを感じた経験」 についての文章を記述している人が, どの程度普段孤独感を感じているのか推定して, 4 つの選択肢（高い・どちらかといえば高い・どちらかといえば低い。低い)から最も適切だと思うものを選んでください.』

他者評価孤独感収集したクラウドワーカーの回答をテキストごとに合計し, 他者評価孤独感スコアとした.

## 4 孤独体験テキストの分析

## 4. 1 孤独感評価の分析

自己評価孤独感と他者評価孤独感のピアソンの積率相関係数を計算したところ, $r=.23(\mathrm{p}<.001)$ であった。高い相関であるとは言い難いが，テキストからその書き手の自己評価孤独感をある程度は推定できると言える。この結果は，書き手に対する情報が各テキストのみに限定されていることを鑑みると，かなり高いと考えられる。

## 4.2 孤独体験テキストの記述統計

孤独体験テキストを形態素解析器 JUMAN++i及び構文・格解析器 KNPiiを用いて分析した（表 1).

ii https://github.com/ku-nlp/knp/
表 1 孤独体験テキストの記述統計

## 4. 3 孤独体験テキストの特徴

孤独体験テキストの単語頻度の特徴を検証すべく,自己評価孤独感スコアの平均值に基づき高孤独感群・低孤独感群に群分けし, 単語出現頻度の差分を計算し, 図示した (図 $1 \cdot 2$ ).

高孤独感群では, 日本語では省略されやすい「自分」「私」などの自己に関する表現が多く, 低孤独感群では，「子供」「友達」「夫」「仲間」など人間関係を示す表現が多い, 加えて, 「孤独だ」や「孤独感」は高孤独感群でより用いられており, 「寂しい」は低孤独感群でより用いられていた。このことから，高群と低群の間で記述に用いられる単語に違いがあることが確認できた。

図 1 高孤独感群のワードクラウド

図 2 低孤独感群のワードクラウド


## 5 孤独感分類の実験

孤独体験テキストを用いて，BERTにより自己評価孤独感，他者評価孤独感それぞれの高低の 2 值分類を推定する評価実験を行う。

## 5. 1 ラベル付与

自己評価孤独感，他者評価孤独感ともに，中央値以上を高，未満を低とラベル付けした（自己評価孤独感：中央値 48 ,他者評価孤独感：中央値 14)

## 5.2 実験設定

孤独体験テキストは，2,356 名分の訓練用デー タ，295 名分の検証用データ，296 名分のテストデ一夕に重複なしで分割して実験を行い，正解率によって比較を行う，表 2 に，各データの自己評価孤独感・他者評価孤独感の高低ラベルの分布を示す.

表 2 データ分割の内訳

} & 高 & 1,148 & 144 & 144 & 1,436 \\

本実験では，Wikipediaを用いて事前訓練された日本語 BERTiiiを本タスク用にファインチューニングする．BERTの実装には，Transformersivを使用する. 最終 4 層の隠れ層からそれぞれ[CLS]トークンのベクトルを結合し，全結合層を最終層に追加してクラス分類を行う. 損失関数には負の対数尤度損失を使用し, 事前学習済みの箇所における学習率は 5e-5, 最後の全結合層における学習率は 1e-4 とした. 最適化は Adam として 20 エポックの earlydropping を適用する。

## 5.3 実験結果と考察

## 5.3. 1 正解率と混同行列

実験の正解率は自己評価孤独感が.56, 他者評価孤独感が. 72 であり, 他者評価孤独感のモデルの方が性能が高かった。

iv https://github.com/huggingface/transformers

図 3 自己評価推定実験結果の混同行列

図 4 他者評価推定実験結果の混同行列

正規化した混同行列（図 3-4）によると, 低群内の推定については, 自己評価孤独感, 他者評価孤独感の分類結果はそれぞれ.70，.82といずれも高い性能を示した。一方, 高群の推定については, 自己評価孤独感の分類結果は. 41 , 他者評価孤独感の正解率は. 59 と反転していた。つまり, 両方のモデル共に, 低群の孤独感はある程度の精度で推定できるものの，高群の孤独感を推定するのが困難であつた. 自己評価孤独感が高い書き手を高いと判断するのと，低い書き手を低いと判断するのは異なる特徴が用いられていることを示唆する. 特に, 孤独感の高い書き手を推定することを可能とする特徴を見つけるのは, BERTにも, 人間の評価者にも難しい課題であると考えられる。

## 5.3.2 分類結果と孤独感スコアの比較

モデルの分類と, 実際の評価スコアがどの程度反映されているのか検討を行った。

まず, 各分類結果に基づく群ごとの自己評価孤独感のスコアを比較した（図 5）．自己評価に基づく高群・低群の自己評価孤独感スコアの平均は, 当然のことながら明確に異なる。一方で, 他者評価群分けに基づく平均値を比較したところ, 高群の自己評価スコアの平均がやや高かった. しかし, 自己評価推定に基づく分類の場合は低群の平均値スコアの方が高い結果であった.

次に，各分類結果に基づく群ごとの他者評価孤独感のスコアを比較した（図6）. 他者評価に基づく高群・低群の他者評価孤独感スコアの平均は,

図 5 分類結果と自己評価スコア

図 6 分類結果と他者評価スコア

当然のことながら明確に異なる。また，他者評価群分けに基づく平均值を比較したところ, 高群の他者評価スコアの平均が高かった。これらの結果は， BERT が孤独感を推定するのに十分な言語的な特徴を学習できていない可能性を示す.

## 6 おわりに

本研究では，記憶された過去の体験等を想起し，記述する際に書かれたテキストに，書き手の孤独感が反映されているのであれば，BERT による自己評価孤独感が推定可能だと考え検討を行った. 自己評価モデルの正解率と分類結果に基づく自己評価孤独感スコアの比較を詳細に検討したところ, 自己評価孤独感の推定は依然として困難であった。一方で,他者評価については, 正解率と分類結果に基づく他者評価孤独感スコアの結果ともに精度がよいことが示された. また, 本研究では, 日本語で自己評価・他者評価孤独感の両方を検討できる初めてデータセットを収集した. 今後は, 心理学的な観点からの詳細な分析を進める予定である. 本研究は, 心理学的な問題に BERT を利用した初めての研究である. 今後, 心理学分野への自然言語処理手法の適用が拡大していくことが期待される.

## 参考文献

Andy, A., Sherman, G., \& Guntuku, S. C. (2022).

Understanding the expression of loneliness on Twitter across age groups and genders. PLOS ONE

17(9): e0273636.

doi:10.1371/journal.pone. 0273636

Cacioppo, J. T., \& Patrick, W. (2008). Loneliness:

Human Nature and the Need for Social Connection. W W Norton \& Co.

Devlin, J., Chang, M., Lee, K. et al. (2019). BERT: Pretraining of deep bidirectional transformers for language understanding. In the Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1, pp. 4171-4186. doi: 10.18653/v1/N19-1423

Guntuku SC, Schneider R, Pelullo A, et al. (2019). Studying expressions of loneliness in individuals using twitter: an observational study. BMJ Open, 9:e030355. doi: 10.1136/bmjopen-2019-030355

Kiritchenko, S., Hipson, W., Coplan, R. et al. (2020). SOLO: A Corpus of Tweets for Examining the State of Being Alone. In the Proceedings of the Twelfth Language Resources and Evaluation Conference, pp. 1567-1577.

Liu, T., Ungar, L.H., Curtis, B. et al. (2022). Head versus heart: social media reveals differential language of loneliness from depression. Npj Mental Health Research, 1, 16. doi: 10.1038/s44184-022-00014-7

多田ゆづり・田高悦子・臺桂. (2012). 高齢者における日本語版 UCLA 孤独感尺度(第 3 版)の開発とその信頼性・妥当性の検討. 日本地域看護学会誌, 15(1), 25-32.

宮内裕人・鈴木陽也・秋山和輝他. (2022). 主観と客観の感情極性分類のための日本語データセッ卜. 言語処理学会第 28 回年次大会発表論文集, pp. 1495-1499.

Nakai, K., Iwai, R., \& Kumada, T. (2022). An examination of eating experiences in relation to psychological states, loneliness, and depression using BERT. In the Proceedings of the $36^{\text {th }}$ Annual Conference of the Japanese Society for Artificial Intelligence, 1S1-IS-3-05.