関西地区

教育システム情報学会 2019年度学生研究発表会

テキスト感情認識 AI システムを用いた SNS における小学生の文章表現に関する変化の分析
Analysis of Changes in Sentence Expression on SNS of Elementary SchoolStudents Using A Text Emotion Recognition AI System
狩野稜己*1, 北澤 武*1 渡邊

剛*1, 竹内 俊彦*2, 小島 崇義*3

Ryoki KANO*1, Takeshi KITAZAWA*1, Takeshi WATANABE*1, Toshihiko TAKEUCHI*2, Takayoshi KOJIMA*3*1 東京学芸大学，*2 駿河台大学，*3 足立区立辰沼小学校*1Tokyo Gakugei University, *2Surugadai University, *3Tatsunuma Elementary School

Email: a171408s@st.u-gakugei.ac.jp

あらまし： 本研究では，小学生が SNS で断りや借用のメッセージを書き，テキスト感情認識 AI システムの結果を受けて，どのようにメッセージを修正したのかを明らかにすることを目的とした．結果，児童は「恐れ」と「悲しみ」の感情を減らすようにメッセージを修正することが分かった．また，メッセージの変化を KH Coder で分析した結果，断りの場面では「誘（ってくれて）」，「ありがとう」，借用の場面では「一緒」，「送る」の用語を追加して，お礼を述べたり，相手を気遣ったりする変化が認められた．
キーワード：感情認識，AI，SNS，テキストメッセージ，ネットトラブル

1.

はじめに児童のスマートフォンの所有率が増加していることに伴い，SNS のネットトラブルが増加している(1)．
ネットトラブルを回避する方法の一つに，児童が記述した SNS 上のメッセージに含まれている感情をテキスト感情認識 AI システム（以下，AI システム）の判定を児童にフィードバックする試みがある(2)．
だが，AI システムの結果を受けて，児童はどのように文章を修正したのかが不明であった.
そこで本研究では，小学生は AI システムの結果を受けて，SNS のメッセージをどのように修正するのか，分析することを目的とする．

2.

調査概要

2.1 対象と AI システムについて
都内公立小学校児童６年生 83 名（３クラス：男子51 名，女子 32 名）を対象に，一人一台の PC 環境で授業を実施した. 授業では，テキストから「喜び」「好き」「恐れ」「哀しみ」「怒り」の５つの感情が含む割合をレーダーチャートで可視化できる AI システム
（http://quiz.minibird.jp/AI/）を使用した（図１）．
2.2 授業内容
2019 年 6 月 14 日（金）（１学級１コマ（45 分））に，６年生の総合的な学習の時間の位置づけで，授業を行った．具体的には，SNS ノート情報モラル(3)の事例を参考に，１学級（53 名）には，友達からの遊びの誘いを謝絶する文章を送信する場面１を，２学級（30 名）には，相手が持っている本を貸してくれるように依頼する場面２を設定し，各場面に応じた自分なりのメッセージを記述させた．
その後，児童は自身のメッセージを AI システムで判定し，メッセージが相手にどのように伝わるか，メッセージに含まれる感情を確認した．AI システムの判定結果を受け，児童はより相手に自身の感情が101

図１ テキスト感情認識 AI システム
（http://quiz.minibird.jp/AI/）
伝わるメッセージになるように修正した.
2.3 調査方法
児童は，AI システムを利用する前のメッセージ（事前メッセージ）と，AI システムの判定結果を受けて修正したメッセージ（事後メッセージ）をワークシートに記述した．また，事前・事後メッセージの判定結果もレーダーチャートに記述した．

3.

分析方法

3.1 事前・事後メッセージに含まれる感情の分析
メッセージに含まれている感情の変化を分析するために，児童が記した事前・事後メッセージのレーダーチャートの値を，対応ある t 検定で分析した．
3.2 メッセージの記述内容の変化分析
場面１と場面２の各々の事前・事後メッセージをKH Coder（Ver.3.0）で分析し，事前と事後のメッセージに含まれている用語の違いを分析した．

4.

結果と考察

4.1 事前・事後メッセージに含まれる感情の分析
表１は，場面 1 のメッセージについて感情の変化が有意に認められた結果を示している．
「恐れ（t (37)= 3.08，p < .05）」と「悲しみ（t (37) = 3.70，p< .05）」の２項目で有意差が認められた．平均値に関西地区

教育システム情報学会 2019年度学生研究発表会

表１ 事前・事後メッセージに含まれる感情の変化（場面 1：有意差が認められた項目のみ抜粋）
項目

事前事後有意差

M

SD

M

SD

恐れ34.717.72519.4＊

悲しみ63.2

19.3

4921.7＊＊p<.05
着目した結果，「恐れ（事前：M=34.7，事後：M=25.0）」と「悲しみ（事前：M=63.2，事後：M=49.0）」は，メッセージに含まれる割合が有意に下がったことが分かった．これにより，児童は AI システムの判定結果を受け，恐れや悲しみを減らすようにメッセージを修正したことが分かった．以上より，AI システムの判定結果を児童にフィードバックすることは，メッセージに含まれるネガティブな感情表現を修正するという児童の振る舞いを支援することに，一定の効果があると考える．なお，場面１の「喜び」「好き」「怒り」の感情と問題２のメッセージの感情は，いずれも有意差は認められなかった．
4.2 メッセージの記述内容の変化分析
場面１の事後メッセージを KH Coder で分析した結果を図２に示す．事前メッセージでは「ごめんね！！家の予定があるんだ．だから，遊べないな～」
といった記述が 53 件中 40 件（75.5%）認められた．
それに対して，事後メッセージでは「誘ってくれてありがとう．でもごめんね，家の予定があるんだ．
だから遊べないなー．また今度誘ってくれるとうれしいな！」のように，「ありがとう」や「誘う」といった用語が加わった．このことから AI システムの判定結果を受けた後，何人かの児童は断りの言葉を入れる前に，誘ってくれたことに対してお礼を述べるメッセージに改善したことが明らかになった．
場面２の事後メッセージを KH Coder で分析した結果を図３に示す．事後メッセージでは，事前メッセージで認められなかった「一緒」という用語が追記されたり，「写真」や「ページ」を「送る」ように「お願い」する用語が増えたりしたことが分かった．
このことから，AI システムの判定結果を受け，何人かの児童は，代案を提案するメッセージに修正したことが分かった．
以上より，AI システムの判定結果をフィードバックすることで，児童は相手側の立場を考えてメッセージを修正することが分かった．

5.

図２ 事後メッセージの結果（場面 1）

図３ 事後メッセージの結果（場面 2）
しかし本研究では，自分のメッセージに含まれる感情を考えるときに，AI システムの判定結果に疑問を抱きつつも，AI システムの判定結果を完全に信じてメッセージを修正する児童が見られた．今後，AIシステムのメリットと限界について理解させるとともに，どのような場面で AI システムを使うべきかを自分で判断できるような授業を実践することが課題である．
謝辞
本研究は，平成 30 年度東京学芸大学「若手教員等研究支援費」，科研費基盤研究 C（18K02814）の支援を得た．
ご協力いただいた皆様に感謝します．

参考文献(1) 青少年インターネット環境の整備等に関する検討会（2018）青少年インターネット環境の整備等に関する検討会報告書（平成 30 年 4 月 24 日）. https://www8.
cao.go.jp/youth/youth-harm/kentokai/39/pdf/gijiroku.pdf(参照日 2019.12.28)(2) 北澤武ほか（2019）文章の感情認識 AI 技術を活用した SNS での文章表現の理解を支援するシステムの開発.日本教育工学会研究報告集，19(2)，pp.195-202(3) LINE 株式会社（2018）SNS ノート情報モラル編. htt
ps://scdn.line-apps.com/stf/linecorp/ja/csr/sns_note_2018_s.pdf（参照日 2020.2.1)

まとめと今後の課題

本研究では，小学生が SNS で断りや借用のメッセージを書き，AI システムの結果を受けてどのようにメッセージを修正したのかを明らかにした．結果，「恐れ」と「悲しみ」の感情を減らすように修正することが分かった．さらに，断りの場面では「誘（ってくれて）」，「ありがとう」や，借用の場面では，「一緒」，「送る」の用語を追加して，お礼を述べたり，相手を気遣ったりするメッセージが認められた．

102