HAI シンポジウム 2024
Human-Agent Interaction Symposium 2024

P-59

半自律モチベーションマネジメント AI の開発
Development of Semi-Autonomous Motivation Management AI
土門 広香 1∗
飯田 愛結 1 福田 聡子 1 大澤 正彦 1
1
Hiroka Domon , Ayu Iida1 , Satoko Fukuda1 , Masahiko Osawa1
日本大学
Nihon University
1

1

Abstract:
近年，コミュニティや組織内での気遣いやモチベーションマネジメントの重要性が注目されている．
本研究では，大規模言語モデル（LLM）を利用してモチベーションマネジメントを半自律化する手法を提案した．具体的には，マネジメントユーザが感じ取ったメンバーの心の機微に基づいて適切なタイミングでメッセージを送信する BOT を提案した．実験では，マネジメントユーザが評価した内容に基づくメッセージを送る BOT（BOT A）と，評価に基づかないランダムなメッセージを送る BOT（BOT B）を比較した．実験結果から，発表者が気遣いをされたと感じたのは BOT A よりBOT B が多く，発表を聞いた上で反応していると感じたのは BOT A と BOT B の間に明確な差はなかった．今後は，個々の評価に基づいたメッセージを生成する半自律モチベーションマネジメント
AI の開発に向けて検証を続ける必要がある．

1

はじめに

近年，コミュニティや組織内での気遣いやモチベーションマネジメントの重要性がますます注目されている．しかしながら，一人ひとりを気遣うコミュニケーションは負荷が高く，実践が容易ではない．コミュニケーション負荷を下げられる可能性がある技術として大規模言語モデル（Large Language Model: LLM）がある．本研究では，LLM を利用してモチベーションマネジメントを半自律化することを目指し，マネジメントするユーザが感じ取ったメンバーの心の機微に基づいて，適切なタイミングでメッセージを送信する手法を提案する．ユースケースとして，研究室の学期末プレゼンテーションで全員が発表した後や，コミュニティメンバーの自己紹介の後等の発表の場が挙げられる．本
研究では，前者のユースケースを採用して検証を行った．マネジメントするユーザは，すべての発表を聴き，その場で「ユーザ評価」（ユーザの発表者に対する評価）と「推定自己評価」（発表者自身に対する評価をユーザが推定したもの）をそれぞれ 3 段階で評価する．これらの評価に基づき，LLM で生成したメッセージを送信する．
以下，本論文の構成を示す．第 2 章は，本研究の背景について述べる．第 3 章では，本研究で提案する一人ひとりに気遣える半自律マネジメント AI の手法の詳細を説明する．第 4 章では，本研究で提案したシステ∗ E-mail: chhr21008@g.nihon-u.ac.jp

ムの評価実験について述べる．第 5 章では，評価実験についての考察を述べる．そして最後に第 6 章をまとめとする．

2

背景

近年の大規模言語モデル（Lerge Language Model:LLM) の発展により，人間と AI の能力の比較が各所で議論されている．例えば文書執筆に注目して人間と大規模言語モデルの能力を比較すると，大規模言語モデ
ルは大量の文章を瞬時に生成することができる一方で，意図を読むインタラクションが苦手であることから気遣いをすることは難しいと考えられる．一方で，人間は大規模言語モデルほど大量の文章を瞬時に書くことは苦手であるが，大規模言語モデル以上に意図を読むことや気遣いができる場合が多い．
著者らによる先行研究 [1, 2] では，大規模言語モデ
ルと認知アーキテクチャ(Cognitive Architecture: CA)を組み合わせることで，相手の発話から言外の意図を読み取った上で発話生成する方法を提案している．
具体的には，大規模言語モデルと認知アーキテクチャを組み合わせる方法論として LLM Embedded in CA(LEC) と CA Embedded in LLM (CEL) を提案している．LEC は，設計したアーキテクチャの各モジュールを大規模言語モデルによって実装する方法であり，CELはプロンプトを工夫することで大規模言語モデルに認知アーキテクチャの振る舞いをさせる方法である．尚，
本論文ではこのアーキテクチャを仮に飯田アーキテクチャと呼ぶこととする．
実験では，発話と発話意図に乖離のあるシチュエーションを用意し，大規模言語モデルと認知アーキテクチャの組み合わせの有効性を調査した．比較条件として LEC 条件，CEL 条件のほかに，元々の大規模言語モデルに近い振る舞いをする LLM 条件と，同等な内部表現が与えられる LLM with BD(LWB) 条件の 4 つを設定した．結果として，大規模言語モデルと認知アーキテクチャを組み合わせることは有効であり，その方法として LEC が有効であると結論づけられた．
本研究ではこの研究を基にメッセージを生成し，半自律モチベーションマネジメント AI の提案をする．

3
3.1

半自律モチベーション
マネジメント AI
提案概要

本研究では，既存研究 [1, 2] で提案したアーキテクチャや大規模言語モデルとの統合手法である LLM Embedded in CA(LEC) に対して，自己及び他者の信念や願望を人間が外部から与えることで，1 人がより多くの人に対して気遣いができる半自律モチベーションマ
ネジメント AI を提案する．
このシステムは，大勢の発表者が存在するシチュエー
ションにおいて，指導者や評価者，コミュニティマネー
ジャなど，発表者を気遣い鼓舞する立場の人間が利用することを想定している．以降，気遣いをされる立場の人間を「発表者」，気遣いをする立場のユーザを「マネジメントユーザ」とそれぞれ呼ぶ．
マネジメントユーザは多くの発表者の様子や，周囲の発表者に対する評価・印象を読み取り，簡易的なインタフェースで入力することで，発表者の状況に合わせた気遣いメッセージを自動的に送信することができる．これにより，従来では気遣いが必要だと感じた場合にも，気遣いをするためのメッセージの制作が大変な作業であったために多くの発表者を気遣うことが難しかった問題を解消できる可能性がある．

3.2

システムの実装

本研究では，マネジメントユーザが評価した内容に基づくメッセージを送る BOT を開発した．この BOTは，Google Apps Script（GAS）を使用して作成している．GAS は，スプレッドシートや他の Google サー
ビスと連携して動作することができるプログラミング言語である．

マネジメントユーザの意図生成

Intention

マネジメントユーザのBelief

マネジメントユーザのDesire（マネジメントユーザが思う）
発表者のIntention

意図推定（マネジメント （マネジメントユーザが思う） ユーザが思う）
発表者の発表者のBelief

Desire

発話生成

マネジメントユーザA

発表者
マネジメントユーザの発話

発表者の発話図 1: 飯田アーキテクチャ
本研究では，スプレッドシートと連携し Slack 上で動作する BOT を開発した．スプレッドシードには，ユー
ザ評価，推定自己評価、Slack のユーザ ID，名前の四項目がある．名前はプログラム上必須ではないが，ユーザ ID と発表者を紐づけるために追加した．ユーザ評
価・推定自己評価にはそれぞれ高・中・低のいずれかの評価を入力する．
GAS の画面で実行ボタンをクリックすると，スプレッドシートのユーザ評価と推定自己評価を読み取り，評価に基づいたメッセージがスプレッドシートに登録されたユーザ ID 全員に BOT から一斉に Slack の DM として送信される．BOT の名前は親近感を出すためにマネジメントユーザの名前を入れることを想定している．

3.3

メッセージ内容の作成

本研究では簡略化や分析のためメッセージをリアルタイムで生成するのではなく，事前に飯田アーキテクチャを活用し，高・中・低の 3 段階のユーザ評価，推定自己評価に基づくメッセージを作成した．
図 1 の発表者側では，マネジメントユーザが想定する発表者の推定自己評価に適切な発表者の信念/願望を，高・中・低の評価ごとに設定した．例えば，推定自己評価が「高」である場合，発表者の信念を「自分が思う発表の出来栄えに関する推定自己評価は「高」である」や「目標はしっかり達成した」，願望を「努力を誉めてほしい」と設定した．
図 1 のマネジメントユーザ側では，発表者の発表内容などによるユーザ評価に適切なマネジメントユーザの信念/願望を，高・中・低の評価ごとに設定した．例
えば，ユーザ評価が「高」である場合，マネジメントユーザの信念を「自分が思う他者の発表の出来栄えは表 1: ユーザ評価ごとの初期値および入力
ユーザ評価：高
自己の信念

他者は発表者である/自分は他者の発表を聞いていた/自分は他者と同じゼミに所属している/自分が思う他者の発表の出来栄えは「高」である/他者は目標を達成する努力をしたことに自信を持っていい/褒めるべき点は「目標を達成出来ていたこと」である

自己の願望

最初に「お疲れ様でした」と伝えたい/最後にゆっくり休んでほしい等のことを伝えた
い/長いフィードバックはしたくない
ユーザ評価：中

自己の信念

他者は発表者である/自分は他者の発表を聞いていた/自分は他者と同じゼミに所属している/自分が思う他者の発表の出来栄えは「中」である/他者はもう少し努力をして目標を達成するべきであった/褒めるべき点は「目標を少し達成出来ていたこと」である

自己の願望

最初に「お疲れ様でした」と伝えたい/最後にゆっくり休んでほしい等のことを伝えた
い/長いフィードバックはしたくない
ユーザ評価：低

自己の信念

他者は発表者である/自分は他者の発表を聞いていた/自分は他者と同じゼミに所属している/自分が思う他者の発表の出来栄えは「低」である/他者は努力をして目標を達成するべきであった/褒めるべき点は「目標を達成しようとしたこと」である

自己の願望

最初に「お疲れ様でした」と伝えたい/最後にゆっくり休んでほしい等のことを伝えた
い/長いフィードバックはしたくない
表 2: 推定自己評価ごとの初期値および入力
推定自己評価：高

他者の信念

自分は発表者である/自分が発表する内容は、今期の目標についてどれだけ達成したかである/自分はゼミの学期末発表を終えた/自分が思う発表の出来栄えに関する自己評
価は「高」である/目標はしっかり達成した

他者の願望

目標達成できたことを褒めて欲しい/努力を誉めてほしい

他者の発話

これで発表を終わります。ご清聴ありがとうございました。
推定自己評価：中

他者の信念

自分は発表者である/自分が発表する内容は、今期の目標についてである/目標達成まであと少しだった/自分はゼミの学期末発表を終えた/自分が思う発表の出来栄えに関する自己評価は「中」である

他者の願望

目標達成とはいかなかったが、褒めて欲しい/努力は誉めてほしい

他者の発話

これで発表を終わります。ご清聴ありがとうございました。
推定自己評価：低

他者の信念

自分は発表者である/自分が発表する内容は、今期の目標についてである/目標達成まで全然届かなかった/自分はゼミの学期末発表を終えた/自分が思う発表の出来栄えに関する自己評価は「低」である

他者の願望

目標達成できなかったけど、怒らないでほしい/努力は褒めて欲しい

他者の発話

これで発表を終わります。ご清聴ありがとうございました。

表 3: メッセージ内容
ユーザ/推定自己評価

メッセージ内容

高/高

お疲れ様でした。素晴らしい発表だったと思います。長い間の努力と目標への情熱が見て取れました。特に、目標を見事に達成できた点は非常に印象的でした。これで一段落ついたら、ゆっくり休んでくださいね。お疲れさまでした。
お疲れ様でした。素晴らしい発表でしたね。特に、目標達成に向けた取り組みやその達成過程についての説明がとても明確で、聴いていて非常に理解しやすかったです。
目標を達成できたこと、本当におめでとうございます。その努力と成果には敬意を表します。これでお疲れさまでした。ゆっくり休んでくださいね。
お疲れ様でした。非常に素晴らしい発表でしたね。特に、目標を達成できた部分は印象的でした。あなたの努力と成果がはっきりと見て取れました。今日はゆっくり休んで、この成功を味わってくださいね。
お疲れ様でした。あなたの発表は非常に印象的でした。特に、設定された目標に対して少しずつですが着実に進歩している点が見て取れました。素晴らしい努力だと思います。長いフィードバックは避けますが、今後もこの調子で頑張ってください。そして、今日はゆっくり休んでリフレッシュしてくださいね。
お疲れ様でした。発表内容が非常に充実しており、学期末に向けたご努力が伺えました。特に、目標に近づいている様子が見て取れて、素晴らしかったです。ゆっくり休んでくださいね。
お疲れ様でした。目標に向けた努力と、その部分的な達成に感心しました。あなたの努力と献身は本当に称賛に値します。素晴らしい発表でした。これからもその調子で頑張ってください。そして、今日はゆっくり休んで、リフレッシュしてくださいね。
お疲れ様でした。発表、非常に良かったですね。目標達成に向けてのご努力が感じられました。今日はゆっくり休まれてください。
お疲れ様でした。発表、非常に興味深く聞かせていただきました。ゆっくり休んでくださいね。
お疲れ様でした。発表のためにたくさん努力されたことが伺えますね。今はゆっくり休んで、リフレッシュしてください。

高/中高/低中/高中/中中/低低/高
低/中低/低「高」である」や「褒めるべき点は『目標を達成出来ていたこと』である」，願望を「最初に『お疲れ様でした』と伝えたい」と設定した．
今回設定した自己の信念/願望・他者の信念/願望を
表 1，2 にまとめる．
高・中・低の 3 段階の評価に基づいたマネジメントユーザと発表者の信念/願望から出力された意図より，マネジメントユーザの発話として出力されたものをメッセージとしている．そのため，評価ごとによる発表者の信念/願望と，評価ごとによるマネジメントユーザの信念/願望を組み合わせた計 9 通りのメッセージを作成した (表 3）．
しかし，ここで注意されたいのは，発表者一人ひとりに沿った信念/願望ではないことである．つまり，発表者の信念/願望は，その推定自己評価の際のマネジメントユーザが想定している普遍的な発表者の信念/願望であり，必ずしも発表者自身の信念/願望がそうであるとは限らない．また，マネジメントユーザにおいても同様のことが考えられることに注意されたい．

4評価実験

4.1

実験目的

本実験の目的は，提案した方法で気遣いをするためのメッセージを送る作業を自律化した場合でも，マネジメントユーザが感じ取った状況に応じたメッセージを送ることができるかを検証することである．

4.2

ユーザ評価の設定方法

マネジメントユーザは発表者の発表に対し，ユーザ評価と推定自己評価をそれぞれ自身の判断で決定する．
評価は高・中・低の 3 段階である．ここで，ユーザ評
価はマネジメントユーザから発表者に対する評価を指す．一方，推定自己評価は発表者自身の評価をユーザが推定した評価を指す．本実験では，筆頭著者がマネジメントユーザを担当した．
この評価内容はスプレッドシートにマネジメントユーザが記入していく．ユーザ評価と推定自己評価は，発表

BOT A

表 4: 本実験での評価
ユーザ / 推定自己評価 人数
高/高高/中高/低中/高中/中中/低低/高低/中低/低

9名
5名
0名
2名
5名
3名
0名
2名0名

者の発表内容や目標の達成度によって評価を行う．実際につけた評価を表 4 に示す．

4.3

アンケート内容

アンケート内容は「設問 1:『気遣いをされた』と感じたのはどちらの BOT でしたか？」，「設問 2:『発表を聞いたうえで反応している』と感じたのはどちらのBOT でしたか？」の 2 問であり，いずれも BOT A ま
たは BOT B の択一形式とした．加えて，自由記述欄を設け自由に意見を述べられるようにした．

4.5

設問1

設問2

025

5075100

回答割合

図 2: アンケート結果
者には事前に，発表の場を借りて実験を行うという情報のみを与えている．発表後に BOT からメッセージが送信される等の情報は与えられていない．

BOT

実験では，マネジメントユーザから発表者に対してメッセージを送る BOT を 2 つ作成した．
1 つ目の BOT は，マネジメントユーザが発表内容を評価して評価内容に基づくメッセージを発表者に送信する BOT である．本研究ではこの BOT を土門 BOTA と設定した．また，この BOT を本論文では BOT Aと記載する．
2 つ目の BOT は，マネジメントユーザが発表内容を評価して評価内容に基づくメッセージ以外をランダムで発表者に送信する BOT である．例えば，ユーザ評価・推定自己評価がそれぞれ高・中であれは，それを除く評価の組み合わせのメッセージからランダムでメッセージが送信される．本研究ではこの BOT を土門 BOT B と設定した．また，この BOT を本論文ではBOT B と記載する．
上記 2 つの BOT を比較し，どちらの BOT からの評価が良いかを実験する．

4.4

BOT B

実験参加者

本実験では，大澤研究室内で行う今季の目標と振り返りを報告するゼミの発表者を対象とする．実験参加

4.6

実験手順

発表者の発表内容を聞き，マネジメントユーザである筆頭著者がユーザ評価と推定自己評価をスプレッドシードに記していった．全員が発表し議論や連絡事項を伝達し終えた約 1 分後にそれぞれの BOT から同時にメッセージを送信した．さらに 1 分後にアンケートフォームの URL を実験参加者が参加しているチャンネル内に送信した．

4.7

実験結果

発表対象者 26 名の内，22 名からの回答が得られた．
結果を図 2 に示す．また，本実験でのそれぞれの評価数を表 4 に示す．
「気遣いをされた」と感じたのはどちらの BOT でしたか？」というアンケートに対し，BOTA は 45.5%，BOT B が 54.5%と得られた．また，「発表を聞いたうえで反応している」と感じたのはどちらのBOT でしたか？というアンケートに対しては，BOTA，BOT B それぞれ 50%という結果が得られた．

5

考察

設問 1 では，メッセージをランダムで送信する BOT
B の方が BOT A より高い結果となった．BOT B は，
BOT A から送信されるメッセージを除いたメッセージからランダムで送信されるため，推定自己評価が低い場合でも全体的に賞賛するようなメッセージ送られる可能性がある．そのため，BOT B からの方が気遣われている結果になったと考えられる．

設問 1 の BOT A と設問 2 の BOT A を比較すると，設問 2 の BOT A の方が 4.5%高い結果となった．このことから，BOT A が発表を聞いた上で反応していると感じた割合において，BOT B と比較して，BOT Aを選択した参加者がわずかに多かったが，BOT A とBOT B の間で明確な差が見られなかった．
設問 2 に対して BOT A と BOT B の間で明確な差が見られなかった理由として，9 つのメッセージに明確な差がなかったことが考えられる．それぞれに明確な差があるメッセージ内容であれば，結果は違った可能性がある．今回は評価に基づく 9 つのメッセージだけだったが，一人ひとりの評価に基づいたメッセージであれば異なる結果が得られると考えられる．
自由記述欄には，「自分で達成したと思っていないので，達成しておめでとうと言われても嘘っぽい．
」「発表を動画でしたこともあり，裏作業や計画段階で気を付けたことに対して『気付いてくれている』感があり，相手に伝わる内容だったという意味で安心感を感じた．
」などの感想が挙げられた．しかし，自由記述欄を BOT
A に関するものと BOT B に関するものとで区別しなかった為，これらの感想が具体的にどちらの BOT について述べられたものかどうかは明確にできない．また，
BOT に関する意見として，「BOTって名前だと発表を聞いていた感じがしない気がする．
」「アイコンも土門広香っぽくすると良いと思う．
」「知人の名前が BOT 名に使われていると，知人の顔が浮かんできた．
」などの意見が挙げられた．これらの意見は，BOT のアイコンや名前がマネジメントユーザに親近感を与えられる効果があると考えられる．
本実験では個人情報を取得していなかったため，詳細なデータを取得することはしていなかった．その影
響による結果に基づく考察は限られており，困難であった．今後は個人情報を含むより多くの情報を得ることで，より詳細な考察ができると考えられる．

6

おわりに

本研究では，モチベーションマネジメントを半自律化することを目指し，マネジメントユーザが感じ取ったメンバーの心の機微に基づいて，適切なタイミングでメッセージを送信する手法を提案した．具体的には，マネジメントユーザが発表内容を評価して，評価内容に基づくメッセージを発表者に送信する BOT A と，評価内容に基づかずにランダムで発表者に送信する BOT
B を提案し，それぞれの性能の良さについて検証した．
結果として，「『気遣いをされた』と感じたのはどちらかの BOT でしたか？」という問いでは BOT A が45.5%，BOT B が 54.5%となった．また「『発表を聞いた上で反応している』と感じたのはどちらの BOT でしたか？」という問いには，BOT A, BOTB それぞれ50%という結果が得られた．
ただし，本研究では気遣いやモチベーションマネジメントができるような手法を提案したが，まだ初歩的なものに過ぎず，完全に半自律であるとは言えない．本
実験では，発表者一人ひとりに気遣うメッセージを生成したのではなく，高・中・低の３段階の評価に基づいて固定された発表者とマネジメントユーザの信念・願望から発表者を気遣うメッセージを生成した．そのため今後は，評価に基づくメッセージではなく，一人ひとりに基づいたメッセージを生成することを目指し，半自律モチベーションマネジメント AI の開発に向けて検証を続けていく必要があるだろう．

参考文献[1] 飯田愛結, 奥岡耕平, 福田聡子, 大森隆司, 大澤正彦：ChatGPT を用いた認知アーキテクチャの構想– ユーザーの発話と発話意図に乖離があるケースを例に, HCI 研究会 (2023).
[2] 飯田愛結, 阿部将樹, 奧岡耕平, 福田聡子, 大森隆司,中島亮一, 大澤正彦：意図を読む AI の実現に向けて: 対話型生成 AI と他者モデルの統合を例に, HAIシンポジウム (2024).