立石科学技術振興財団

助成研究成果集(第29号) 2020

[ 研究助成 (A) ]コンテキストアウェアネスを超えたエージェントの「きづかい」を実現するフィードバック機構の研究
Feedback Mechanism for “Kidukai” Functionality in Human- Agent Collaboration
2191012

研究代表者

茨城大学大学院理工学研究科准教授

笹井一

人[研 究 の 目 的]
大規模災害などの予測不能な問題に対して，人と機械がこれまでの「使う／使われる」という関係から，互いの長所を理解した上でより柔軟に協働することが求められている。そのような状況では，これまで人間本位で行われてきたタスクについて，機械のためのタスクを人間が手伝うといった混合的なタスクの遂行形式をいかにして円滑に進めるかという問題がある。例
図1

えば，機械が人にタスクを割り当てる際には，AIR-NMS の概念図

人同士で行われているような，相手のことを思体 (Human-Agent Collectives, HAC) の 概 念いやったり，ときには励ましたりといった「気を提唱している。また，日本においては，東北づかい」を行う機能が不足しているために，不大学や千葉工業大学が中心となって，人間と快やストレスを感じるといった事態が深刻な問エージェントが互い存在を認めつつ共存する共題となる可能性がある。

生コンピューティングの概念を提案している。

そこで本研究では，人間と協調的に問題解決その他にも，人間とエージェントが互いに協働を行うエージェントを題材として，人間の割りし問題解決をするという枠組みは多くの研究グ

切れない部分を発話のフィードバックとして解ループが取り組む，次世代の社会にとって重要釈することで解決し，人間と機械の間の創発的な技術であるといえる。
研究代表者のグループは，これまで研究開発な関係を支援する技術の実現を目的とする。

してきた複数の知的エージェントが協調連携して問題解決を行い，人間のネットワーク管理業[研究の内容，成果]

務を支援するエージェント指向ネットワーク管
ヒューマン・エージェントインタラクション

理システムである，「能動的情報資源に基づく(HAI) 研究者であるジェニングス博士は，個ネットワーク管理システム (Active Informa-

別のタスクを遂行する能力を持った様々なエー

tion Resource-based Network Management

ジェントが人間社会に溶け込んでいき，社会・System, AIR-NMS) における人間とエージェ

経済の営みを支援する人間−エージェント共同

ントのインタラクションに着目し人間とエー― 1 ―立石科学技術振興財団

図3

助成研究成果集(第29号) 2020

先行システムの動作例の「動画が再生されません。
」のキーワードに反応し，AIR-NMS が原因の診断と解決策の提図2示を行なっている。先行研究では，このシステ

対話システムを介した AIR-NMS

ムをを使って幾つかの障害の例について実験をジェントの協調的問題解決を検討してきた。

行なってきたが，実験において障害解決に失敗

AIR-NMS の概要を図 1 に示す。AIR-NMS は， する例として，システムからの情報提示，コマ知的エージェントの連携によって，知識・スキンド入力依頼に対して，ユーザが回答できずそルの乏しい管理者でも高度な管理業務を行うこれ以上対話が進まなくなってしまうケースが何とが可能となりつつあったが，一方で，知的度か見られた。インタビューの結果によれば，エージェントが主体の管理業務支援は，システ知識がなくエージェントから提示された情報がムが予測可能な問題に対しては強力な支援が可わからなかったというものや，自分に依頼され能な代わりに，システムの自律的管理の限界をていると感じなかったなどの感想が得られた。

超える予測不能な事態に対処することは困難でこれは，対話システムに見られる対話破綻の問あった。これに対して我々は人間とエージェン

題とよく似た状況であるが，本システムにおいトが対等にインタラクションを行うことを可能ては，システムがリカバリープランを生成し，とするように，エージェント間で協調を行うたそれが実行されるという手続きをとっているた

めのエージェント間メッセージを自然言語に翻め，対話破綻が発生し，ユーザからの返答に途訳する，対話システム型のエージェントインタ切れが生じてしまう場合，それ以上タスクが進フェースを開発し，自然言語による対話を介しまなくなってしまうため問題となる。本研究でた人間とエージェントの情報のやり取りを実現

は，情報提示を行なった際のユーザの挙動をした。図 2 に対話システムによる人間とエーフィードバックとしてエージェントに検出させ，ジェントの協働支援を考慮した AIR-NMS の気づかいに相当するフォローを行わせることで，概念図を示す。

対話破綻を防ぎ協働タスクの継続を図ることと対話システムの分野では，ユーザとシステムする。

が主導権を交代しながらタスクを遂行する「混図 4 に気づかい機能を含めた対話インタ合主導」の概念がある。しかしながら，機械にフェースの構成図を示す。本研究における気づはできるタスクとできないタスクがはっきりしかい機能は，障害診断エージェントからの情報ているが，人間はそれとは異なり，「思いやり」提示に対するユーザの反応を監視し，必要に応や「励まし」など不確定な要素によってタスクじて作業を代行したり，ドメイン知識を提供しの成否が変わってくる。また，適切な依頼がでたりすることで，対話破綻を防ぐ機能として設きない場合に互いの関係を悪化させてしまう可計する。また，気づかいの機能は当初，対話能性もある。図 3 は，対話システムを介したエージェントレイヤの各エージェントに機能とAIR-NMS の動作例である。本例では，ユーザして追加することを考えていたが，個別のエー― 2 ―立石科学技術振興財団

図5
図4

助成研究成果集(第29号) 2020

気づかい機能の処理フロー

いた管理操作を実行している (AIR-NMS エー

対話エージェントの構成図

ジェント，障害監視エージェントなど)。気づジェントとして実装することで，エージェント

かいエージェントは，メッセージ変換を行うの情報提示に対するユーザの反応評価機構を発エージェントと同様に，メッセージ受信エー展的に構築することができるというメリットをジェントからのメッセージを監視しているが，考慮して，個別の気づかいエージェントとして特定のドメインに関する解釈ではなく，会話の設計することにした。

流れを監視し，必要な場合には，気づかい機能

同じく図 4 を用いて，システム構成についてを提供する。

説明する。対話システムのユーザインタフェー

図 5 に気づかい機能に関わる詳細な処理のフスには様々なモダリティのものが存在するが，ローを示す。対話破綻のフィードバック検出に

ここではテキスト型のチャットインタフェース関わる手法は多くの研究が発展途上の分野であ(Slack) を用いることにした。チャットインタる。最もよく使われているものに，沈黙の継続

フェースは，近年様々な外部システムと連携で時間がある。ここでは，ある沈黙時間 τ[s] をきる API が整備され，E メールに代わり本格設定して，対話の破綻を検出し，それに基づき的にビジネスコミュニケーションシステムのス気づかいメッセージを送信する機能を構築した。

タンダードとなりつつある。ここでは，チャッ

次に，本研究において設計した気づかいエー

トインタフェースの API に対する入出力を行

ジェントの効果について評価するために，気づうエージェントを送信用と受診用の二つ設けてかいによって対話破綻を防ぎ，障害解決タスクいる。実際にエージェントメッセージと自然言が完遂できるのかについて簡単な検証実験を語のテキストを変換する部分は，対話のドメイ行った。図 6 に実験環境を示した。本実験におンごとにエージェントとして分割して設計していては，2 名の人間が参加する。1 名は熟練管いる。サーバエージェントは，監視対象サーバの状態情報や管理コマンドを自然言語に変換している。例えば，「サーバをシャットダウンして」「今の CPU 使用率は？」などである。また，障害診断エージェントは，障害管理に関わるメッセージの取り扱いを行なっている。例えば，「メールが遅れなくなった」「ネットワークがつながらない」などである。それぞれのエージェントが変換したメッセージは，実際の対象やデータベースを操作するエージェントに送信され，これまでエージェント間連携で行われて
― 3 ―

図6

実験環境

立石科学技術振興財団

助成研究成果集(第29号) 2020

理者で，この役割は実験計画者が担当する。もう一名は，初級管理者であり，これを実験参加者が担当する。つまり，熟練管理者は実験の内容を知っており，初級管理者は実験内容を知らない。実験は以下のようなシナリオで進行する。
①

熟練管理者が初級管理者に Web サーバ

図7の動作確認を依頼する。
②

対照実験の結果 (破綻の例)

初級管理者が Web サーバ上の動画を確認中に，Web サーバに擬似的な障害を発生させる。

③

初級管理者が障害を報告する。それに対して障害診断エージェントが反応し，診断結果と対策案の提案を行う。

④

初級管理者は障害診断エージェントからの提案に対して，回答・対応を行う。

図8

気づかいエージェントの場合の結果例

本実験では，ここまでのシナリオでストップさせるものを対照実験として定義する。気づかいとが示された。

エージェントを使用した際の実験シナリオは，[今後の研究の方向，課題]

以下のように続く。
⑤

気づかいエージェントが定義された検出指標 τ に基づいて，破綻を検出した場合⑥

本研究では，気づかいのための対話状況のに，気づかいメッセージを送信フィードバックとして，沈黙時間のみを用いて初級管理者が気づかいメッセージに反応いるが，他にもユーザのストレス評価や表情なする。

ど，いくつかの情報の追加を検討している。ま図 7，図 8 に対照実験の失敗例と気づかいエー

た，気づかいメッセージの種類についても，角ジェントの場合の結果例を示した。対照実験に度を増やして，多様なユーザに対応させる必要おいては，障害診断エージェントの説明に対しがある。て，初級管理者が反応できず，沈黙が続いてしまったため，実験計画者が実験を打ち切ってし[成果の発表，論文等]まった。これに対して，気づかいエージェント(1) 豊田貴大，笹井一人，“対話エージェントにおけるの例では，気づかいエージェントが自律的に破自分の発話をフォローする「気づかい」機能の提綻を検出し，追加の情報提供を行ったことで，案”，共創学会第３回年次大会予稿集，pp. 89-91,対話が継続し，障害の解決に至っている。本評
価実験の結果から，気づかいエージェントの機能によって，人間とエージェントの協働が円滑化され，協働支援の方法として効果的であるこ― 4 ―Dec. 2019．
(2) 波多友聖，笹井一人，“利用者自身を全肯定する対話エージェントの開発”，共創学会第 3 回年次大会
予稿集，pp. 95-98, Dec. 2019．