日本知能情報ファジィ学会誌「IDEA」特集解説

IDEA: 適応のためのインタラクション設計
IDEA: Interaction DEsign for Adaptation
山田誠二
国立情報学研究所〒 101-8430 東京都千代田区一ツ橋 2-1-2

Tel&Fax: 03(4212)2562
E-mail: seiji@nii.ac.jp
Seiji Yamada
National Institute of Informatics
2-1-2 Hitotsubashi, Chiyoda, Tokyo 101-8430, JAPAN
Tel&Fax: +81-3(4212)2562
E-mail: seiji@nii.ac.jp

角所 考
京都大学 学術情報メディアセンター〒 606-8501 京都市左京区吉田本町

Tel: 075(753)9062
Fax: 075(753)9056
E-mail: kakusho@media.kyoto-u.ac.jp
Koh Kakusho
Academic Center for Computing and Media Studies, Kyoto University
Yoshida-honmachi, Sakyo-ku, Kyoto 606-8501, JAPAN
Tel: +81-75(753)9062
Fax: +81-75(753)9056
E-mail: kakusho@media.kyoto-u.ac.jp

i

1

はじめに

するので困る等のお互いの不適切な適応に起因する問題が多く生じる，また， “適応” は，人工知能，ロボ

ここ 10 年ほどで，マイクロソフトエージェント

ティクス，認知科学における機械学習，ユーザモデル，[9] に代表される擬人化エージェント（life-like agent）

認知モデルの研究において，今日においてもさらに重[7]，ECA (Embodied Conversational Agent)[3] と呼ばれるソフトウエアエージェントから，AIBO[1] やRoomba[12] に代表される身体をもったペットロボッ

要な研究課題である．よって，人間とエージェントのトや掃除ロボットまで様々なエージェントが，オフィ

切な適応」の実現を目的として，設計する必要がある

スや一般家庭に普及してきた．このようなエージェンと考えられる [20]．

上手な付き合いを実現するには，人間とエージェント
間のインタラクションを，「人間とエージェント間の適トは，身体をもつか否かに関わらず，人間のユーザとこのような背景から，我々は人間とエージェント間のインタラクションを持ちながらも，自分自身で状況の “適切な適応” を実現するために，その “適応を促進

判断と行動決定を行い，実行していく能力をもっていする HAI の設計” を共通の目的とした研究分野を「適る．そのような人工物と一般のユーザが日常的にイン応のためのインタラクション設計」IDEA(Interaction

タラクションを持ち続ける状況は，これまでの科学技

DEsign for Adaptation) と呼び，同名の研究グループ
I∆EA を中心に，これまで議論を重ねてきた．本稿では，その議論を基に関連する研究例を紹介しながら，術の歴史からみても，前例がない．そして，このような状況では，人間のユーザとエージェントがどのように付き合っていけばいいのか，さらにうまく付き合っていくにはどのようなインタラクションを設計すればIDEA の目指すもの，それを実現するための方法論について議論する．以下では，まず HCI や HAI に対すいいのかが，重要な工学的課題となってくる．人間とる IDEA の位置付けについて，2 章で議論し，それをエージェントが自然に無理なく付き合っていけること踏まえて，3 章で，人間とエージェントの適応の仕方

が，ユーザにとっては負担が軽減する意味でメリットに基づいて HAI を分類・モデル化すると共に，その設があり，エージェントのさらなる普及のためにも必須

計に関する研究例について紹介する．

である．
しかし，これまで，エージェントとユーザ間のイン

2

HAI 設計く議論する研究分野はなかったと言ってよい．このよ

2.1

インタラクション設計

うな人間のユーザとエージェント間のインタラクショ
ン設計問題は，HAI(Human-Agent Interaction)[21] とHCI のような計算機とのインタラクションにおいても，HAI のようなエージェントとのインタラクション

呼ばれ，近年特に日本において活発に研究されている．

においても，人間の側には通常，それらとのインタラ

タラクションをどのように設計すれば，人間とエージェ
ントがよりよい付き合いを実現できるかについて，深本特集では，そのような研究の論文を集めて掲載してクションによって実現しようとする “タスク” が存在

おり，先端的な HAI 研究の一端を知ることができるだ

する．例えば，ワープロとインタラクションする場合

ろう．

のタスクは文書を作成することであり，案内ロボット

これまでの HCI（Human-Computer Interaction），とインタラクションする場合のタスクは目標場所に到

ユーザインタフェースの研究では，主にユーザにとっ達することである．このようなタスクを，人間が独力ての使いやすさ（usability）の向上をめざし，様々なデではなく，計算機やエージェントといったシステムをバイス，メタファなどが研究，開発されてきた [13]．一

利用して実現するわけであるから，人間の側からシス方，HAI を考えた場合の重要な特徴として，人間と接テムへの何らかの働きかけによって，作成したい文書

する対象がエージェントと呼ばれる自律性をもつ，行や目標場所等の目標タスクに関する情報を伝え，その動主体であることが挙げられる．人間は不可避的に対結果として意図通りの文書ができあがったり，目標場

象（エージェント）に適応するし，エージェントは個人所への経路が提示される，といったシステムの働きが適応（personalization）するために，人間に適応する得られることになる．

必要がある．つまり，人間はエージェントに，エージェ

本稿では，後の議論において，インタラクションの対

ントは人間にお互いが適応しあうという相互適応が生象となるシステムとして，特にロボットや CG キャラク

じる．しかし，そこでは，エージェントが適切なタイ

タ等の擬人化エージェントを考えるため，上で述べた

ミングで適切な情報を提示してくれない，エージェン

ような人間からシステムへの働きかけや，そのフィートがユーザ適応しているのかどうかわからずに戸惑っドバックとしてのシステムの働きを，広く人間やシステてしまう，また，エージェントが余計なユーザ適応を1

ムの行為と呼ぶことにする．したがって，この行為は，の親和性と呼ぶことにする．

ロボットのモータコマンドのような物理的行為から，擬HCI における行動の親和性を実現するための代表的なインタラクション設計の手法が，GUI(Graphical

人化エージェントの表情の生成のように何らかのモダ
リティや表現による外界への情報の表出までを含んだ相当するものを行動ルールと呼ぶことにする．より具User Interface) で用いられるモデル世界メタファや直接操作 (Direct Manipulation) 等であり，ポインタやア
イコンによって，ファイルの操作を現実の机上での書体的に言えば，ここでいう行動ルールとは，外界から類操作と類似した形で実現することにより，システムの情報をセンシングして判定される条件の AND を条によるファイル操作の実現に，現実の机上での書類操件部として持ち，その条件部が成り立てば後件部の行作のためのメンタルモデルがそのまま活用できるよう為が実行されるルールベースに相当する働きをもったに工夫されている．

ものである．また，このような行為を決定する規則にものであり，その条件部は，それが成り立つか否かを判定する手続きも含んでいるものとする．ここで，人2.3

間やシステムの行為は，外界からの入力のみを用いて適応過程の活用

即応的に決まるとは限らず，自身の内部状態にも依存人間の持つシステムの行動モデルと実際の行動を一し得ることから，そのような内部状態と行動ルールの致させるための方策には，2.2 で述べたような行動の集合を合わせたものをさらに行動（behavior）と名付

親和性を利用することに加えて，もう一つ，人間およける．このとき，人間とエージェント間のインタラク

びシステムによる適応を利用するという方法が考えらションは，お互いが自身の行動を実行することで生じれる．

ることになる．したがって，システムの行動を設計す
ることは，単に内部状態や外界からの情報とそれに対

HCI や HAI において，システムの行動モデルと実際の行動が異なるために目標とするタスクの実現に失して実行すべき行為の対応関係を設計することにとど敗するような状況が生じた場合，人間は通常，システ

まらず，システムによる外界のセンシングの手続きやムへの適応を試み，システムとのインタラクションを表情などの表現，つまり従来のユーザインタフェース

通じて，システムの正しい行動モデルを学習しようとの当たる部分も含むことになる．

する．この行動モデルの学習が難しい場合，人間から人間がシステムとインタラクションする場合，人間システムへの適応は困難なものとなるが，学習が容易

は，システムの行動に関するモデル（以後，行動モデルである場合には，人間はほとんど意識することなく適と呼ぶ）を構築し，これに基づいて自分の行動を決め応を完了する．したがって，もし人間が元々持っているから，人間とシステムとのインタラクションによってる適応能力をうまく活用し，人間が正しい行動モデル

目標とするタスクが実現されるには，人間が持つシスを速やかに学習できるように，適応を促進すれば，人テムの行動モデルとシステムの実際の行動が一致して間に負担を感じさせることなく，人間の持つシステムいる必要がある．これが一致していない場合，人間がの行動モデルと実際の行動を一致させることができる．

あるタスクの実現を目標として行動しても，それに対このような過程を実現することが，適応のためのインするシステムの行動は予想とは異なるものとなり，タタラクション設計の問題である．

スクの実現に失敗することになる．したがって，イン上のような適応過程の利用の仕方としては，以下のタラクション設計では，この両者をどのようにして一２段階が考えられる．

致させるかが議論の中心となる．

(1) 人間による適応のみを利用する．
(2) (1) に加えてシステムからも人間に適応する．
ここで，システムから人間への適応のみを考えないの

2.2

行動の親和性は，人間によるシステムへの適応が不可避であり，人従来の HCI におけるインタラクション設計では，上間による適応の生じないシステムの適応過程というののようにシステムの行動モデルと実際の行動を一致さは，実際には起こり得ないためである．

せるための方策として，人間が最初から持っている初期的なシステムの行動モデルとできるだけ一致するよ

2.4

うに，システムの行動を設計するというアプローチが適応のためのインタラクション

採られてきた．このように，人間とシステムとのイン上で述べた２段階における人間とエージェントによタラクションにおいて，システムの行動が，人間の持る適応とは，相手の行動モデルを学習し，そのモデル

つ初期的なシステムの行動モデルに近いことを，行動に基づいて自身の行動を変化させることで実現される．

2

ここで，２段階のうちの (1) を促進するためには，シスの際に利用する人間の学習モデルとして，人間の学習

テムから人間に対して，人間がシステムの正しい行動に関する知識を導入することが考えられる．

モデルを効率的に学習するための情報を伝達する必要がある．また (2) では，これに加えて，システムが人間

2.6の正しい行動モデルを効率的に学習するための情報を，学習の汎用性

人間からシステムに対して伝達する必要がある．この

一般に，どのような条件のときにどのような行為

ような情報は，いずれもタスクの実現のために直接利をとるかという行動は，個人やタスクによって様々に用される情報ではなく，適応を促進するために必要と異なることから，このような行動に関して，人間の持なる情報であり，そのような情報伝達が，元々タスクのつシステムの行動モデルに一致するようにシステムの実現に直接利用される情報を伝達するために行われて行動を設計することは必ずしも容易ではない．これにいたインタラクションの過程で，相手への適応のため

対して，“成功体験の繰り返しはその行動を活性化し，に二次的に派生することになる．そこで本稿では以後，失敗体験の繰り返しはその行動を抑制する” といった

これら二種類の情報伝達過程を区別し，タスクの実現

ことは，個人やタスクに関わらず，人間やその他の生に直接利用される情報を伝達するための元々のインタ

き物の学習に広く共通して見られる性質である．このラクションを，タスク実現のためのインタラクション，

ことを本稿では，学習の汎用性と呼ぶ．このような学相手による適応を促進するための情報を伝達するため

習の汎用性を利用すれば，上のような性質を持った学に二次的に派生するインタラクションを，適応のため

習モデルを，相手の学習モデルとして人間やシステムのインタラクションと呼ぶことにする．ただし，このに共有させることにより，個人やタスクによらず，学

分類は，二種類のインタラクションで利用される情報

習モデルの親和性を実現することが可能になる．

が必ず異なることを含意するものではなく，同一の情報が両方のインタラクションで利用される状況ももち

2.7

ろん存在する．

擬人化

HCI に対して HAI では，人間がインタラクション

2.5

するシステムが，ロボットや CG キャラクタ等の擬人学習の親和性化エージェントとなる．ただしここでいう擬人化とは，適応のためのインタラクションにおいて，相手によ

人間だけではなく，動物などの人間以外の生き物に似る行動モデルの学習を促進するための情報を提供するせる場合も含める．我々の日常生活において，クッショには，“相手は自分の行動モデルをどのように学習する

ンに話しかける人は少ないが，ぬいぐるみに話しかけのか” を知っている必要がある．また，人間やシステる人は珍しくないことからもわかるように，人間は，

ムの行動は，相手の行動モデルに依存するから，(2) の物質としては同じであっても，擬人化された対象とはように人間とシステムの両者がお互いの行動モデルを

インタラクションしやすい．本稿では，擬人化の持つ学習しつつある状況では，それぞれの行動が，相手側

このような特長を，インタラクションの誘発性と呼ぶ．

の行動モデルの学習によって変化することになる．し従来の HAI では主に，HCI にこのインタラクション

たがって，このような行動の変化が行動モデルの学習の誘発性を導入し，ロボットを擬人化することによっに悪影響を与えないようにするためには，やはり相手て，人間からのインタラクションを容易なものにしたの学習について知っていることが重要となる．すなわ

り [10]，擬人化エージェントのふるまいをより人間ら

ち，適応のためのインタラクションでは，相手の適応

しくすることによって，人間から必要な情報を得やすを促進するために，相手が持っている自分の学習のモ

くする [2] といった試みがなされてきた．

デル（以後，学習モデルと呼ぶ）と実際の自分の学習

上のようなタスク実現のためのインタラクションにが一致している必要がある．

加えて，適応のためのインタラクションを考える場合

この要求は，2.1 で述べたタスク実現のためのインにおいても，このようなインタラクションの誘発性は，タラクションにおける行動モデルへの要求と同一であ適応のための情報伝達を活性化できるために活用できる．このための方策として，2.2 で述べた行動モデルにる．また，擬人化は一種のメタファであり，人間は，擬対する親和性と同様，学習モデルに対する親和性が有人化されたシステムに対しては，擬人化されている人効となる．すなわち，人間が最初から持っている初期

間等とのインタラクションで用いているものと同様の的なシステムの学習モデルとできるだけ一致するようモデルを利用してインタラクションができることを期に，システムの学習を設計する一方，システムが適応待するから，2.2 や 2.6 で述べた行動の親和性と学習

3

の汎用性の両者を同時に実現するための方策としても，めのメタ学習モデルを考え，さらにそのメタ学習モデ

擬人化は非常に有効な手段となる．

ルを学習するためのメタメタ学習モデルを考える...” というような無限後退を，現実的に妥当なレベルで回避

2.8

する意味がある．

IDEA

さらに，人間側の行動や学習を設計することは現実

以上の議論に基づき，IDEA では，人間とシステム的でなく，またユーザの自由度を妨げるため，これかとのインタラクションにおいて，人間によるシステム

ら述べるすべてのモデルにおけるインタラクション設への適応が不可避的に生じることを考慮し，人間−シ

計の設計対象は，人間を含まない．つまり，IDEA におステム間で互いの行動モデルと実際の行動とを一致さける適応の促進は，エージェントの設計で実現される．

せるために，行動の親和性だけではなく，人間の適応

次章では，このような IDEA の概念をより明確，具体能力も積極的に活用しようとの立場から，擬人化の利的にするために，IDEA の目指す人間とエージェントの点であるインタラクションの誘発性，行動の親和性，学適応について，適応の観点からモデル化を行い，従来研習の汎用性をうまく利用することよって，人間やシス究との比較や IDEA の扱う問題の分類，そして，IDEA

テムによる適応を促進するような適応のためのインタの設計対象と考えられる方法論について議論する．

ラクションを設計することを目指す．
すなわち，従来の HCI が，2.2 で述べたような行動の親和性に基づくタスク実現のためのインタラクショ
ン設計を，また HAI が，それに加えて 2.7 で述べたよ
うなインタラクションの誘発性も導入したタスク実現

3

適応のための HAI モデル

3.1

従来の HCIのためのインタラクション設計を議論していたのに対人間とエージェント（あるいは，システム）とのイ

し，IDEA では，人間とエージェントによる適応に焦ンタラクションを，適応の観点からとらえた場合，こ点を当て，両者による適応のためのインタラクション

れまでの HCI は，図 1 のように表される．モデルの構設計を考えることになる．このときの課題は，以下の成要素を以下に説明する．

２段階となる．

• 人間の行動 BiH：i ターンのインタラクションにおいて，適用，実行されるエージェントのもつ行動．
B0H は初期行動であり，エージェントとのインタ

1. 人間の適応を促進するインタラクション設計
2. 相互適応を促進するインタラクション設計

ラクションが始まる前から持っている行動である．

なお，本稿では，“適応” は，対象とのインタラクショ• エージェントの行動 BiA：人間の行動と同様のエーンをある評価レベルに維持することであり，“学習” とジェントの行動．B0A は，設計者により設計されは，エージェント（あるいは，人間）が，自身の行動

た初期行動を意味する．

を対象に合わせて変化させることにより，適応を実現• 行動モデル M (B)：相手の行動 B のモデル．

すること，つまり適応の一実現方法であると解釈する．
上のように設計の焦点がタスク実現のためのインタ• インタラクション Ii：人間，あるいはエージェントの学習– 実行の周期により決まるターンの i ター

ラクションから適応のためのインタラクションへと推移することに伴い，HCI や HAI では行動モデルのみ

ン目における，人間とエージェント間の情報（物が設計対象であったのに対して，IDEA では，行動モ

理的な行為を含む）のやり取り．人間の行動 B H

デルの学習を目指して学習モデルを設計することになとエージェントの行動 B A により決定される．

り，HCI や HAI に比べて設計対象が拡張される．
ここで注意してほしいのは，IDEA では，相手の行動

また，行動モデル M (B) と行動 B の半円が接触しモデルが学習対象であり，学習モデルについては，設ている状態は，行動 B が M (B) の影響を受けること

計対象とはなるものの，学習対象にはしない点である．

を意味する．

また，学習モデルの設計においては，人間は元々，エー図からわかるように，従来の HCI では，人間の行動

ジェントの学習モデルを持っており，それを変化させ

B0H は元々人間がもっている行動であり，エージェン

ること，つまりエージェントの学習モデルを学習する

トに適応して変化することはなく，固定されているとことはしないと仮定する一方，エージェントには人間仮定している場合がほとんどである．また，ごく一部の学習モデルを設計して組み込んでおき，以後変化さの適応インタフェースを除く，多くの HCI の研究では，せないものとする．これは，“学習モデルを学習するた4

Human

Human

Agent

Agent
H

M(L )
A

M(B 0 )
H

B0

I0

A
M(Bi-1
)
A

B0

H

Bi

Ii

A

B0

LH
A

M(B i )
H

B i+1

図1

従来の HCI

図2

エージェント側もその行動 B0H を変化させず，適応を

Ii+1

B A0

人間からの適応その HAI モデルは，先の図 1 に，人間の適応を追加行わない．

した図 2 のようになる．M (BiA ) は，人間が学習する

よって，人間の要素は設計対象にならないという指エージェントの行動モデルであり，任意の過去の人間

針，およびインタラクション I は，B0H と B0A によりとエージェント間のインタラクション Ii−1 を基に学習決定されることから，このモデルにおけるインタラク

され，その M (BiA ) が現在の BiH に影響を与える．そション設計の設計対象は，エージェントの行動 B0A とな

して，人間の行動 BiH とエージェントの行動 BiA とがる．なお以降では，B0A ，M (B)，そして後述する学習実行されることにより，インタラクション Ii が生じる．

L の設計を HAI 設計，あるいは単にインタラクショ

一般には，行動 Bi は相手のモデル M (Bi−1 ) に影響

ン設計と呼ぶ．

を受けること，さらに，そのモデル M (Bi−1 ) は，過去

従来の HCI では，この B0A を，できるかぎり M (B0A )のインタラクションから学習されたモデルであること= B0A となるように設計してきた．つまり，人間がもとに注意して欲しい．このモデルで，“適応” とは，相手もと持っている固定的なエージェントの行動モデルとの行動モデルと自身の行動のペアを探索しながら学習

エージェントの行動ができるだけ一致するような方針していくことであり，そのような学習，あるいはそので，エージェントの行動を設計してきた．これが，2.2

探索戦略（学習戦略）を LH（人間の学習），LA（エー

において議論した行動の親和性である．

ジェントの学習）と呼ぶ．ここでは，エージェントは機能が理解しやすいアイコンの設計や直接操作（di-

人間の行動モデルを学習しないので，その行動モデル

rect manipulation）などの理解しやすい行動の設計など，多くの HCI の研究は，適応の観点から図 1 のモデは省略してあり，エージェントの行動は，設計された
初期行動 B0A で固定されることになる．

ルで説明できる．次節以降では，IDEA の目標とする

このモデルにおける，インタラクション設計の対象適応のためのインタラクション設計のモデルについて

は，エージェントの行動 B0A である．

述べる．

この B0A をどのような指針の基に設計するかが問題であるが，IDEA では，人間の適応を促進するように

3.2

設計する．この指針に基づいたインタラクション設計

人間の適応を促進するインタラクション
設計

は，さらに “擬人化による親和性の向上” と “探索の効率化” の 2 つの設計指針に分類される．

2.8 でまとめたように，HCI とは大きく異なり，IDEA
では，人間からエージェントへの適応と，エージェン
3.2.1

トから人間への適応を最重要に考える．このうち，人擬人化による親和性の向上

間からエージェントへの適応は不可避的におこるもの

エージェントの初期行動 B0A を人間のもつ初期モデなので，IDEA が対象とするのは，人間からエージェ

ル M (B0A ) にできるだけ一致するように設計する．こントへの適応のみの場合と，両者が互いに相手に適応の設計も，2.2 において議論した行動の親和性に基づする相互適応の場合の 2 つである．

いており，さらに，IDEA では，2.7 で議論した擬人化

本節では，まずエージェントが適応をしない場合，つを最大限に用いて，親和性を高めることが重要である．

まり人間からエージェントへの適応のみの場合を扱う．

5

また，学習を探索として見た場合，この指針は，探索
空間自身をコンパクトにすることに対応する．この設計指針は，3.1 で述べた HCI と類似しているが，後述

Human

Agent

M(LA )

M(LH )

するように，IDEA では，人間がエージェントを擬人化するバイアスを最大限利用するところが，HCI と異A

H

M(Bi-1 )なる．
親和性の向上の設計指針による具体的なインタラク

Lション設計では，エージェントの入力（センシング），

B Hi

H

出力（行為），内部状態，つまりエージェントの行動

Ii

A

Ii+1

H

B i+1

れらの親和性を高める方法は，擬人化を実現すること

A

Bi

LA
H

M(B i )

が人間に直観的に把握しやすいことが必須であり，こM(Bi-1 )M(B i )
A

B i+1

で達成される．具体的には，少なくとも以下のことが考慮されるべきである．

• 内部状態の表出：一般には，推定しにくいエージェ
ントの内部状態が，エージェントの表情，単純な

図3

相互適応

信号などの直感的に把握できる自然な表現で表出
具体的な方法として，人間への適切な教示がある．人されることが望ましい．

間の学習モデル M (LH ) に基づいて，エージェントが• 決定論的な行動：確率的な行動は，人間にはモデ

人間に適切なタイミング，表現で情報を教示すること

ル化しにくいので，行動 B0A は決定論的であるこにより，人間の学習を促進することができる．このととが望ましい．

き，2.6 の学習の汎用性を利用して，エージェントの行動を設計することにより，タスクに依存しない促進を• 行為の文節化：エージェントの実行した行為が，人間にとって文節化しやすい方がよい．

実現できる．
しかし，残念ながら，このインタラクション設計• 明示的なセンシング：エージェントがどのセンサ

は，ほとんど研究例がない．人間の学習の認知モデル

を使って，どのような情報をセンシングしているM (LH ) の構築を行い，それに基づき探索の効率化を図るような研究が今後期待される．

かが明示的にわかる方がよい．
研究例としては，エージェントの状態モデルとして，人間が飼育成長させたソフトエージェントをロボット

3.3に憑依させることにより，ロボットと人間の親和性を高める研究 [10]，人間と擬人化エージェントがお互い相互適応を促進するインタラクション
設計に相手の表情から内部状態を推定しあうマインドマッ

HAI において，人間は対象であるエージェントに不ピングの相互適応の研究 [16] がある．また，擬人化な可避的に適応しようとするし，エージェントはユーザ

らぬ擬犬化を利用して，AIBO の古典的条件付けのた

適応するために，人間への適応を試みる．このような人

めに，行動を犬に類似したものを設計することにより，間とエージェントが，同時平行的に相互に適応しあう状

人間の適応を促進する研究 [17] などがある．

態を，相互適応（mutual adaptation）と呼ぶ．広義の

3.2.2“相互適応”[16] は，このような意味であるが，IDEA の観点，つまり適応の観点から相互適応を見た場合，お互探索の効率化H

いが相手の行動モデルを学習しあうことが本質であり，H

人間の学習 L のモデル M (L ) を基に，人間がエー

そこに IDEA が解決すべき様々な課題が生じる．このジェントの行動モデルを効率よく学習できるように，ような考えから，IDEA で対象とする相互適応のモデ

エージェントの行動 B0A を設計する．このためには，H

ルは，図 2 にエージェントの適応を追加した，図 3 でにより，前述の親和性のように，探索空間そのものを

この相互適応のモデルにおける設計対象は，エージェ表される．

人間の認知モデルである M (L ) が必要である．これントの行動 B A ，エージェントの学習 LA である．

コンパクトにすることとは独立に，学習における探索

このモデルにおいて，人間の適応の促進，エージェが効率化される．

ントの適応の促進，相互適応の促進の 3 つのインタラ

6

クション設計の目的が考えられる．ただし，人間の適た，教示に対する人間の認知的負荷をモデル化す応の促進については，3.2 で既に議論した内容がそのまる研究もほとんどないようである．

ま適用できる．よって，本節では，エージェントの適• 能動的学習（active learning）：単に訓練例が与え応の促進，相互適応の促進を目指したインタラクショるのを待つのではなく，エージェント自身が自分ン設計について議論する．

にとって必要な訓練例を進んで獲得する学習が能動的学習である [4][15][11]．計算論的学習理論に

3.3.1

エージェントの適応の促進

基づいて，有効な訓練例を推定する研究が多いが，

IDEA では，人間の教示コストを考慮した能動学

相互適応そのものを促進する前に，まずは，図 3 の習が必要である．

相互適応において，エージェントの適応を促進することが考えられる．具体的な方法は，設計対象であるエー
ジェントの学習 LA ，つまり機械学習アルゴリズムの開• トランスダクティブ学習（transductive learning）：
通常の分類学習では，大量の訓練例から判別関数

発と，人間の教示を動機付けるような行動 B A の設計を学習するが，少数の訓練例と正負のラベルのなである．

い大量の試験例から，通常の帰納学習よりも精度の良い分類子を学習するのがトランスダクティブ

人間を教師とする機械学習

HAI における，人間に対するエージェントの適応は，人間の行動モデルの学習学習である [6]．人間の教師から得られる訓練例はにより実現される．過去の個々のインタラクションかが大量にあれば，トランスダクティブ学習により，ら人間の行動モデルを帰納的に学習することは，機械学習性能を向上できる．

非常に少数の場合が多く，もしラベルなし試験例

学習における帰納学習の一つであり，エージェントの人間を教師とする高速な機械学習アルゴリズムの 3

適応の促進には，人工知能の機械学習が知見を与えれつの要素技術については，研究が進みつつある．しかくれる．
ただし，従来の人工知能におけるほとんどの機械学しながら，人間の教師を想定した，人間の行動モデル

習は，分類されるべきクラスのわかっている訓練例を学習へ応用した研究例はほとんどない．今後の発展が多量に与えられ，そこからクラス分けのための判別関期待される．

数（規則）を帰納的に学習する分類学習（classification
エージェントの学習 LA の設

learning）[8] であり，学習対象を明示的に人間の行動

人間の教示の動機付け

モデルに絞って研究された例は，筆者らの知るところ

計によりエージェントの適応を促進する一方，エージェ

では見当たらない．

ントの行動 B A の設計により，エージェントの適応を人間の行動モデルの学習として，人間のモデルを学促進するために，人間の教示への動機付けが考えられ習するには，人間と訓練例であるインタラクションをる．エージェントの適応の訓練例である，人間とのイもつコストが非常にかかる．よって，人間の行動モデ

ンタラクションには人間に負荷がかかるため，なんとルの学習を促進するための機械学習アルゴリズムに求かして人間に快くエージェントとインタラクションをめられるのは，単に情報利得の期待値や判別関数と訓もってもらい，できるだけ多くの訓練例を得ることが練例のマージンなどから判別関数を学習するのではな

必要である．そのためには，人間がエージェントに楽く，人間の教師であることを考慮していることであり，しく教示ができるような枠組みが必要である．
このような人間の教示への動機付けは，例えば，人間その観点から以下の研究が重要である．

とエージェントの学習速度が同じぐらいでないと，人• コスト依存学習（cost-sensitive learning）：通常の分類学習に必要な訓練例は，コストがかからず

間はやる気を失う [7] などの報告はあるが，システマに得られると仮定されているが，実際は訓練例をつかのケーススタディはある．山田らは，人間とエー

得るにはコストがかかる場合がほとんどである．

ジェントのマインドマッピングの相互適応 [16] を実現

よって，訓練例を得るコストも考慮した分類学習

し，そこで，人間とエージェントがお互いの表情からであるコスト依存学習 [14][5] が重要である．特に，マインド（内部状態）を当て合う相互読心ゲームを設

IDEA の場合，本当の人間が教師であるので，人定することにより，ユーザがエージェントとゲームを間の認知的付加を考慮した機械学習が必要になる．

楽しみながら教示を行うことを可能にしている．

ティックな評価実験等は研究例がない．しかし，いく

しかし，今のところ，人間の教師に対し，教示のコ

また，人間の教示への動機付けを考慮したもう一つストを考えた機械学習の研究は見当たらない．まの研究として，人間の表情を擬人化エージェントで再7

現する際に，人間のどのような表情を擬人化エージェ

避するのではなく，次に述べる適応の非対称性を

ントのどのような表情に対応させるべきかという表情利用した解決方法の可能性がある．

マッピングをシステムに学習させることを目指した研• 適応の非対称性：一般に人間の適応能力は，エー究がある [18]．この研究では，人間の教示への動機付

ジェントのそれをはるかに凌駕している．つまり，

けとして，(1) 教示内容が以降の処理に速やかに反映さ

IDEA では人間とエージェント間に適応能力の非対称性があり，適応の観点からは極端に異種のマれなければ，教示の意欲が失われる，(2) 教示の負担を減らすためには，訓練例はなるぺく少ない方が望まし

ルチエージェントシステムである．このことが，い，(3) どこかの時点で教示が不要にならなければ，安IDEA における（相互）適応をより興味深い問題

心して利用できない，の３点を考慮して，RBF(Radialにしている．この非対称性をうまく利用するのが，Basis Function) ネットワークを利用した学習によって，人間の期待するものと近いバイアスを持った追加学習

IDEA の有力な方法論と考えられる．具体的には，相互適応においても，人間の適応を最大限に引きを実現することにより，(1)，(2) を実現すると共に，正出すことで，学習の速い人間と学習の遅いエージェ

例・負例のクラスタリングによって人間の要求する学

ントからなる異種マルチエージェントシステムが習精度を推定し，それを達成するように RBF を修正構成され，その学習能力の差により，例えば，多することにより，(3) を実現する手法を提案している．

少の適応干渉を回避ではなく，許容することができると考えられる．ここでも，人間の適応を最大

3.3.2

相互適応の促進限に促進する必要があるため，2.7 の擬人化を利用できる．

図 3 のモデルにおいて，相互適応そのものを促進す
ることが考えられる．相互適応は，人工知能のマルチたコンセプトであり，同様の課題をもっているが，HAI• 学習モデルの親和性：人間のもっているエージェン
トの学習モデル M (LA ) と実際のエージェントの学習 LA との間の親和性を高めるように，LA を設における相互適応を促進するために，人工的なマルチ計する．つまり，できるだけ人間がもつエージェン

エージェントシステムにはなかった新たな課題を解決

トの学習モデルに類似しているように，エージェする必要がある．相互適応の促進とは何かについてはントの学習アルゴリズムを設計する．そうするこ

議論の余地はあるが，3.2，3.3.1 で議論した適応の促とで，人間のエージェントに対する適切な教示を

進以外の相互適応における課題，そして関連する相互

引き出すことができ，相互適応が促進される．

適応の特性として考えられるものを以下に挙げる．

エージェントの学習速度，時間変化，学習途中のエージェントシステムにおける同時学習 [19] と類似し行動の一貫性などが人間に直観的に理解しやすい• 適応干渉：相手のモデルの学習をすることにより，相互適応が起る場合，お互いの学習対象である相ものであることが，人間の適応を促進するためには望ましい．このような性質をもった機械学習ア

手のモデル自身が，相手が適応することにより変化

ルゴリズムは，これまで研究されておらず，新ししてしまい，追従できない状態を適応干渉（adap-

くかつ重要な研究分野であり，IDEA としての重tation interference）と呼ぶ．

要性のみならず，機械学習への貢献も大きい．

図 3 の相互適応のモデルで適応干渉を表すと，人間• エージェントに対する飽き：通常，人間は，道具に飽きることはない．鉛筆や冷蔵庫に飽きること
は，ごく稀な場合である．しかし，対象が，インがエージェントの行動モデルの学習が収束したと思ったとき (i ターンのインタラクション) に，エージ
ェントも人間の行動モデルを学習して，M (B H ) おA
よび B A を変更してしまい，その結果，BiA 6= Bi−1

タラクションを持つこと自体が楽しみであるエンとなり，人間が学習したエージェントの行動モデ

タテイメントロボットやゲーム中のキャラクタのルと現在のエージェントの行動が一致しない，つ場合は，子供がオモチャにあきるように，ユーザA
まり M (Bi−1) 6= BiA となった場合が，適応干渉

もエージェントに飽きることが多い．相互適応モである．また，逆に，エージェントが学習が収束

デルでは，“飽き” は，お互いの適応が完全に収束

Hしたと判断した時に，M (Bi−1) 6= BiH となる場

してしまい，行動モデルにより，相手の行動が全合もある．マルチエージェントシステムの研究でてよそくできて，意外性がなくなった状態と考えは，主に適応干渉を回避する方法が開発されていられる．この状況に陥らないためには，相互適応る．これに対し，IDEA では，単に適応干渉を回が継続していく必要があり，特に人間が完全にはモデル化できないようなエージェントの設計が重8要であろう．

[5] C. Elkan. The foundations of cost-sensitive learning. In Proceedings of the Seventeenth International Joint Conference on Artificial Intelligence,

残念ながら人間とエージェントの相互適応をメインに扱った研究はまだ少ない．行動と行動モデルが独立

pp. 973–978, 2001.

である場合における，人間と擬人化エージェントの相[6] T. Joachims. Transductive learning via spectral graph partitioning. In Proceedings of the

互適応を実現した研究 [16] はあるが，残念ながら，上記の課題が解決されるには至っていない．課題も多い

Sixteenth International Conference on Machine
Learning, pp. 143–151, 2003.

が，今後この相互適応の促進の研究が重要である．

4[7] P. Maes. Agents that reduce work and information overload. Communications of the ACM,
Vol. 37, No. 7, pp. 30–40, July 1994.

まとめ
人間とエージェント間のインタラクション HAI の重要性とそのインタラクション設計の目的，方法論につ[8] T. Mitchell. Machine Learning. McGraw-Hill,
1997.

いて議論した．特に，HAI では，人間はエージェント
に対して適応し，エージェントも人間に対して適応することでユーザ適応を行うというように， “適応” を[9] MS
agent
Web
http://msdn.microsoft.com/msagent/.

中心にインタラクション設計を眺めることが重要であり，その場合，人間からエージェント，エージェント

site.

[10] T. Ono and M. Imai. Reading a robot’s mind: Aから人間への適応，そして相互適応の３つの軸についmodel of utterance understanding based on thetheory of mind mechanism. In Proceedings ofて，方法論，従来研究の紹介，今後進むべき方向性について考察した．

the Seventeenth National Conference on Artificial Intelligence, pp. 142–148, 2000.

謝辞[11] T. Onoda and S. Yamada. Relevance feedback

究グループ I∆EA （イデア）のメンバーとの有益な議with active learning for document retrieval. In
Proceedings of International Joint Conference on

論が基になっています．記して，I∆EA のメンバーにNeural Networks, pp. 1757–1762, 2003.

本解説は，「適応のためのインタラクション設計」研感謝致します．

[12] Roomba Web site. http://www.irobot.com/.
[13] 田村博（編）. ヒューマンインタフェース. オー

参考文献

ム社, 1998.

[14] M. Tan. Cost-sensitive learning of classification[1] AIBO Official Site.
http://www.jp.aibo.com/.

knowledge and its applications in robotics. Machine Learning, Vol. 13, pp. 7–33, 1993.

[2] T. Bickmore and J. Cassell. Relational agents:
A model and implementation of building user
trust. In Proc. of Conference on Human Factors[15] S. Tong and D. Koller. Support vector machine
active learning with applications to text classification. In Journal of Machine Learning Re-

in Computing Systems (CHI2001), pp. 396–403,
2001.

search, Vol. 2, pp. 45–66, 2001.

[3] J. Cassell. Embodied conversational agents:
Representation and intelligence in user interface.
AI Magazine, Vol. 22, No. 4, pp. 67–83, 2001.

[16] 山田誠二, 山口智浩. 人間と擬人化エージェントによるマインドマッピングの相互適応. 日本知能情[4] D. A. Cohn, Z. Ghahramani, and M. I. Jordan.
Active learning with statistical models. Journal[17] S. Yamada and T. Yamaguchi. Training aibo like

報ファジィ学会誌, Vol. 17, No. 3, pp.??–??, 2005.

a dog. In The 13th IEEE International Workshop
on Robot-Human Interaction, pp. 431–436, 2004.

of Artificial Intelligence Research, Vol. 4, , 1996.

9

連絡先

[18] 角所考, 李立群, 伊藤淳子, 美濃導彦. エージェント
媒介型表情コミュニケーションにおける利用者の主観に基づく表情マッピングの獲得. 日本知能情山田誠二

報ファジィ学会誌, Vol. 17, No. 3, pp.??–??, 2005.

国立情報学研究所 知能システム研究系〒 101-8430 東京都千代田区一ツ橋 2-1-2[19] 荒井幸代, 宮崎和光, 小林重信. マルチエージェント
強化学習の方法論 – Q-learning と Profit Sharing

Tel&Fax: 03(4212)2562
E-mail: seiji@nii.ac.jp

による接近 –. 人工知能学会誌, Vol. 13, No. 5, pp.

609–618, 1998.
[20] 山田誠二, 角所考. 適応としての HAI. 人工知能
学会誌, Vol. 17, No. 6, 2002.
[21] 山田誠二, 角所考, 新田克己. 特集：HAI ヒューマ
ンエージェントインタラクション. 人工知能学会
誌, Vol. 17, No. 6, 2002.

筆者紹介
山田 誠二

1984 年大阪大学基礎工学部卒業．1989 年同大学院博士課程修了．同年大阪大学基礎工学部助手．1991 年同大学産業科学研究所講師．1996 年東京工業大学大学院
総合理工学研究科助教授．2002 年国立情報学研究所教授，現在にいたる．工学博士．人工知能，特に，ヒューマンエージェントインタラクション，知的 Web に興味
をもつ．
角所 考

1988 年名古屋大学工学部電気学科卒業．1993 年大阪大学大学院工学研究科通信工学専攻博士課程修了．
1992〜94 年日本学術振興会特別研究員，1993〜94 年
スタンフォード大学客員研究員，1994 年大阪大学産業科学研究所助手，1997 年京都大学総合情報メディアセンター（現 学術情報メディアセンター）助教授．博士（工学）．視覚情報メディア，コミュニケーションに関する研究に従事．

10