自動車からの Human-Agent Interaction への期待
Expectations for Human-Agent Interaction in automotive area
金道敏樹 1
Toshiki Kindo1
11

トヨタ自動車株式会社 FP 部
Toyota Motor Cooperation Future Project Division

Abstract: Expectations for Human-Agent Interaction (HAI) in automotive area are presented. There are
two application fields of HAI in automotive area. One is convenience and another is safety. When weapply agent technologies to safety, we become aware overconfidence and dependence problems of agent
technologies. I suggest that the addition of meta-mechanism to HAI is a solution of the problems.

はじめに
エージェント技術に対する自動車分野からの期待を述べる。エージェント技術の運転支援への応用は、ナビによるレストランお勧め機能のような利便性に注目したものが実用化されて久しい。さらに昨今のクルマの知能化に伴って、エージェント技術の応用先は、利便性から安全領域へと可能性が広がりつつある。こうした流れにあって、人工知能学会の研究テーマの設定に役立つよう、利便性支援は時間的に大きな余裕があるが、安全性支援はあまり余裕がないことを指摘すると共に、実用上極めて重要であるにも関わらず、従来人工知能分野の学会ではあまり注意が払われていなかった依存性・過信の問題を紹介する。
図１：クルマに搭載されている機器のスイッチ操作と、ドライバーの行動とその影響時間
車内でのドライバーの行動について、縦軸に行動の型（運転行動とその他の行動）をとり、横軸に影響時間（その行動の影響が残る時間の長さ）の対数をとり、大まかに分類してみたのが、図１である。
ドライバーの適切な行動は、車の直接操作に対応する左下から、オーディオ操作等に対応する右上へ、概ね右上がりの直線に沿って分布する。概して、運転に必要な行動は時間的に短いものが多い。図１の左上にには、事故の原因としてしばしば取り上げられる行動（脇見、メール作成等）が分布する。
次に、同じ２軸を使って、車に搭載されている様々な機能をマップしたのが、図２である。略号は、それぞれプリクラッシュセーフティ（PCS）、アンチロックブレーキシステム（ABS）、レーン逸脱警報（LDW）、レーンキープアシスト(LKA) 、アダプテ

その影響時間を表す概念図。左下がいわゆる運転操作。

図２：実用化されている運転支援システムおよび車載機器と、そのサービス時間を表す概念図。左下が安全システムであり、右上が利便もしくは快適を目的とした機器。

ィブクルーズコントロール(ACC)、ナイトビュー(NV)である。AHL はヘッドランプの自動点灯である。
ドライバーの行動を描いた図１と、図２とを比較す
れば、どんな機能がどのようなドライバーの行動を支援するのかを大まかに捉えることができる。プリクラッシュセーフティからナビへと至る並びをみると、左下が安全性に関連し、右上が利便性に関連するものであることが分かる。もう少し踏み込むと、利便性の側面が強い右上の領域は自動車応用というより、むしろスマートフォンに代表されるモバイル機器応用と捉える方が適切であろう。
このようにドライバーの行動とその影響時間という視点から捉えると、自動車分野への応用には、時間的に余裕が大きい利便性に留まらず時間的な余裕が小さい安全性までをカバーする技術に取組むことが必要である。

安全と利便左下の技術群が安全に関わるものであり、右上のものが利便に関わるものであるが、前者の安全に関わる技術群は概念的にさらに二つに分けられる。衝突安全と予防安全である。もちろん、利便、予防安
全、衝突安全は概念であり、実用化されている個々の技術・機能がそのいずれかに排他的に分類されるような類いのものではない。
しかし、エージェント技術の自動車分野への応用を考える場合、その実用上の位置づけを判断する上で、３つを個別の概念として捉えておくことは重要である。以下、３つの概念につき、簡単に解説する。

衝突安全
衝突安全とは、事故が避けられない状況において、その事故の被害低減を狙うことを言う。衝突時に車体を変形させる事により乗員への衝撃を和らげることを狙ったクラッシャブルボディ等がこれに当たる。
エージェント技術とは関係が薄い。

予防安全
予防安全とは、事故そのものの回避を狙うことを言う。予防安全のための典型としては、夜間に歩行者をドライバーが見つけることを支援するナイトビ
ュー、事故が非常に迫ったときに自車を減速させることで被害低減を図るプリクラッシュセーフティ、富士重工業のアイサイト[1]を、上げることができる。

利便
利便とは、ドライバーのワークロードの低減を狙うことを言う。現実のドライバーのワークは、運転行動だけでなく、オーディオ操作等の非運転行動を含んでいる。
ここで指摘したいことは、予防安全と利便とは狙いが大きく異なるにもかかわらず、事故発生を前提にしない点で共通しているということである。このため、例えば、アダプティブクルーズコントロール
は、衝突防止支援システムと捉えて予防安全を狙ったものと分類もできるであろうし、同時にアクセルワークを低減する支援システムと捉えて利便を狙ったものと分類することもできるだろう。
このような二重性を一つのシステムが持ち得るということは、利便を狙ったシステムが予防安全の面でドライバーに影響を与えうることを意味する。そして、その影響は、予防安全上有益な場合、有害な場合のいずれもあるだろう。すなわち利便システムが安全上負の側面を持つ可能性を否定できない。
自動車分野において、安全が極めて重要な要素であることは言うまでもない。それ故、利便性の向上等を狙ってエージェント技術を自動車分野に応用する際には、安全への影響について十分な検討なしに、実用上の価値を判断することはできない。利便シス
テムの目的が、比較的影響時間の長い操作（例えば、車間維持）の支援であったとしても、安全の観点から影響時間の短い操作（追突回避ブレーキ）への影響を考慮する必要がある。

エージェントの導入と人の適応エージェントを人の行動の一部もしくはすべてを代行するものと捉えると、非運転行動の利便性向上が最も取組みが安全への影響が少ないであろう。例
えば、ラジオの選局という非運転行動を代行するエージェントがこれに当たる。技術的には、各局の放送内容とドライバーの選局行動（どのプログラムを好み、どのプログラムを嫌うか）からドライバーのパーソナルプロファイルを生成することも[2]、パーソナルプロファイルに基づいてラジオの選局を自動的に行うことも十分可能である。自動選局の結果が満足のゆくものであれば、ドライバーはラジオの選局という非運転行動をエージェントに依存するようになるであろうが、運転行動への悪影響はないと考えられる。運転行動の占める時間が増えると言う、むしろよい影響を期待できるかもしれない。
一方、運転行動の安全性向上への取り組みは違う様相を呈する。1980 年代にミュンヘンで行われた、アンチロックブレーキシステムの導入がドライバーの運転行動にどう影響を与えるかについての実験が有名である。芳賀の論文[3]とのその引用文献よれば、

その実験では、事故の低減を目的に導入されたアンチロックブレーキシステムがドライバーの運転を荒くし、結果として、期待された程の安全性向上が得られなかった。このように安全性を向上させる技術（以下、安全システムと言う）の導入においては、リスクをより大きくとるドライバーの負の適応により、その効果が低減することがある。
自動車分野における安全システムの開発は、このドライバーの負の適応との戦いといっても、あながち大げさではない。A という事故を低減する技術であっても、開発のいずれかの段階で B という事故が増える可能性が見出されたために、動作条件が狭められるといったことは少なくない。
Human-Agent Interaction の研究には、このドライバーの負の適応という実用上重要な問題の解決を期待したい。

エージェントと人の相互理解
ドライバーの負の適応には、過信と依存があると言われる[4]。過信とは、安全システムに対してその性能以上の期待をドライバーが抱くことであり、依存とは安全システムの機能についてドライバーが思考および行動の質を低下させることと言ってよいであろう。安全システムに依存してしまったドライバ
ーを Human-Agent Interaction で救うことは容易でないかもしれないが、ドライバーの過信を抑制する手段はあるのではないだろうか。
安全システムへのドライバーの過信は、ドライバーの誤解の一つである。
では、何故 Human-Agent Interaction において誤解が生じるか。検出率が１００％でない車両検出システムを例に考えると、システムが車両検出できた場合だけを人に伝えた場合、「検出率は○○％。未検出となるのは□□といった場合」とまで理解できるのは、システムの開発者当人くらいのものであろう。
多くの人は、高い精度で車両検出ができていれば「車両を確実に検出できる」と感じ、検出精度が低ければ「全然使えない」と感じるという両極端に分かれるのではないだろうか。
こうした誤解が生じる理由は多々あろうが、エージェントが発信する情報の信頼度を人に上手く伝える手段がないことが主因の一つではないだろうか。
エージェントが自らの発信する情報の信頼性を計算することは今日十分可能である。金道らはユーザ毎に適応する個人情報フィルタを用いて、ユーザの興味の強さと、その推定値の信頼性とを同時に求めることができることを示している[2]。さらに、高い信頼性でユーザの興味が推定できない場合があることも同時に指摘している。それは、一つの情報にユーザの興味に対する肯定的な断片情報と否定的な断片情報が混在する場合に起きる。歩行者認識技術―
自動車分野において重要な技術である―においても、上半身のみ見えているなどの場合に、同様のことはしばしば生じる。このような場合に、エージェントが 自らには判定不能ではあるが無視できないものとしてドライバーに情報を提供することができれば、支援の質を低下させることなくエージェントの限界をドライバーに伝えることができるのではないだろうか。そして、この信頼性の伝達が安全システムへのドライバーの過信を抑制する技術へとつながることを期待したい。
堅くまとめれば、Human-Agent Interaction だけでなく、Interaction の信頼性の伝達を含むメタ相互作用を組み込んで人とエージェントの関わりを定式化することで、人が過信しないエージェントを実現できるのではないだろうかということである。その延長に、私は人とエージェントとがお互いに理解するという夢を描きたい。
最後に、自動車分野の先進的なエージェント技術として自動運転技術に触れておきたい。米国防総省高等研究計画局（DARPA）主催のロボットカーレー
スをきっかけに自動車の自動運転技術の実用化研究が活発になっている。最も有名なものは、Google のものであろう。今や自動運転技術は一般公道を走行できるレベルになってきてはいるが、ドライバーの監視が不要と言えるレベルにはない。しかし、自動運転エージェントとドライバーとが相手の強みと弱みを相互に理解して適切に協調することができれば、世界から交通事故を相当減らす事ができることは間違いないだろう。人とエージェントとが相互理解する技術は、その基盤技術となる。

参考文献[１] 富 士 重 工 業 : 運 転 支 援 シ ス テ ム EyeSight,
http://www.subaru.jp/eyesight2012/[２] Kindo T., et. al. : Adaptive Information Filtering Systemthatorganizes

Proceedingsofpersonal
theprofiles

Fifteenthautomatically,

International

Joint

Conference on Artificial Intelligence (IJCAI-97), pp.
716-721,(1997).
[３] 芳賀繁 : リスク・マネジメントと事故防止，交通安
全教育（2012 年３月号）,pp 6-16 , (2012).
[４] 増田貴之,芳賀繁 : 運転行動モデルと事故防止，日本信頼性学会誌 Vol.31(3),pp.223-228,(2009).