TRANSLOG 2007 特別講演
2007 年 12 月 14 日

人が機械を知り，機械が人を知る
筑波大学大学院システム情報工学研究科
稲垣

１. 人と高度技術システムのミスマッチ
近年の機械は，状況をセンシングし，データが示す意
味を解析し，何をなすべきかを決め，それを実行に移す能力を備えている．
航空機を例にとってみよう．航空機に搭載された知能
機械は当初は簡単な姿勢制御のみを行うものであったが，やがて地上の無線標識施設からの信号を取り込んで精密な操縦を行うことができるようになった．今では，制御能力にとどまらず，機体重量や気象条件などの情報をもとに最適速度・高度を計算して飛行全体を計画する能力も備えている．離陸時こそパイロットが操縦するものの，滑走路を離れて間もない頃から所定高度へ向けての上昇，大海原を越える長時間の巡航，目的地到着へ向けての降下開始，一定角度を保ちながらのファイナルアプローチ，そして巧妙なフレアを行っての柔らかなタッチダウンに至るまでのすべての過程を担当することもできる．
このような知能機械がさまざまな交通移動体の安全性，効率性，快適性の向上に寄与していることは疑いがない．
しかし一方で，これらの機械を特徴付ける高度な知能と自律性が，人と機械の意図の対立，機械への不信と過信，オートメーション・サプライズ（「なぜ，機械は今このようなことをするのか」と人を驚かせる現象）などの原因となっていることも，また事実である 1)．そしてこれらの人と高度技術システムの間のミスマッチは，旧世代の交通移動体には見られなかったような事故につながることがある．

２．
「人間中心の自動化」とその対象依存性人と高度技術システムとの間のミスマッチを回避する手がかりのひとつとして考えられてきたものが「人間中心の自動化」である．
「自動化できるところはすべて自動化」，あるいは「自動化するか否かはコスト最小化の観点で決定」という技術主導的なアプローチへの反省から生まれた「人間中心の自動化」の考え方は，早くから自動化システムが多用されてきた航空分野で議論され，表１のように纏められている 2)．
ただし，「人間中心の自動化」は，まだ十分に精密化されたレベルには到達していない．例えば，表１は，「人に指揮権がなければならない」としているが，「いついかな敏之る場合でもそうあるべき」なのか，「ある一定の条件が満たされる場合はその限りではない」のか明確ではない．
また，「自動化システムはオペレータ（人）をモニタできるようになっていなければならない」との主張も，人の行為に不都合が検出されたとき，「警告を発して人に注意を促すにとどめるべき」なのか，「必要に応じて自動的に介入し，人の行為の不都合を是正する措置を講じることを許す」のかは，明らかにしていない．
表１ 航空における「人間中心の自動化」2)---------------------------------------------------------------------------人は，航空システムの安全のため，最終の責任を負う．
それゆえ，• 人に指揮権がなければならない．
• 指揮を効果的に行うために，人は直接的に関与できなければならない．
• 人が直接関与するには，人に情報が提供されねばならない．
• 機能を自動化してよいのは，適切な理由がある場合に限る．
• 人は自動化システムをモニタできるようになっていなければならない．
• それゆえ，自動化システムは予測可能でなければならない．
• 自動化システムはオペレータ（人）をモニタできるようになっていなければならない．
• システムを構成する各要素は，他の要素の意図に関する知識を持っていなければならない．
• 自動化は，簡単に学べ，簡単に使えるようにデザインされていなければならない．
-----------------------------------------------------------------------------このように，表１の「人間中心の自動化」には不明確な点が多々あるが，解釈次第では，表１の言明間に不整合が生じるだけでなく，人間機械系の設計が大きく異なり，結果的にシステムの安全性も異なることもあり得る．
ところで，「人間中心の自動化」は，対象とする交通移動体に依存する面があり，決して一律のものではない．
例えば，自動車のための「人間中心の自動化」は，航空機のための「人間中心の自動化」と大きく異なっていてよいのだが，そのことは意外に認識されていない 3)．
「人間中心の自動化」の対象依存性を生み出す要因にはいくつかがあるが，もっとも明解なものとして「時間余裕」と「運転者の質」がある．

「時間余裕」とは，緊急時において人が認知・判断・操作に使用できる時間を指す．例えば，他機との衝突を避けるには上昇すべきか降下すべきかを航空機衝突防止装置がパイロットに提示するのは，脅威機への最接近予想時刻の 15～35 秒前であり，それから 5 秒以内にパイロットが操作を開始すれば，衝突を回避することができる．
しかし自動車の場合，先行車への衝突警報が発せられてから衝突回避操作を始めるまでに許される時間は 1～2秒である．人が「1～2 秒以内にできること」と，「5 秒以内にできること」には，量的にはもとより，質的にも大きな相違がある．
さらに，その相違を拡大する働きをするものが「運転者の質」である．定期的に一定の教育・訓練が課される
航空機のパイロットと，いったん免許を取得すれば，よほどのことがない限り教育・訓練を課されることがない
一般乗用車のドライバーの間では，とっさの判断や操作技量，自動化システムに対する理解度等，さまざまな点で大きく異なるのがふつうである．自動車にも高度な機能を提供する自動化システムが次々と搭載されはじめた
昨今，ドライバーとシステムとのインタラクションやインタフェースの設計に十分配慮しなければ，人と機械の意図の対立，機械への不信と過信，オートメーション・サプライズといった問題は，航空機のそれとは比較にならないものとなる可能性がある．

３． 人が機械の考えていることを知る
人を支援するための知能機械が，その能力以上に信頼されても，能力を不当に低く評価されても，「人と高度技術システムとの間のミスマッチ」から逃れることはできない．システム導入の企図を達成するための最小限の要請として，知能機械の「ものの見方・考え方」を人に分かりやすく伝える必要がある．そのためには，ヒューマン・インタフェース設計において，下記の配慮（１）～（４）が必要となる．それらは，「状況が認識できれば，必要な行為の選択は容易い」とする Naturalistic Decision
Making (NDM) 4)の立場からも，さらに「人間中心の自動化」の立場からも重要な要請である．
（１）機械の判断の根拠が分かる情報を提示する．
（例） 機能強化型対地接近警報装置（EnhancedGPWS または EGPWS）では，潜在危険をもたらす地形がディスプレイ表示されるため，人は機械が各時刻で状況をどのように認識しているかを知ることができる．したがって，危険状況で発出されたPull up 警報に対して，「誤報だろう」などと不適切に疑うような誤りは起こりにくい．実際，EGPWSを搭載した航空機による CFIT (controlled flight intoterrain）事例はまだ報告されていない）．
（２）機械の意図を理解する手がかり情報を提示する．
（例） コンピュータによる自動操縦の際，操縦輪とスラストレバーがあたかも透明人間が操作しているように動けば，人はコンピュータの操作とその背後の意図を理解しやすくなる．ある種の航空機では，自動操縦時にこのような視覚的・触覚的フィードバックは与えられないが，それは設計思想によるものとされる．ただし，異論がないわけではない．
（３）人と機械の状況認識共有を助ける情報を提示する．
（例） Adaptive Cruise Control （ACC）を用いて先行車を追従中，その先行車のすぐ後ろに，隣の車線からやや速度の遅い車がはみ出してきたとしよう．私の車を制御しているコンピュータは，果たしてその車を認識してくれているだろうか．また，前方に複数の車が交錯した状況では，コンピュータがどの車を先行車として認識しているのだろうか．これらのことを直感的に表示するしくみがあったなら，走行安全に重要な役割を果たすことになろう．
（４）機械の能力限界を知る手がかり情報を提示する．
（例） 上の ACC の例において，センサで先行車を検出できる範囲をドライバーに理解させる（あるいは提示する）という方式もあり得る．その範囲の外にいる車は，たとえドライバーの目に見えている車であっても，ACC には対応できないものである
ことがドライバーにわかるからである．これは，ACC の能力の過大評価（過信）や ACC に対する過度の依存を未然に防止するうえで重要である．

４．機械が人を知ることも必要
人が機械を正確に知ることだけでなく，機械が人を知ることも重要であり，有用である．このことを自動車とドライバーの関係を例にとって考察してみよう．
自動車運転行動は，動的に変化する交通環境の中での認知，判断，操作の繰り返しであるが，最も基本となるのが認知である．すなわち，認知が正しくなければ，それに引き続く判断や操作は正しくありようがない．認知の対象は，「走行環境」（道路形状，路面状態，車の混み具合，自車に影響を及ぼし得る車両の動静，歩行者の存在など），「自車」（ハードウェアや運転支援システムの動作状況），「ドライバー自身」（運転中の自らの心身状態）など多岐にわたる（図１）．しかし，これらすべてに同時に注意を向けることは困難であり，しかも人の注意には持続性がない．人の特性として，認知が不得手あるいは不可能なものもある．状況の認知に誤りや欠損が混入す
ると，状況とドライバーの意図や行動の間に不整合が生じて潜在的危険性が高まり，事故に至る可能性が生じる．
安全不注意，動静不注意，わき見運転，漫然運転などは，そのような潜在的危険状態の例である．

「正常からの逸脱」（潜在的危険状態）を早期に検出し，ドライバーに安全な運転行動への復帰を促すことによって事故を抜本的に低減することができる「予防安全型」の運転支援技術を開発しようとするものが，科学技術振興調整費による重要課題解決型研究「状況・意図理解によるリスクの発見と回避」プロジェクト（研究代表者：
稲垣敏之，平成 16 年 7 月～19 年 3 月）であった．

６． 多層構造による運転支援

図１ リスク環境下での認知・判断・操作

５． 行動から意図や認知の適否を知るもし，ドライバーが潜在的危険状態に陥っていることを自動車に搭載された知能機械が検出できるとするならどうだろう．事故が差し迫っているというほどではない「安全」なうちに潜在危険を探し出し，ドライバーにさりげなく注意喚起をすることもできるはずである．
認知が基本であるからとはいって，ドライバーの心の中を見ることはできないが，ドライバーの挙動（特定の動作，あるいはそれに至るまでの動作の系列）や外部交通環境などを観測することによって，そのドライバーの意図を推測したり，その背後にあるドライバーの「状況認識」の適否を推測することも不可能ではない（図２）．

上記プロジェクトで開発した予防安全型運転支援シス
テムは多層構造を持つ．
第一層は，人には見えない，あるいは見えにくいものを可視化して「状況認識を強化・補完」する情報提示であり，平時の支援である．これは，第３節で述べた考え方，すなわち，「状況が認識できれば，必要な行為の選択は容易い」ことに基盤を置くものである．
第二層では，外界とドライバーの行動をセンシングしてドライバーの心的状態（警戒心欠如，考えごと，漫然，意識のわき見に陥っていないか，等）や身体的状態を推定するとともに，ドライバーの意図を推測する．そして，状況とドライバーの意図・行動の間に不整合がある場合には，適切なタイミングでドライバーにフィードバック情報（注意喚起）を与え，正常（あるいは通常）状態への復帰を促す．これは，危険は顕在化していないものの，顕在化する可能性がある場合の支援である．
第三層は，緊急時に備えたドライバー支援である．すなわち，第二層でのフィードバック情報にも関わらず正常への復帰が見られない場合や正常への復帰を待つだけの時間余裕がない場合，あるいは警報を発してもドライバーの対応を期待できるとは思えない場合には，人と機械の間で「状況適応的機能配分」５)を行い，機械の判断での安全制御も可能にするのが第三層である．

７．何ができるようになったのか

状況

意図形成

ドラ イ バ ー

認知

判断

操作

「認 知 」の 推 測

観測「意 図 」の 推 測状況の中での意図の適正さを評価→ 「正 常 」か ら の 逸 脱 を 検 出

図２ 状況の中での意図と認知の推測

筆者のグループでは，第二層と第三層に属するいくつかの新技術を開発した．
運転中の「意識のわき見」やそれに伴う心的負担上昇を脈波や顔表面温度などから実時間で推定する手法 6) 7)，
後部座席からものを取る動作や床に落ちたものを拾おうとする動作など，その時点での「運転に必須でない動作」を運転席シート座面あるいは背面の圧力分布から検出する手法 8)などが第二層に属する技術の例である．
さらに，座面の圧力分布からは，交通状況の変化によっては直ちにブレーキを踏める態勢を取っているか等，ドライバーの警戒心の程度を推測することも可能である．

また，ドライバーの視線の動きから「車線変更の意図」を検出する技術 9)も開発した．従来の手法は，車線変更が始まって３秒程度経ってようやく「車線変更」を検知できたが，筆者のグループによる手法は事前予測，すな
わち車線変更開始の２秒前には「ドライバーが車線変更の意図を持っている」ことの検知が可能である．
第三層で開発した技術には，例えばつぎのようなものがある．追越車線後方から車両が接近しているにもかかわらず，ドライバーが車線を変更しようとしているとき
は，ステアリングをやや重くして「車線変更が危険である」ことを知らせるとともに衝突リスクの低減を図ることができるソフトプロテクション・システム 10)を実現した． また，ドライバーが車線変更のタイミングを計ることに気を取られて前方への注意がおろそかになっているなかで先行車が急減速をしたとき，「ブレーキ操作を促す警報を発してもドライバーが迅速に対応できる可能性は小さい」と機械が判断すると，緊急制動をかけて先行車への衝突を回避する技術も開発した．

８．さらに精密な議論へ向けて
人と機械が共存するシステムが目指すものは，人と機械がたがいの能力の特性と限界を認識した上で，欠点を補い合いながら，総合的にはいずれの能力をも伸展しての「自然なチームワーク」の実現である．本稿では，その目標を達成するうえで，人が「機械のものの見方・考え方を自然に感じ取る」ことができる工夫の重要性と，機械も「人のものの見方・考え方を感じ取る」能力を備えていることの有用性を概観してきた．
人は「ものの見方・考え方」が必ずしも一様ではないことから，必然的に「個人適合型の技術を追求すべき」とする立場が生まれる．また，同一人であっても，その日の体調や，短期・中期・長期的な時間の経過のなかで人の特性は大きく変動することも考慮に入れる必要がある．すなわち，機械が人に提供する支援は「つねに一定の形態を持ったもの」ではなく，「時と場合によって形態が変わるものであるべき」との考え方が成り立つ．
個人の特性やその人の置かれた状況に応じて支援形態を変えるうえで解決しなければならない問題がある．そのひとつが，権限（authority）に関する問題である．
「支援形態を変更する必要があるか．変更するなら，いつ，どのタイプの支援に切り替えるのか」を決めるのは，つねに人間自身（human-initiated）であるべきか，あるいは機械（system-initiated）であってもよいのかを明らかにする必要がある．これは，人と機械の間で役割分担を動的に変えるアダプティブ・オートメーションにおける論点のひとつであり，「人間中心の自動化」の捉え方の根幹にも関わる問題である 3) 5)．

さらに，安全を重視しての人と機械の協調を考えるとき，「人が対応できないときは，自らの判断で何をなすべきかを決めて実行する権限を機械に与える」ことと，「人が行おうとしていることが適切ではないと判断したとき，人の行為を妨げる権限を機械に与える」ことの区別も，議論の精密化には重要である．前者は許容できても，後者は許容すべきでないと考える人も少なくない．しかし
人のエラーを防ぐための「プロテクション機能」は後者に属するものである．
また，航空分野では，「たいていの場合，人は機械よりも自らを取り巻く環境の状況を理解するための知識が豊富である」といわれるが，この命題が一般乗用車のドライバーについても成り立つとは限らない．
このように，「人が機械の何をどのように知る必要があるのか」，「機械は人の何をどのように知り，その結果に基づいて何を行う必要があるのか」は，対象とする交通移動体によって，また想定する場面によって異なる．人と機械の協調をさらに賢明かつ合理的なものに伸展させるためにも，より精密な議論を始める必要があろう．

参考文献
1) 稲垣: ヒューマン・マシン・システム- 高信頼性が損う安全性. システム／制御／情報, 41(10), 403-409, 1997.
2) Billings, C. E.: Aviation Automation – The Search for a
Human-Centered Approach. LEA, 1997.
3) Inagaki, T.: Design of human-machine interactions in light ofdomain-dependence of human-centered automation; Cognition
Techology & Work, 8(3), 161-167, 2006.
4) Klein, G..: A recognition-primed decision model of rapid
decision making. In G. Klein, et al (Eds.), Decision Making inAction: Models and Methods (pp. 138-147). Ablex, 1993.
5) Inagaki, T.: Adaptive automation: Sharing and trading ofcontrol. Handbook of Cognitive Task Design, Chapter 8 (pp.
147-169). LEA, 2003.
6) Itoh, M.: Proactive detection of driver’s potentially risky
behavior via sensor fusion approach. Proc. FISITA, 7 pages inCD-ROM, 2007.
7) Itoh, M. & Inagaki, T.: Detection of cognitive distraction via
a driver-adaptive sensor fusion. Proc. IFAC Human-Machine
Systems 6 pages in CD-ROM, 2007.
8) 伊藤他：着座接触圧にもとづくドライバーの動作推定，
自動車技術会秋季大会，2007．
9) Zhou, H., et al.: Detection of driver intention of a lane change
through monitoring eye and head movements. Proc. SICE
Symposium Systems and Information, 231-236, 2006.
10) Inagaki, T. et al.: Driver support functions underresource-limited situations, Proc. HFES 51st Annual Meeting,176-180, 2007.