７－４

ヒューマンマシンインタフェースのデザインで配慮すべきこと

自動化が進んだシステムでは、機械が何をしようとしているのか、なぜそれをしようとしているのかを人が理解できなかったり、機械の能力に限界があることを認識しないまま機械に任せきりにしたリしていると、事故につながることがあります。
このような問題を解消するには、機械の意図や「ものの見方・考え方」を容易に理解でき、機械の能力を適正に把握できるような工夫がなされている必要があります。すなわち、「人が機械を知る」ための手だてが講じられているか否かが問われます。そのためには、ヒューマンマシンインタフェース（HMI）の設計に、いくつかの配慮が必要になります。
（1）人と機械の状況認識共有を助ける情報を提示する
眼の前に起こっている状況を機械はどのように解釈しているのかを表す情報が提示されていると、人は機械がこれから何をしようとするかを予測することができるようになり、オートメーションサプライズが起こりにくくなります。
【例１】

アダプティブクルーズコントロール（ACC）を使って走行しているうちに、レーン前方を走る先行車に追いついたとしましょう。ACC が先行車を認識した
とき、ディスプレイには「先行車マーク」が表示され、先行車の車速にあわせて自車の速度が調整されます。さて、この状態でしばらく走行を続けるうちに道路の合流地点に到達し、前方に複数の車が交錯する状況になったとしましょう（図１）。このとき「先行車マーク」を表示するだけの車では、 ACC がどの車を先行車として認識しているのかがドライバーには明確にわからないことがあります。もし、どの車を先行車として認識しているかがわかるような表示がなされていれば、たとえ先行車の切替えが起こったとしても、ドライバーはそれを正しく知ることができますし、その後の ACC の挙動を予測することができるはずです。

Copyright © 2018 稲垣敏之 All Rights Reserved.

図１ 人と機械で見ているものが違うと・・・（2）機械の能力限界を知る手がかり情報を提示する
機械にできることとできないことを人に正確に伝えることができれば、機械の能力の過大評価（過信）や機械への過度の依存を未然に防止することができます。
「信頼が裏切られた」という経験もなくなるため、過信が不信に変わることも抑制できるでしょう。
【例２】

ACC を用いて C 車を追従中、隣の車線を走っていた D 車が C 車のすぐ後ろに入り込もうとしているとしましょう（図２）。取扱説明書をよく読んでいるドライバーであれば、自車のどこにセンサがあり、センサの検知範囲はどれくらいかを熟知しており、ACC には D 車が見えているか否かを理解できるかもしれませんが、そうではないドライバーも少なくないのが現状ですし、すべてのドライバーに「取扱説明書を精読せよ」といったところで大きな効果は期待できないでしょう。もし、ディスプレイにセンサの検知範囲を表示できるようになっていたとしたら、技術に関心のないドライバーにも、ACC に D 車が見えているか否かはすぐにわかるはずです。

図２ 機械の能力限界がわからないと・・・

Copyright © 2018 稲垣

敏之 All Rights Reserved.

（3）機械の判断の根拠がわかる情報を提示する
機械が警報を発して人に何らかの対処を求めようとしても、その警報に納得できなければ、人は行動を起こさないものです。警報に従う必要であることを人に納得させるには、「警報を出そう」と機械が判断した根拠が人にわかるようになっている必要があります。
【例３】

近年の航空機に搭載されている機能強化型対地接近警報装置（EGPWS）は、現在のままの針路で飛行を続けると高い山などの急峻な地形に衝突する恐れが生じるときに「プルアップ」警報を発してパイロットにただちに上昇することを求めます。そのとき、衝突が予想される地形がどれくらいの高さのもので、どこに位置するかをディスプレイに表示するため、パイロットは警報を疑いようがありません。

図３ 機械の判断の根拠が示されていると・・・
これに対して、古典的な GPWS は航空機の高度の変化率から急峻な地形への接近の有無を判断しようとするものでした。そのため、航空機の直下の地形が複雑であったりすると降下率が高くなっているように判定され、必要のないところでプルアップ警報が発せられることがあったのです。さらに、警報は音声で発出されるだけで、その根拠となる情報はまったく提示されませんでした。
そのため、正しい警報が出た場合でも「誤報ではないのか？」として無視され、そのまま地表面へ激突する事故が何度も起こっていました。機体にはまったく異常がない航空機が起こすこのような事故は CFIT（controlled flight intoterrain、直訳すれば、「地表面へ向けて制御された飛行」）と呼ばれていますが、何とも言いようのない虚しさを感じさせる名前です。CFIT は、パイロットです
ら事故が間近に迫っていることに気づいていないケースが多いのです。そのため、多くの死傷者が出るのがふつうです。実際、乗員・乗客全員死亡ということも少なくありません。

Copyright © 2018 稲垣

敏之 All Rights Reserved.

（4）機械の意図を理解する手がかりとなる情報を提示する
高い知能をもつ機械は、状況を解釈して何をなすべきかを決め、それを実行に移す能力をもっています。機械が何をしようとしているのかが人に理解できない状況がオートメーションサプライズです。それを避けるには、機械の意図を理解するうえで手がかりとなる情報の提示が必要になります。
【例４】

ボーイング 747-400、777、787 などでは、コンピュータによる自動操縦の際、操縦輪とスラストレバー（図４）があたかも透明人間が操作しているように動きます。それらの動きをみる、あるいは直接見なくても手を添えているだけで、パイロットはコンピュータの意図を理解することができる。しかし、エアバス A320、A340、A350 などでは、コンピュータが自動操縦を行っているとき、操縦輪の役割をはたすサイドスティック（図５）は中立位置に固定されたままであり、スラストレバーも動かないようになっています。ボーイン
グ機とはまったく異なる設計思想にもとづくものであるため、このことだけで優劣を論じることはできませんが、コンピュータが何をしようとしているのかわかりにくいという指摘があることは事実です。

図４ ボーイング 747-400 のスラスト

図５エアバス A320 のサイドスティッ

クとレバーと操縦輪 （写真提供：全日空）

スラストレバー （写真提供：全日空）

Copyright © 2018 稲垣

敏之 All Rights Reserved.

（5）機械の状態をわかりやすく伝える情報を提示する
機械は正常に作動できる状態にあると思っていても、実はそうでないことがあります。つ
ねに何かを制御している機械であれば、それが動作しているか否かは「制御の結果」を見ていれば簡単にわかるのでしょうが、「いざというときにだけ動作する」といった機械であれば、そうはいきません。必要なときに間違いなく動作できる状態にあるか否かを、何らかの情報提示によって人にわかるようにしておく必要があります。
【例５】

見通しの悪い交差点において交差する道路上に接近車両があるとき、道路インフラに設置されたセンサとの通信によってその情報を獲得し、「右から車が来ます」といった音声を発してドライバーに知らせてくれる支援システムがあります（図６）。安全確認をしようとしても建物が視界を遮るなどしていて自分の眼で接近車両を視認することができないとき、このような支援システムの存在はありがたいものです。さて、見通しの悪い交差点にさしかかったとき、この支援システムが何のメッセージも発しなかったとしましょう。これを「交差する道路上に接近車両はまったくない」と解釈してよいでしょうか。答えは否です。
たとえば、支援システムが故障している、あるいは道路インフラのセンサがサービス機能を停止しているなどの場合であれば、「交差する道路上を接近してくる車両がある」場合でも支援システムは何の注意喚起メッセージも発しません。
このことは、支援システムが故障しているのか、支援システムは故障していな
いが道路インフラのセンサがサービス機能を停止しているのか、などを明確にドライバーに認識させる情報提示が重要であることを示しています。
図６ 機械が何も言わなかったら、「車は来ない」と考えてよい？

Copyright © 2018 稲垣

敏之 All Rights Reserved.