信頼・不信・過信：（Ⅱ）不信

７－２

機械への不信（distrust）とは、「この機械は信頼できない」との主観的な判断（評価）をいいます。主観的であるがゆえに、「この機械は信頼できない」という判断には、正しい場合（信頼に値しないものであることを正しく見抜くことができる場合）と誤っている場合（信頼してよいものであることが認識できず、過小評価に陥っている場合）があります。
すでに「信頼・不信・過信：（Ⅰ）信頼」の項で述べたように、人が機械を信頼できるのは、（1）基盤的要件、（2）機能の安定性に関する要件、（3）機能の実現方法に関する要件、（4）機能の目的に関する要件のすべてが満足されるときです。したがって、（1）−（4）のうちのいずれか一つが満たされないだけで、人は「この機械は信頼できない」と感じることになります。
信頼の場合と同様に、「人が機械に対して不信を覚える」ことと「人が人に対して不信を覚える」ことの本質は同じです。まず、「人が人に対して不信を覚える」場合を（1）−（4）と対比させてみてみましょう。
【例１】（基盤的要件）

自らの保身や利益追求を第一義的に考えて他人に無理難題を押しつける人や、作業環境が苛酷かつ不安全なものであることを知りながらも、「他人が怪我をしようが病気になろうが、そんなことは私の知ったことではない。代わりはいくらでもいる」といわんばかりに安全確保のための十分な手だてを講じることもなく作業員をその環境に送り込む人は社会的に問題がある人です。そのような人に社会は不信を抱きます。それは、その人が信頼の基盤的要件を満たしていないからです。
【例２】（機能の安定性に関する要件）

昨日いっていたことと今日いっていることが違うというように発言が二転三転する人や、ある人にいっていることと別の人にいっていることが食い違っていたりする人、あるいは発言のなかにときどき嘘が混じっていたりする人は、人々から信頼されることはありません。それは、そのひとのことばに安定性（首尾一貫性）がないからです。
【例３】（機能の実現方法に関する要件）

大きな事故を起こしたばかりのシステムでまだ予断を許さない緊迫した状況が続いており、システムの破壊状況や復旧までの道筋について十分な調査や解析はできていないはずなのに、「事故は収束しました。もはやこのシステムは危険ではありません。安心してください」などと早々と安全宣言をしてしまう人は、「確たる証拠がないまま、最初に結論ありきの発言をする人」です。そのような人が社会の人々から信頼を得ることはありま

Copyright © 2018 稲垣

敏之 All Rights Reserved.

せん。そのような不信の原因は、結論に至るその人の思考過程（思考の実現方法）に正当性が見出せないからです。
【例４】（機能の目的に関する要件）

すでに大量の詳細な情報が入手できているはずなのに、「今、情報の収集に当たっております。わかり次第お知らせします」な
どといって情報を出し惜しみしたり、数ヶ月以上経ってからようやく公表したりするような人がいます。そのような人に対して、一般の人々は、「情報を操作して何かをしようとしているようだ」、「知られると都合が悪いことがあり、何とかしてそれを隠そうとしているのではないか」といった印象をもち、不信の眼を向けるでしょう。これは、その人の発言の背後にある意図や動機（発言の目的）が人々に納得できないからです。
上の各例からわかるように、信頼の四つの要件（1）−（4）のうちのどれが満たされないかによって、人に対する不信のタイプが異なります。
機械の場合も同様です。
「この機械は信頼できない」といっても、機械の能力が不十分であると感じられるのか、機械に作り込まれた「ものの見方・考え方およびそれに基づく機械の行動様式」あるいは背後にある設計思想（なぜ機械がそのように行動するよう作られているのか）に対して納得や共感を覚えなかったりするのか等、いくつかのタイプがあります。
要件（1）−（4）の各々について、それが満たされていないと感じる例を機械について見ていきましょう。
【例５】（基盤的要件）

自然界を支配する物理的法則に合致しない機械はあり得ませんが、「社会のルールを守らない」といった機械はあり得ます。自動走行が可能な車は知能を有するだけに、その知能が不十分であると信頼を失うことが起こり得ます。たとえば、高速道路を自動走行モードでドライブしているとき、前方に道路工事が行われている区間があり、臨時の速度規制が敷かれていることを示す表示があったとしましょう。自動走行システムに臨時の速度規制を認識する能力が欠けていたとすると、道路工事区間を速度超過で走行することになります。これは、工事担当者の生命の危険をもたらすものであり、社会的秩序を乱すものとして、社会から不信を買うことになるでしょう。
【例６】（機能の安定性に関する要件） 航空機には、地上に向けて発射した電波が戻ってくるまでの時間を測定して高度（電波高度という）を測定する機能が備わっています。古典的な対地接近警報装置 GPWS は、電波高度とその変化率にもとづいて、地表へ接近しているか否かを判定し、着陸体勢にないにもかかわらず地表へ過大に接近したときなどに警報を発して、パイロットに衝突回避操作を促す

Copyright © 2018 稲垣

敏之 All Rights Reserved.

ものです（図１）。
Terrain,Terrain

Whoop, Whoop,
Pull up!

電波高度の変化から危険性を推測

図１ 地表への接近が過大であるときに発せられる警報
ただし、上に述べたしくみから想像できるように、地表の形状によっては、GPWS（ground proximity warning system）の警報は誤報であることがあります。図２に示した例は、電波高度の変化率からは、地表からの高度が急激に減少していくようにみえるために警報（誤報）が出てしまうケースです。

Terrain,Terrain

Whoop, Whoop,
Pull up!

図２ GPWS の警報が誤報である例
誤報(false alarm)を何度か経験すると、GPWS に対する信頼は損なわれます。そして、失われた信頼はなかなか回復しません。実際、GPWS が警報を発しても、「なぜこんなところで警報が鳴るのだ？誤報ではないのか？」といった不信を抱いたパイロットが回避操作を行わなかったため、地表に激突した事例はいくつか知られています。この不信は、「GPWS は、人にとって望ましい機能（必要なときに警報を発して危険を知らせること）を終始一貫して安定的に発揮できるものであるとは思えない」という主観的な判断に基づくものです。
【例７】（機能の実現方法に関する要件）

高速道路や自動車専用道路を走行する際のドライバーの負担軽減を図るシステムのひとつに、車線を維持するための操舵を支援するレーンキープアシスト LKA（lane keeping assist）があります。
このシステムは、カメラで車線を検出し、車線に沿って走行するのに必要な操舵

Copyright © 2018 稲垣

敏之 All Rights Reserved.

力の一部を補う機能をもっています（図３）。LKA は大きく２つのタイプに大別できます。一つは、車線のほぼ中央を維持するのに必要な操舵力の一部をつねにステアリングに加えるものであり、もう一つは、自車が車線区分線（白線または黄線）に近づいたときにのみ、自車を車線中央付近へ戻すのに必要な操舵力の一部をステアリングに加えるものです。いずれの場合も、操舵の完全自動化を図るのではなく、ドライバーが行うべき操舵の一部を機械が肩代わりすることで、ドライバーの負担を軽減しようとするものです。直線路であっても道路が傾いているときは、低い方へ車がシフトしていきます。それを抑えるためには一定の力をステアリングにかけ続けなければなりません。そのような場面で LKA からの操舵支援を受けることができると、ドライバーは LKA の有用性を実感することになります。

図３ レーンキープアシストによる操舵支援
ただし、システムの機能がどのようなしくみで実現されているのかを理解していないと、システムに対して不信を抱いてしまう場合があるかもしれません。
あるとき、車線区分を示す白線に近づいた際に、LKA が車を車線中央方向へ戻そうとする操舵力をステアリングにかけるのを感じることができたとしましょう。しかし、それから先の走行の中で「似たような場面」に遭遇したときも、先刻と同じように LKA がステアリングを制御してくれるとは限りません。
「なぜ、LKA は車線中央方向へ車を戻そうとしないのだ？」と思ってしまうことがあったとしましょう。これは、機械（LKA）の「ものの見方・考え方」あるいはそれに基づく行動様式が理解できないことに起因する不信です。機械はものごとを定量的に理解しようとします。したがって、人の眼には「さきほどと同じような場面」に見えても、縦方向および横方向の車速、白線と車の位置関係などを定量的に把握している機械の眼からみれば「さきほどとはまったく違う場面」であることがあります。眼の前の場面に対する解釈が人と機械で異なれば、人が機械に期待する行動と実際に機械が示す行動が異なるのは当然です。

Copyright © 2018 稲垣

敏之 All Rights Reserved.

【例８】（機能の目的に関する要件）

レーンキープアシスト（LKA）は、あくまでもドライバーの操舵を手助けするものであり、自動操舵システムではありません。
すなわち、つねにドライバーが操舵していることを前提としており、手放し運転を許すものではないのです。そのため、LKA のなかには、ドライバーによる操舵をつねにモニターしており、「ドライバーは操舵を行っていない」と思われる状態が一定時間続くと車線維持支援機能を自動的に解除するものがあります（図４）。

図４ ドライバーの積極的関与が見られないときの支援解除
ただし、いかにドライバーの怠慢を防止するためとはいえ、ドライバーがまじめに操舵を行っていないと判断すると支援の提供をやめてしまうデザインについては、「なぜ、ドライバーの許可を得ることもなく、機械の判断だけで勝手に支援の提供をやめてしまうのか？そのようなデザインでなければならない理由が理解できない」と考えて不信を抱くドライバーがいても不思議ではありません。実際、このデザインは、人と機械の協調のあり方の視点からは慎重に検討されるべき問題を含んでいます。

Copyright © 2018 稲垣

敏之 All Rights Reserved.