９－１

自動化レベル

何をすべきかを決定し、それを実行するときの人と機械（コンピュータ）の協調形態を具体的に表現するうえで便利な概念が自動化レベル（levels of automation：LOA あるいはLoA と略記）があります。
「人が行う情報処理過程（知覚・状況理解・行為選択・行為実行）のうちの行為選択と行為実行を、機械がどこまで支援あるいは代行できるのか」という問題意識のもとで考案された概念であり、その歴史は 1970 年代にまで戻ります（Sheridan &Verplanck 1978）。当時は、アポロ計画における月着陸船の制御のあり方の検討などにも使われていました。それ以来、自動化レベルの概念は、航空、鉄道、自動車、原子力プラン
ト、各種産業プラントなどで、今も活用されています。
自動化レベルが最も低い形態は、人が機械の支援を受けることなくすべてを自分で行うものです。一方、最も高い形態は、すべてを機械が決定・実行し、人に関与する余地を与えないというものです。それら両極の間に考えられるさまざまな人と機械の協調の可能性を示したものが表１です。なお、10 段階の自動化レベルを考えるのが通例ですが、レベル 6と 7 の間に、理論と応用の双方の観点から重要なレベルが欠落していたことが著者らの研究（Inagaki et al. 1998）によってわかっています。表１では、それを自動化レベル 6.5として補っています。
表１ 自動化レベル

それでは、表１に示された自動化レベルを具体的に見てみましょう。まずは、「何をなすべきかを決め、それを実行する」ことについて、コンピュータの支援を受けることなく人がすべてを行う自動化レベル 1 から始めましょう。

Copyright © 2018 稲垣敏之 All Rights Reserved.

【例１】

暗い夜道を走行しているときの運転支援システムにひとつに、車載の暗視カメラでとらえた画像を運転席前方のディスプレイに表示してくれる「夜間前方歩行者注意喚起装置」があります。このシステムは、暗視画像の中に歩行者が映っていることを検知すると（知覚の支援）、歩行者に枠をつけてどこに歩行者がいるかを明確にドライバーに伝えてくれます（状況理解の支援）。しかし、「歩行者との衝突を避けるには何らかの操作が必要か」、「もし必要であるなら、どのような操作をいつ行うべきか」などは教えてくれません。したがって、すべてドライバーが決めて実行しなければならないことになります。このようなシステムの自動化レベルは 1 です。

つぎは、コンピュータが選択肢をすべて提示し、そのなかのひとつを人が選んで実行するという自動化レベル 2 の例です。

【例２】

航空機や原子力プラントに異常が発生したとき、その異常をもたらしている可能性がある故障箇所候補を（優先度や順位をつけずに）すべて一律に列挙する故障診断支援システムを考えてみましょう。このタイプの故障診断システムでは、パイロットや中央制御室のオペレータは、たとえばアルファベット順や五十音順に列挙された故障箇所候補をリストの先頭からひとつずつチェックしていくにしろ、自分の経験から「最もあやしいと思われる故障箇所候補」を選び、まずはそれからチェックしていくにしろ、探索順序は自分の判断で決めなけれ

Copyright © 2018 稲垣

敏之 All Rights Reserved.

ばなりません。このようなシステムの自動化レベルは 2 です。
もし、例 2 に示した故障診断システムが、すべての選択肢のうち「お勧めはどれか」を示してくれるようになると、自動化レベルは 3 になります。

【例３】

異常をもたらしている可能性がある故障箇所候補のすべてを列挙するだけでなく、それらの候補のうち、異常の原因として最も可能性が高いのはどれであるかを明示してくれる故障診断支援システムであれば、自動化レベルは 3 です。
このときパイロットや中央制御室のオペレータは、「故障している可能性が最も高い箇所」として支援システムが提示しているところから調べていってもよいですが、「支援システムが提示しているものとは違う、別の故障箇所候補のほうがあやしいのではないか」という気がするのなら、そちらのほうを優先させてチェックしてもかまいません。支援システムが提供してくれる助言はあくまで参考情報ですので、最終的には自分の判断を優先させてよいのです。

自動化レベル 4 の典型は、「危険が発生しました。ただちに対応処置をとってください」というメッセージを表示や音で伝える警報システムです。

Copyright © 2018 稲垣敏之 All Rights Reserved.

【例４】航空機衝突防止装置 TCAS（traffic alert and collision avoidance system）
は、このままの針路を保つと前方からの航空機に衝突するおそれがあると予測したとき、「上昇せよ」または「降下せよ」のいずれか一方を回避アドバイザリRA（resolution advisory）としてパイロットに提示します。ただし、TCASの指示に従うかどうかはパイロットの判断に委ねられています。もちろん、基本的には TCAS の回避アドバイザリは尊重することになっているのですが、「すでに低空を飛行しているのに、さらに降下するのは危い」というように「この場面での TCAS の指示は明らかにおかしい」とパイロットが判断したときは、回避アドバイザリに従わなくてもよいとされています。

現在の TCAS には、上昇あるいは降下の回避操作を自身で実行するための機能は備わっていません。そのため、回避操作の実行はパイロットに委ねられているのですが、パイロッ
トにとっては、いくつかのステップにわたる手順を適時かつ的確に行うことは大きな負担になっているといわれています。そのことから、やがてつぎの例に示すような自動化レベル
5 の TCAS が標準的になるかもしれません。

【例５】

TCAS が回避アドバイザリを提示したとき、「アドバイザリに従うのが適切だ」と判断したパイロットがボタンを押すと TCAS が回避操作を実行するという形態が実現できたとしましょう。そのような近未来型の TCAS の自動化レベ
ルは 5 です。

さて、自動化レベル１から自動化レベル５までは、コンピュータが何らかの操作を実行するのは、人がその操作の実行を明確に指示した場合に限られています。つまり、人から頼まれもしないことをコンピュータが自分の判断で実行するなどということはあり得ません。
しかし、自動化のレベルが 6 あるいはそれ以上になると、様相は一変します。すなわち、コンピュータは、「人から頼まれていないことであっても、コンピュータが必要と判断した

Copyright © 2018 稲垣

敏之 All Rights Reserved.

ことは、人の許可を求めることもなく、自らの権限で実行できる」ようになります。
自動化レベル 6 では、コンピュータが提示した案に対して、人が（5 秒や 10 秒等の）一定時間内に「その案の実行は認めない」との拒否権（veto）を発動しない限り、コンピュータは自らが提示した案を実行に移します。

【例６】

エアバス機としては最新型の A350 では、客室内で急減圧が起こったとき、コンピュータは警報をプライマリーフライトディスプレイに表示してパイロットに知らせると同時に、緊急降下開始のためのカウントダウンを始めます。そして、カウントダウンが「10、9、8、・・・」と進行していく間にパイロットが警報を解除する、あるいはパイロットが手動操縦に切替えない限り、カウント0 になった時点で、コンピュータは、直下のコースを飛行している他の航空機に接近することがないように自機の針路を所定のコースから水平方向にずらしたうえで、緊急降下を開始します。

例６から分かるように、自動化レベル 6 では、コンピュータが何らかの操作を提案してから、その操作を開始するまでに時間の遅れ（例６では、10 秒程度の遅れ）があります。
つまり、人が拒否権を発動できるように設定されたカウントダウンが進んでいる間は、コンピュータは操作を開始することができません。
「警報が発せられてから操作開始までに 2〜3 秒経つと、もはや取り返しがつかない」といった緊急性が高い状況であったなら、自動化レベル 6 では対応できないことになります。
「警報が発せられてから 1 秒もすれば、人は必要な措置を確実に完了できている」ことが保証できないのであれば、コンピュータが遅滞なく操作を実行するしくみを用意しておいたほうが安心です。そのような状況で必要になるのが自動化レベル 6.5 です。

Copyright © 2018 稲垣

敏之 All Rights Reserved.

【例７】ATS-P は、列車が許容走行速度を上回り、停止信号を提示している信号機を冒進するおそれがあると判断したとき、警報を発すると同時に非常ブレーキを作動させて列車を停止させるものです（詳細は、「権限共有と権限委譲：（Ⅱ）
権限委譲」をご参照ください）。このようなシステムは、自動化レベル 6.5 の典型例です。

自動化レベル 6.5 は、自動車のいくつかの運転支援システムで用いられています。つぎに示す二例は典型的なものです。
【例８】

自動車が車線を逸脱しそうになると、それを警報と表示でドライバーに知らせると同時に操舵を修正するトルクを発生させる（あるいは四つの車輪ごとに大きさが異なるブレーキ力をかける）車線逸脱防止装置 LDP（lane departureprevention）の自動化レベルは 6.5 です。

【例９】急激な操舵によって車が横滑りを起こしたとき、警報と表示でドライバーに知らせるとともに四つの車輪に異なるブレーキ力をかけて車の姿勢の乱れを抑制する横滑り防止装置 ESC（electronic stability control）の自動化レベルは 6.5です。

自動化レベル 6.5 では、コンピュータは、これから何をしようとするのかを人に伝えてから操作を開始する形態をとっています。このような事前通告は、「いったい何が起こったのかわからない」といった状況認識の喪失やオートメーションサプライズを防止する効果があります。
これに対して、コンピュータが何らかの操作を実行したあとで、今何をしたのかを人に伝える事後報告の方式をとるようなシステムであれば、そのようなシステムの自動化レベルは 7 です。自動化レベル７のシステムの例を二つ挙げておきましょう。

Copyright © 2018 稲垣敏之 All Rights Reserved.

【例１０】 先行車への衝突が予測されたとき、コンピュータが衝突を回避するための急ブレーキをかけるシステムとして最近実用化されたもののなかに、急ブレーキをかける時点ではドライバーに対して通告しないものがあります。もちろんドライバーは急ブレーキがかかったことは身体で感じることができるでしょうが、このシステムでは、車が停止したときに「システムが自動緊急ブレーキをかけました」というメッセージがディスプレイに表示されます。このような事後報告方式のシステムの自動化レベルは 7 です。
【例１１】 ボーイング 777 や 787 はエンジンが 2 基の双発機です。各エンジンの推力が大きいため、離陸滑走中に一つのエンジンが故障すると左右の推力に著しい不均衡が生じ、滑走路からの逸脱につながります。そこで、推力の不均衡を補償するために、これらの機体には TAC（thrust asymmetry compensation）とよばれる自動化システムが搭載されています。777 の TAC は、左右のエンジンの推力差が 10％以上になったとき、一方 787 の TAC は、機体の動きにエンジン故障を示唆する現象が検出されたとき、いずれも自動的にラダー（方向舵）を制御して機首が横に振れるのを抑制します。TAC が作動すると、パイロットが方向舵を制御するときに踏むラダーペダルが動きます。それによって、パイロットは TAC が方向舵を制御しようとしていることが自然にわかります。
左右いずれのペダルが動いているのかによって、TAC が方向舵を制御しようとする向きもわかります。このような TAC の自動化レベルは７です。
③②①① 第2エンジン（右主翼側）故障② 左右エンジンの推力不均衡により機首が右に振れようとする③ TACが方向舵を制御して機首を左に向ける力を作り出して②の力を打消し，機首の振れを抑制③

Copyright © 2018 稲垣

敏之 All Rights Reserved.

自動化レベル 8 以上は、人とコンピュータが「目的を共有するチームメイト」として位置づけられるシステムでは、ふつうは採用されません。コンピュータが決定したことを、人に知らせもしないうちに実行してしまい、何をしたのか問われるまで人に知らせようとしない、あるいは、人から問われても、「教える必要はない」とばかりに答えようともしないコンピュータがあったとすると、そのようなコンピュータといっしょに仕事をしようという気にはならないのではないでしょうか。しかし、映画「2001 年宇宙の旅」に描かれていた HAL は、そのようなふるまいをするコンピュータの例でした。
また、そこまで極端ではなくとも、適切なヒューマンインタフェースが用意されていない場合には、自動化レベル 8、9、あるいは 10 のシステムになることがあります。

Copyright © 2018 稲垣

敏之 All Rights Reserved.

【例１２】 「今日も忙しくなりそうだ。まずは、急ぎの連絡が入っていないか調べてみなければ」と思ってパソコンを立ち上げてメールのチェックを始めたところ、案の定、直ちに対応しなければならない数件の依頼が来ていました。昼までに完了予定であることを知らせるべく返信を書こうとしているのですが、パソコンの反応がいかにも遅いように思われます。文字を入力してもその文字が画面に表示されません。キー設定を間違ったのかと思ってみても、そうではないようです。書きかけたメールを削除しようと思っても、それもできません。なぜメールソフトが反応しないのでしょうか。それを知りたくても何のメッセージも表示されません。パソコンがどのような状態になっているのかを調べようとしても情報が得られないため、対策を採ることもできません。業を煮やして別のパソコンから送信を書くことにしました。作業を始めて 10 分ほど経った頃、
ふともとのパソコンの画面を見ると、入力した文字が画面に表示されているではありませんか。いったい何があったのかと調べてみると、ソフトウェアのいくつかが更新されたようです。｢更新可能なソフトウェアがいくつかあります。
今、更新してもいいですか。それとも後のほうがいいですか｣など、ユーザーの意向を尋ねることもなく、どのような作業を行っているのかも知らせず、ユーザーからの質問を受けても答えようともしようとしない（一つ目の）パソコンは自動化レベル 9 のもとで動作していたと表現することができます。これは、かつての筆者（稲垣）の実体験です。さすがに、最近のパソコンでは、ここまでのことは起こらなくなってきていますが・・・（注）自動車の自動運転が関心を集めるようになりました。そのなかで、自動運転レベル（levels of driving automation; levels of automated driving 等の表現がありますが、まだ確定していません）が議論されるようになっていますが、「自動運転レベル」を「自動化レベル」と呼んで平然としている人がいるのには困惑します。
「自動化といっても自動車のことしか知らず、自動化推進については大先輩である航空機や原子力分野のことも学ぼうという意識に欠ける」ことを自ら宣言しているように思うのですが・・・

Copyright © 2018 稲垣

敏之 All Rights Reserved.