国土交通省中部運輸局
自動車事故防止セミナー20182019年1月24日

自動運転に繋がる運転支援技術とヒューマンファクター

筑波大学副学長・理事
稲垣 敏之
inagaki.toshiyuki.gb@un.tsukuba.ac.jp
http://css.risk.tsukuba.ac.jp/project/kakenhiS.html

情報処理過程で生じるさまざまな失敗

知覚

認知判断操作• 見落とし、聞き落とし• 能力の限界で見えない、聞こえない• 実体のないものが見える、聞こえる• 情報の意味が理解できない（知識ベースミステイク）• 過去の経験を誤用（ルール• 不適切な行為を選択（知識• 意図せぬ行為による置換（スリップ）• 手順の一部の欠落や失念（ラプス）• 行為実行不能（能力の限界）ベースミステイク)

ベースミステイク、ルールベースミステイク）• 不適切な不作
為（リスクの過小評価）（稲垣 2012）

代表的な運転支援技術 （その１）代表的な運転支援技術 （その2）ドライバー異常時対応システム（路肩退避型）

ドライバーの異常検知

減速開始
周囲の安全確認車線変更

路肩や非常駐車帯等に向かってゆっくり進む
停止

解除ボタン押下がなければ、「ドライバー異常状態」と判断

ドライバー、同乗者および車外の道路ユーザーに報知
第5期ＡＳＶ推進計画成果報告会（2016．05．20）

安全技術のあり方検討ＷＧ

ASV5 までにおける基本理念

安全技術のあり方検討ＷＧ

ASV5 までにおける運転支援の考え方

代表的なＡＳＶ技術 （その２）
自動運転による交通事故・渋滞の軽減
サグ部での渋滞緩和

路車間通信

ＧＰＳ
路車間通信

自律センサによる追突・衝突防止

右折時衝突防止

車車間通信

見えない人や車との衝突防止

自動運転を活用した次世代都市交通
スムーズな加減速、乗客転倒防止

統合的・有機的な運行

交通流整流、定時運行

事故低減
運転負荷軽減Cyber Agent

乗降時間短縮乗降安全性向上ひとくちに「自動運転」といっても、形態は多種多様

Photo: BMW

Photo: Zoox

Phot: Volvo自動運転レベル （Levels of Driving Automation)ドライバーは動的運転タスクの一部を担当 （環境及びシステムの監視ならびに必要に応じての介入はドライバーの役目）

1

DriverAssistance

特定の運行設計領域においてシステムは縦方向又は横方向のいずれか一方の車両運動制御を担当。ドライバーは動的運転タスクの残余分を担当。

2

Partial Driving
Automation

特定の運行設計領域においてシステムは縦方向及び横方向の車両運動制御を担当。 ドライバーは動的運転タスクの残余分と監視制御を担当。

システムは動的運転タスクのすべてを担当

3

ConditionalDriving
Automation

特定の運行設計領域においてシステムが全ての動的運転タスクを担当。
作動継続が困難なとき、システムは十分な時間余裕をもってドライバーに運転交代を要請。ドライバーはその要請に適切に対応すること。

4

High Driving
Automation

特定の運行設計領域においてシステムが全ての動的運転タスクを担当。
作動継続が困難なときも、システム自身で適切に対応。

5

Full Driving
Automation

運行設計領域に限定されることなく、システムが全ての動的運転タスクを担当。作動継続が困難なときも、システム自身で適切に対応。
(SAE 2018)レベル２の自動運転システム： 縦方向と横方向の車両運動制御を担当。
ドライバー： 動的運転タスク残余分と監視制御を担当。
【監視制御 （supervisory control）】
 人が何をなすべきかを決め、システムに指示 システムは、人の指示に沿って制御を実行

Photo: BMW 人は、システムによる制御が適切かどうかを継続的に監視。
場合に応じて適時に介入システムの動作原理、能力限界、サブシステム間の相互干渉等に関する正確な理解が必要

HMI のデザインが鍵

航空機の自動化はレベル２の自動運転と同等

年間飛行時間 800-900時間の国際線パイロットの場合、手動操縦は 3時間程度
パイロットは安全運航の責任を負い、システム状態と飛行環境を監視航空機における賢い機械がもたらす光と影• 賢い機械
– 状況センシング– 状況理解– 何をなすべきかを決定し、実行

状況認識の喪失
機械への過信と不信の交錯
オートメーションサプライズ

機械の状況判断・意図が分からないまま、機械を信頼オートパイロットがなぜこんなことをするのか私にはわからない。
でも、オートパイロットはわかったうえでやっているのだろう。
（FAA 1995)

 定期的なシステム機能・原理等の教育と使用法の訓練を受けるパイロットですら高度自動化システムを持て余す、となると・・・ 自動運転車の免許制度（教育・訓練）はどのようにすべき？

空中衝突防止装置は作動していると思っていたが・・・

2006年9月、 Boeing 737 とEmbraer Legacy がアマゾン上空で衝突(Flight International,
6 December 2008)• Legacy のトランスポンダーは standby モード（送受信機能喪失）• 「TCAS OFF」 は表示されたが、目立たない白字表示• Boeing 737 と Legacy に搭載されていた TCAS は、いずれも相手機の存在を知ることができない状態
TCAS 警報が発せられないまま、２機が衝突

注意喚起も警報も出ていないから大丈夫？

システム

止まれ・・・
ドライバー
本当に車は来ない？

 システムは作動している？
していない？

（Inagaki 2010; 稲垣 2012)

人が見ているもの

機械が見ているもの

BACC はA車を追従しているはずだから、まもなく減速するだろう

A

実は、ACC が見ているのは B車

ACC は、なぜ今加速するのだ？
オートメーションサプライズ 状況認識を共有できている？

（Inagaki 2010; 稲垣 2012)

「人が見ているもの ＝ 機械が見ているもの」 だが・・・
両者で「ものの考え方」が違うと、オートメーション・サプライズ

制動で衝突回避しよう

操舵で衝突回避しよう これから何をしようと考えている？
（意図）（Inagaki 2010; 稲垣 2012)機械の能力限界が分からないと・・・

割込もうとしている車がいるぞ。
ACC はそろそろ減速するかな。

オートメーション
サプライズ

ACC はなぜ減速しないのだ？

実は、ACC には割込み車は見えない
Why does
ACC

accelerate now?

 能力限界はどこにある？

（Inagaki 2010; 稲垣 2012)レベル３の自動運転
システム： 走行環境の監視を含め、全ての動的運転タスクを担当。
作動継続が困難なとき、十分な時間余裕をもってドライバーに運転交代を要請。
ドライバー： システムの要請に適切に対応すること。
 「十分な時間余裕」とはどれくらい？
 運転交代を要請して一定時間経過後システムは機能停止してよい？
 レベル３の自動運転の狙いは何？
Photo: Volvo 「システムの手に余るときは、人に対応させよう」という設計思想は妥当？
 ドライバーは、結果予見義務／結果回避義務（過失責任）から解放されている？

運転主体の交代： 権限委譲（trading of authority）（１）誰から誰への権限委譲？
（２）権限委譲の要否と実行タイミングを決定するのは誰？
機械に割当てられたタスク
時刻１

人に割当てられたタスク

縦方向制御

横方向制御
機械から人への権限委譲

時刻２人から機械への権限委譲

時刻３

縦方向制御

縦方向制御

横方向制御

横方向制御

（Inagaki 2003; Inagaki & Sheridan 2012; 稲垣 2012)

人の判断による権限委譲（例） 離陸時は人間が操縦。
機体が安定すると、コンピュータに操縦を委任。
必要に応じてオートパイロットを解除して、人が操縦。
（例） ACC で走行中、割込みの気配を示す車に気づく。いったん ACC を解除し、割込み車との間隔を適切にした後、再び ACC をエンゲージ。

機械の判断による、機械から人への権限委譲は成功するとは限らない
高高度を飛行中に対気速度に矛盾が生じ、オートパイロット解除。
その後のパイロットの操作が不適切であったため異常姿勢に陥り、墜落。

www.franceculture.fr/sciences/les-pilotes-en-cause-dans-le-crash-du-vol-af447-rio-paris

運転交代要請（RTI）を発して機械から人へ権限委譲
ドライバー： 運転操作は行わず、走行環境の監視もしていない。
システムから運転交代を求められたとき、瞬時に状況を見極め、適切に車両を制御できる？
運転を交代してください
RTI(request to intervene)?

RTI に対して適切に対応してくれればよいのだが・・・

RTI を発してもドライバーが対応してくれなかったら・・・

運転交代要請 (RTI) メッセージのデザイン
SAE J3016 「運転を交代してください」
所定の時間が経過した時点で、システムは自動走行モードを解除事故発生リスクを最小にする RTI運転を交代してください。運転が引継がれたことが確認でき次第、自動走行モードを解除します
所定時間の経過後も、運転者が運転を引継いだことが確認できないなら・・・

システムは「権限委譲は不可能」と判断し、自身の機能範囲内で車両停止へ向けて制御を実行(Inagaki & Sheridan 2018)

J3016 におけるレベル3 の定義は妥当ではない【定義改訂案】【現在の定義】 （SAE J3016）

特定の運行設計領域においてシステムがすべての動的運転タスクを担当。作動継続が困難なとき、システムは十分な時間余裕を持ってドライバーに運転交代を要請。
ドライバーがシステムの要請に対応しないときは、システムが車両を最少リスク状態に誘導

特定の運行設計領域においてシステムがすべての動的運転タスクを担当。作動継続が困難なとき、システムは十分な時間余裕を持ってドライバーに運転交代を要請。
ドライバーはその要請に適切に対応すること。

ミニマム・リスク・マヌーバ「自動運転車の安全技術ガイドライン」 （国交省自動車局 2018.09)

レベル４の自動運転 (High Driving Automation)
システム： 全ての動的運転タスクを担当。
作動継続が困難なときも、システム自身で適切に対応。
 「システムだけで対応できる」とは、「ドライバーに関与させない」こと？
 何が起こっているか、システムがどのように対応しようとしているか等はドライバーに知らせる？ 知らせない？
Photo: Volvo【移動サービスへの応用可能性】
 道路交通に関する条約（ジュネーブ条約）との整合性を図った
うえで、限定的な地域において無人自動運転移動サービスを実現させれば、高齢者のモビリティ向上へ・・・

レベル４の自動運転による移動サービス
ラストマイル自動運転

中山間地域における道の駅を拠点とした自動運転サービス
写真・図の出典： 国交省

 運航設計領域（ODD: operational design domain）の適切な設定に基づく個別具体的議論が肝要

自動運転における人と機械の協調と共生（１）Photo: BMW

Photo: Volvo

Photo: Zoox

• 自動運転レベルが高いものが「レベルが高い」のではない• 自動運転レベルではなく、モードと呼ぶべきではなかったか• 監視制御は、楽な仕事ではない• 高機能なシステムの動作原理や能力限界を知らないと、システムを正しく監視することはできない• 権限の的確な引継ぎには、瞬時の状況判断力が不可欠• ドライバーの役割と責任を社会やドライバーが認識すべし自動運転における人と機械の協調と共生（２）HMI が提供すべきもの （稲垣 2012)





機械と状況認識を共有できる手がかり
機械の判断の根拠が分かる手がかり
機械の意図が分かる手がかり
機械の能力限界を知る手がかり
機械の作動状態が分かる手がかり

不適切な信頼（不信／過信）の低減
過信に基づく依存（過度の依存）の低減
モード認識喪失やオートメーションサプライズの低減

HMI について今後検討すべきもの（私見）

自然な形でドライバーモニタリングを可能にするもの
人と協働で車外道路利用者とコミュニケートできるもの参考文献
稲垣 (2012). 人と機械の共生のデザイン， 森北出版.
Inagaki, T. (2003). Adaptive automation: Sharing and trading of control. In E.
Hollnagel (Ed.), Handbook of Cognitive Task Design, Chapter 8 (pp. 147-169),
Lawrence Erlbaum Associates.
Inagaki, T. (2010). Traffic systems as joint cognitive systems: Issues to be solved
for realizing human-technology coagency, Cogn. Tech. & Work, 12(2), 153-162.
Inagaki, T. & Sheridan, T. (2012). Authority and responsibility in human-machine
systems: Probability theoretic validation of machine-initiated trading of authority.
Cognition, Technology & Work, 14(1), 29-37.
Inagaki, T. & Sheridan, T. (2018). A critique of the SAE conditional driving
automation definition, and an analyses of options for improvement. Cognition,
Technology & Work. DOI: 10.1007/s10111-018-0471-5.
国土交通省自動車局 （2018）. 自動運転車の安全技術ガイドライン.
SAE (2018). Taxonomy and Definitions for Terms Related to Driving Automation
Systems for On-Road Motor Vehicles. Surface Vehicle Recommended Practice,J3016.