TFOS年次シンポジウム
2019年12月7日

誰のための、何のための自動運転～ 自動車の自動化に係る問いに答える ～筑波大学副学長・理事
稲垣 敏之
inagaki.toshiyuki.gb@un.tsukuba.ac.jp
http://css.risk.tsukuba.ac.jp/project/kakenhiS.html

情報処理過程で生じるさまざまな失敗

知覚

認知判断操作• 見落とし、聞き落とし• 能力の限界で見えない、聞こえない• 実体のないものが見える、聞こえる• 情報の意味が理解できない（知識ベースミステイク）• 過去の経験を誤用（ルール• 不適切な行為を選択（知識• 意図せぬ行為による置換（スリップ）• 手順の一部の欠落や失念（ラプス）• 行為実行不能（能力の限界）ベースミステイク)

ベースミステイク、ルールベースミステイク）• 不適切な不作
為（リスクの過小評価）（稲垣 2012）

代表的な運転支援技術 （その１）代表的なASV技術 （その２）ドライバー異常時対応システム

ドライバーの異常検知

減速開始
周囲の安全確認車線変更

路肩や非常駐車帯等に向かってゆっくり進む
停止

解除ボタン押下がなければ、「ドライバー異常状態」と判断

ドライバー、同乗者および車外の道路ユーザーに報知
第5期ＡＳＶ推進計画成果報告会（2016.05.20）

代表的なＡＳＶ技術 （その２）
自動運転による交通事故・渋滞の軽減
サグ部での渋滞緩和

路車間通信

ＧＰＳ
路車間通信

自律センサによる追突・衝突防止

右折時衝突防止

車車間通信

見えない人や車との衝突防止

自動運転を活用した次世代都市交通
スムーズな加減速、乗客転倒防止

統合的・有機的な運行

交通流整流、定時運行

事故低減
運転負荷軽減Cyber Agent

乗降時間短縮乗降安全性向上自動運転を活用した地方における移動サービス

図の出典： 国交省

移動サービスのための公道実証実験

写真の出典： 国交省

自動運転を活用した物流の効率化
電子牽引による後続無人隊列走行システム

先頭車両（有人）

２台目（無人）
電子連結

•
••
•

電子連結

３台目（無人）最高速度は 80 km/h
被牽引車は２台まで
車間は 10m
隊列の全長は最長で 56m
図の出典： 国交省

自動運転技術を活用して豊かな未来を！
• 交通事故の低減、渋滞の削減
運転者によるヒューマンエラーを防止• 自動運転で交通社会の最適化
公共交通を補完し、都市と地方の移動格差を解消• 物流の効率化、無人化を目指す
ドライバー不足の解消、コスト削減への期待• 新しい移動体験で運転者の負担軽減
未来モビリティで移動時間と空間をもっと自由に• 次世代モビリティと未来社会
すべての人が移動の自由を手にした未来都市を実現
原典 （SIP café ～自動運転～ Handbook）

ひとくちに「自動運転」といっても、形態は多種多様

Photo: BMW

Photo: Zoox

Phot: Volvo自動運転レベル （Levels of Driving Automation)
ドライバーは動的運転タスクの一部を担当 （環境及びシステムの監視ならびに必要に応じての介入はドライバーの役目）

1

DriverAssistance

特定の運行設計領域においてシステムは縦方向又は横方向のいずれか一方の車両運動制御を担当。ドライバーは動的運転タスクの残余分を担当。

2

Partial Driving
Automation

特定の運行設計領域においてシステムは縦方向及び横方向の車両運動制御を担当。 ドライバーは動的運転タスクの残余分と監視制御を担当。

システムは動的運転タスクのすべてを担当

3

ConditionalDriving
Automation

特定の運行設計領域においてシステムが全ての動的運転タスクを担当。
作動継続が困難なとき、システムは十分な時間余裕をもってドライバーに運転交代を要請。ドライバーはその要請に適切に対応すること。

4

High Driving
Automation

特定の運行設計領域においてシステムが全ての動的運転タスクを担当。
作動継続が困難なときも、システム自身で適切に対応。

5

Full Driving
Automation

運行設計領域に限定されることなく、システムが全ての動的運転タスクを担当。作動継続が困難なときも、システム自身で適切に対応。
(SAE 2018)レベル２の自動運転
システム： 縦方向と横方向の車両運動制御を担当。
ドライバー： 動的運転タスク残余分と監視制御を担当。
【監視制御 （supervisory control）】
 人が何をなすべきかを決め、システムに指示 システムは、人の指示に沿って制御を実行

Photo: BMW 人は、システムによる制御が適切かどうかを継続的に監視。
場合に応じて適時に介入システムの動作原理、能力限界、サブシステム間の相互干渉等に関する正確な理解が必要

航空機の自動化はレベル２の自動運転と同等

年間飛行時間 800-900時間の国際線パイロットの場合、手動操縦は 3時間程度システムの動作原理、能力限界、サブシステム間の相互干渉等に関する正確な理解が必要

パイロットは、このために厳しい教育・訓練を受ける

航空機における賢い機械がもたらす光と影• 賢い機械

– 状況センシング– 状況理解– 何をなすべきかを決定し、実行

状況認識の喪失
機械への過信と不信の交錯
オートメーションサプライズ

機械の状況判断・意図が分からないまま、機械を信頼オートパイロットがなぜこんなことをするのか私にはわからない。
でも、オートパイロットはわかったうえでやっているのだろう。
（FAA 1995)

 定期的なシステム機能・原理等の教育と使用法の訓練を受ける
パイロットですら高度自動化システムを持て余す、となると・・・ 自動運転車の免許制度（教育・訓練）はどのようにすべき？

注意喚起も警報も出ていないから大丈夫？

システム

止まれ・・・
ドライバー
本当に車は来ない？

 システムは作動している？
していない？

（Inagaki 2010; 稲垣 2012)

人が見ているもの

機械が見ているもの

B
ACC はA車を追従しているはずだから、まもなく減速するだろう

A

実は、ACC が見ているのは B車

ACC は、なぜ今加速するのだ？
オートメーションサプライズ 状況認識を共有できている？

（Inagaki 2010; 稲垣 2012)

「人が見ているもの ＝ 機械が見ているもの」 だが・・・
両者で「ものの考え方」が違うと、オートメーション・サプライズ

制動で衝突回避しよう

操舵で衝突回避しよう これから何をしようと考えている？
（意図）（Inagaki 2010; 稲垣 2012)機械の能力限界が分からないと・・・

割込もうとしている車がいるぞ。
ACC はそろそろ減速するかな。

オートメーション
サプライズ

ACC はなぜ減速しないのだ？

実は、ACC には割込み車は見えない
Why does
ACC

accelerate now?

 能力限界はどこにある？

（Inagaki 2010; 稲垣 2012)レベル２の自動運転
システム： 縦方向と横方向の車両運動制御を担当。
ドライバー： 動的運転タスク残余分と監視制御を担当。
【監視制御 （supervisory control）】
 人が何をなすべきかを決め、システムに指示 システムは、人の指示に沿って制御を実行

Photo: BMW

システムの動作原理、能力限界、サブシステム間の相互干渉等に関する正確な理解が必要

 人は、システムによる制御が適切かどうかを継続的に監視。
場合に応じて適時に介入高齢者を含めた一般ドライバーにも厳しい教育・訓練を課す？

レベル３の自動運転
システム： 走行環境の監視を含め、全ての動的運転タスクを担当。
作動継続が困難なとき、十分な時間余裕をもってドライバーに運転交代を要請。
ドライバー： システムの要請に適切に対応すること。
 「十分な時間余裕」とは、どれくらい？
 運転交代を要請してから一定時間が経過すれば、システムは機能を停止させてよい？

Photo: Volvo レベル３の自動運転の狙いは、移動時間を有効に使えるようにすることではなかったのか？

運転主体の交代： 権限委譲（trading of authority）（１）誰から誰への権限委譲？
（２）権限委譲の要否と実行タイミングを決定するのは誰？
機械に割当てられたタスク
時刻１

人に割当てられたタスク

縦方向制御

横方向制御
機械から人への権限委譲

時刻２人から機械への権限委譲

時刻３

縦方向制御

縦方向制御

横方向制御

横方向制御

（Inagaki 2003; Inagaki & Sheridan 2012; 稲垣 2012)

人の判断による権限委譲（例） 離陸時は人間が操縦。
機体が安定すると、コンピュータに操縦を委任。
必要に応じてオートパイロットを解除して、人が操縦。
（例） ACC で走行中、割込みの気配を示す車に気づく。いったん ACC を解除し、割込み車との間隔を適切にした後、再び ACC をエンゲージ。

機械の判断による、機械から人への権限委譲は成功するとは限らない
高高度を飛行中に対気速度に矛盾が生じ、オートパイロット解除。
その後のパイロットの操作が不適切であったため異常姿勢に陥り、墜落。

www.franceculture.fr/sciences/les-pilotes-en-cause-dans-le-crash-du-vol-af447-rio-paris

運転交代要請（RTI）を発して機械から人へ権限委譲
ドライバー： 運転操作は行わず、走行環境の監視もしていない。
システムから運転交代を求められたとき、瞬時に状況を見極め、適切に車両を制御できる？
運転を交代してください
RTI(request to intervene)?

RTI に対して適切に対応してくれればよいのだが・・・

RTI を発してもドライバーが対応してくれなかったら・・・

運転交代要請 (RTI) メッセージのデザイン
SAE J3016 「運転を交代してください」
所定の時間が経過した時点で、システムは自動走行モードを解除

事故発生リスクを最小にする RTI
運転を交代してください。運転が引継がれたことが確認でき次第、自動走行モードを解除します
所定時間の経過後も、運転者が運転を引継いだことが確認できないなら・・・

システムは「権限委譲は不可能」と判断し、自身の機能範囲内で車両停止へ向けて制御を実行(Inagaki & Sheridan 2018)

J3016 におけるレベル3 の定義は妥当ではない【定義改訂案】【現在の定義】 （SAE J3016）

特定の運行設計領域においてシステムがすべての動的運転タスクを担当。作動継続が困難なとき、システムは十分な時間余裕を持ってドライバーに運転交代を要請。
ドライバーがシステムの要請に対応しないときは、システムが車両を最少リスク状態に誘導

特定の運行設計領域においてシステムがすべての動的運転タスクを担当。作動継続が困難なとき、システムは十分な時間余裕を持ってドライバーに運転交代を要請。
ドライバーはその要請に適切に対応すること。

ミニマム・リスク・マヌーバ「自動運転車の安全技術ガイドライン」 （国交省自動車局 2018.09)

レベル３の自動運転
システム： 走行環境の監視を含め、全ての動的運転タスクを担当。
作動継続が困難なとき、十分な時間余裕をもってドライバーに運転交代を要請。
ドライバー： システムの要請に適切に対応すること。

Photo: Volvo 「システムの手に余るときは、人に対応させよう」という設計思想は妥当ではない

レベル４の自動運転
システム： 全ての動的運転タスクを担当。
作動継続が困難なときも、システム自身で適切に対応。
 「システムだけで対応できる」とは、「人に関与を求めなくてもよい」こと
 「何が起こっているか」、「システムがどのように対応しようとしているか」を人に知らせなくてもよいのではない
Photo: Volvo【移動サービスへの応用可能性】
 道路交通に関する条約（ジュネーブ条約）との整合性を図ったうえで、限定的な地域において無人自動運転移動サービスを実現させれば、高齢者のモビリティ向上へ繋がるレベル４の自動運転による移動サービス
ラストマイル自動運転

中山間地域における道の駅を拠点とした自動運転サービス
写真・図の出典： 国交省

 運行設計領域（ODD: operational design domain）の適切な設定に基づく個別具体的議論が肝要

限定地域における無人自動運転移動サービス

過疎地域等での公共交通の路線廃止の動き⇒ 高齢者等の移動困難者の移動手段の確保は喫緊の課題



有効な策のひとつが、限定地域における無人自動運転移動サービス
 「無人」とは、「車内にはドライバーがいないこと」。 ただし、車両外にドライバーの役割を果たす者（遠隔監視・操作者）がいる。
 車両外に遠隔監視・操作者がいる自動運転システムを「遠隔型自動運転システム」とよぶ。
 遠隔型自動運転システムを活用した移動サービスを「無人自動運転移動サービス」とよぶ。
 「無人自動運転移動サービス」では、車内にドライバーがいないことから、「レベル4の自動運転」とみなす流儀がある。
 サービスの対象となるエリア（例）• 比較的交通量が少なく見通しの良いエリア• 市街地でも、歩行者・二輪車等の飛出しが発生しにくいエリア• 比較的走行環境が単純なエリア

限定地域における無人自動運転移動サービス（続き）
現時点における無人自動運転移動サービスの姿 低速（10～30 km/h)。予め定められた特定ルートのみで運行
 搭乗可能な乗客は少人数。特定の場所で乗降 運行は天候条件のよい日中に限定
 運行状況は、遠隔監視・操作者が監視。
• 運行中の車両の走行環境が「運行設計領域（ODD）」を超える／超えそうな場合、車両は速やかに運行を中止。
• その後、遠隔監視・操作者が限定的な運行を行う／
サービス提供業者が対応（車両に駆けつける、等） 遠隔型自動運転システムの課題
 １人の遠隔監視・操作者は２台以上の自動運転車を監視できるか？
 遠隔監視・操作者に届く映像には「通信遅延」があり、監視・操作者が送信した制御コマンドが車両に届くまでにも「通信遅延」がある
 遠隔監視・操作者の知識・技量は、これに対応するに十分か？
 遠隔監視・操作者に提供される画像は、正確な状況理解を助けるか？

電子牽引による後続無人隊列走行システム
先頭車両（有人）
電子連結

２台目（無人）電子連結

３台目（無人）最高速度は 80 km/h。被牽引車は２台まで。車間は 10m。隊列の全長は最長で 56m。

運送業における運転者不足 ⇒ １人の運転者で複数台のトラックを運行し、運行の高効率化を実現したい

有人の牽引車の後方に１台または複数台の無人の被牽引車を電子的に連結（車両間を通信等により接続）して走行



高速道路上で運用。複数車両が通常運転で隊列形成エリア（サービスエリア等）まで走行し、牽引車の運転者の操作により電子的に結合



被牽引車は牽引車と適切な車間、横方向位置を保ちながら走行するが、「被牽引車は自動運転車ではない」（将来的には、レベル４の自動運転）

電子牽引による後続無人隊列走行システムの機能
1. 走行時の安全性を担保するために、システムを構成する主要要素（隊列システムコンピュータ、情報通信装置、操舵アクチュエータ、主制動装置等）は2重系以上の多重系とするなど冗長性を有すること。
2. 車車間通信システムによる堅ろうで運行に十分耐える電子連結を前提に、被牽引車は牽引車に対して適切な車間距離と横方向の距離（牽引車の軌跡に対する被牽引車の横方向の誤差は± 50cm 以内）を保持し走行。
車間距離センサとしては、ミリ波レーダ、３Dライダ、高精度GPS等。
白線・先行車認識は、カメラ、３Dライダ、高精度GPS等を活用。

3. 電子牽引による後続無人隊列では、2台目以降は「牽引車両」の概念で扱うため、運転の責任は先頭車の運転者にある。
4. 牽引車は、被牽引車から送られた側方・後方映像を運転者に表示する画像表示装置を装着すること（後側方視界の確保）。
5. 牽引車及び被牽引車は、車線変更時において周辺車両、障害物等を検知するため、レーダやカメラ等のセンサを有すること。

電子牽引による後続無人隊列走行システムの機能（続き）
6. 牽引車及び被牽引車は、他車両の割込みを検知する機能を有すること。
（ただし、これは万一の場合への配慮であり、電子牽引による後続無人隊列は「牽引車両」の概念で扱うため、割込みされない車間距離での走行が基本）

7. 牽引車は、割込みが発生した場合、自動的に車速を一定速度以下に制限する等の縮退運転の機能を有していること。
8. 牽引車及び被牽引車は、割込み車両の安全な離脱を促す機能を有していること（MRMによって被牽引車を即時停止させることは、交通流の円滑さや安全の確保の観点から好ましいとは限らない）。割込み車両の離脱後は通常運転に復帰。
9. 被牽引車は、システムが作動限界を超えた場合又は故障により隊列の維持が困難になった場合に作動するMRMを有していること。
10. 牽引車は、システム作動限界や故障の発生時に自動的に車速を一定速度以下に制限する等の縮退運転の機能を有することが望ましい。
11. 被牽引車は、隊列維持が困難になるような故障（全通信手段の遮断等）又は異常（タイヤのパンク等）の発生時に作動するMRMを有していること。

自動運転における人と機械の協調と共生（１）Photo: BMW

Photo: Volvo

Photo: Zoox

• 自動運転レベルが高いものが「レベルが高い」のではない• 自動運転レベルではなく、モードと呼ぶべきではなかったか• 監視制御は、楽な仕事ではない• 高機能なシステムの動作原理や能力限界を知らないと、システムを正しく監視することはできない• 権限の的確な引継ぎには、瞬時の状況判断力が不可欠• ドライバーの役割と責任を社会やドライバーが認識すべし自動運転における人と機械の協調と共生（２）HMI が提供すべきものは・・・





機械と状況認識を共有できる手がかり
機械の判断の根拠が分かる手がかり
機械の意図が分かる手がかり
機械の能力限界を知る手がかり
機械の作動状態が分かる手がかり（Inagaki 2010; 稲垣 2012)

不適切な信頼（不信／過信）の低減
過信に基づく依存（過度の依存）の低減
モード認識喪失やオートメーションサプライズの低減

さらに踏み込んでいうならば・・・

自然な形でドライバーモニタリングの役割を担う HMI と制御系の構築

参考文献
稲垣 (2012). 人と機械の共生のデザイン， 森北出版.
Inagaki, T. (2003). Adaptive automation: Sharing and trading of control. In E.
Hollnagel (Ed.), Handbook of Cognitive Task Design, Chapter 8 (pp. 147-169),
Lawrence Erlbaum Associates.
Inagaki, T. (2010). Traffic systems as joint cognitive systems: Issues to be solved
for realizing human-technology coagency, Cogn. Tech. & Work, 12(2), 153-162.
Inagaki, T. & Sheridan, T. (2012). Authority and responsibility in human-machine
systems: Probability theoretic validation of machine-initiated trading of authority.
Cognition, Technology & Work, 14(1), 29-37.
Inagaki, T. & Sheridan, T. (2018). A critique of the SAE conditional driving
automation definition, and an analyses of options for improvement. Cognition,
Technology & Work. DOI: 10.1007/s10111-018-0471-5.
国土交通省自動車局 （2018）. 自動運転車の安全技術ガイドライン.
SAE (2018). Taxonomy and Definitions for Terms Related to Driving Automation
Systems for On-Road Motor Vehicles. Surface Vehicle Recommended Practice,J3016.