日本心理学会第84回大会
2020年9月8日
SL-001 招待講演１

運転支援と自動運転におけるヒューマンファクター的課題― 航空機と自動車の比較から見えてくるもの
筑波大学 副学長・理事
稲垣敏之
inagaki.toshiyuki.gb@un.tsukuba.ac.jp
http://css.risk.tsukuba.ac.jp/project/kakenhiS.html

情報処理過程で生じるさまざまな失敗

知覚状況理解• 見落とし、• 情報の意味が聞き落とし
理解できない• 能力の限界で（知識ベース見えない、ミステイク）
聞こえない• 過去の経験を• 実体のない誤用（ルールものが見える、ベースミステイク)
聞こえる

行為選択

行為実行

• 意図せぬ行為による置換（スリップ）
ベースミステイク、
ルールベース• 手順の一部のミステイク）
欠落や失念• 不適切な不作（ラプス）
為（リスクの• 行為実行不能過小評価）（能力の限界）• 不適切な行為を選択（知識（稲垣 2012）代表的な技術（１）： 知覚・状況理解の支援（写真：トヨタ自動車）

代表的な技術（２）： 行為選択・行為実行の支援（図面：国交省）代表的な技術（３）： 行為実行の支援（図面：国交省）代表的なＡＳＶ技術 （その２）
自動運転による交通事故・渋滞の軽減
サグ部での渋滞緩和

路車間通信

ＧＰＳ
路車間通信

自律センサによる追突・衝突防止

右折時衝突防止

車車間通信

見えない人や車との衝突防止（図面：SIP-adus）

自動運転を活用した次世代都市交通（写真：SIP-adus）

法定速度上限から減速、幅寄せを行い、ほぼ隙間なくバス停に横付け（正着）

航空機における自動化の進展
1900年代初頭は、操縦の困難さをパイロットの練度で克服• パイロットの負担が大• ヒューマンエラーが入り込む余地
解決策のひとつは、操縦操作の自動化

飛行管理も自動化 （機体重量や気象条件に合った離陸速度・上昇速度・巡航高度・降下開始点等の決定）• 年間飛行時間 800-900時間の国際線パイロットの場合、手動操縦は 3時間程度

高い知能と自律性を備えた機械がもたらす光と影（１）離陸フェーズのみ
自動化不能

自動化

離陸100万回あたりの全損事故件数

1950年代： 40便以上
2000年代： 1便未満

（Boeing 2018）

高い知能と自律性を備えた機械がもたらす光と影（２）• 賢い機械

– 状況センシング– 状況理解– 何をなすべきかを決定し、実行

状況認識の喪失
機械への過信と不信の交錯
オートメーションサプライズ（稲垣 2012）

状況認識の３つのレベル
レベル１： 何かが起こっていることに 気づく
レベル２： その 原因を特定 できる
レベル３： これからの事態の 推移が予測 できる（Endsley 1995）

１．多機能インタフェースによるエラーの誘発(写真提供：全日空)

HDG-V/S / TRK-FPA
モード切替
プッシュボタン(稲垣 2012)

２．人と機械の「意図の対立」
異なる意図のもとで制御された水平安定版と昇降舵

水平安定板

昇降舵

コンピュータは「上昇したい」（水平安定板を前傾）

パイロットは「降下したい」（昇降舵を後傾）

たがいに妨害(稲垣 2012)

３．自動化システムへの過信と不信の交錯
いざというときは、システムが警報を発して教えてくれるはず・・・

Terrain,Terrain

Whoop, Whoop,
Pull up!

過信CFIT (Controlled

Flight Into Terrain)

警報なし

不信

GPWS 非装備

警報の遅れ，乗員の不適切な対応

航空機衝突防止システム (TCAS) (１)
知覚状況理解

行為選択

行為実行

情報獲得

情報解析

行為選択

行為実行

質問信号

応答信号
（気圧高度情報）・ 質問と応答の時間差
・ 応答信号の到来方位航空機衝突防止システム (TCAS) (２)
情報獲得

情報解析

Climb, Climb

TCAS

回避アドバイザリ
(RA)

脅威機

行為選択

行為実行

TCAS は作動しているものと思っていたが・・・

原図 (Flight International,
6 December 2008)
http://www.flightglobal.com/
articles/2008/12/06/319859/
amazon-mid-air-collisionLegacy のトランスポンダーは意図せず standby モードへ
TCAS は OFF となったが、そのことは目立たない白字表示
Boeing737 の TCAS は Legacy の存在を知ることができない
どちらの機でも TCAS の警報は発出されないまま

４．自動化システムによる「異常の隠蔽」
強力な制御能力を持ち、困難なタスクを長時間担当しても疲れを知らず、ただ黙々と任務を遂行する律義者
 オートパイロット（AP）による自動操縦中のボーイング747で、右主翼外側のエンジン停止。これにより、右方向へ機首偏位
 APは左主翼を下げて、水平飛行を維持
 パイロットは、APに操縦を任せたまま、何度かエンジン再始動に挑戦したが失敗
 パイロットは、「手動操縦に切り替えよう」とAPを解除
 それまで機体の姿勢を保ってきたAPによる制御入力が途絶えたため、機体は突然に大きく傾き、裏返った状態で落下(稲垣 2012)

５．高機能システムの分かりにくさ
機械のものの見方・考え方

人のものの見方・考え方 A330 が、離陸直後のエンジン故障を模擬したテスト飛行
 離陸直後に機長がオートパイロット（AP）オン APは、あらかじめセットされていたレベルオフ（水平飛行への移行）を滑らかに行うべく、作動開始2秒後に準備開始
 機長はそのことに気づかないまま、エンジン1基を停止。これにより、推力減少、上昇率低下
 APは当初予定の上昇を達成すべく機首上げ パイロットたちは、予期せぬ機首上げに驚き、理由を解明しようとしたがわからず、手動操縦に切り替えたが、姿勢を回復させることができないまま、失速・墜落(稲垣 2012)

ひとくちに「自動運転」といっても、形態は多種多様

Photo: BMW

Photo: Volvo

Photo: Zoox

自動運転レベル （Levels of Driving Automation)
ドライバーは動的運転タスクの一部を担当 （環境及びシステムの監視ならびに必要に応じての介入はドライバーの役目）

1

DriverAssistance

特定の運行設計領域においてシステムは縦方向又は横方向のいずれか一方の車両運動制御を担当。ドライバーは動的運転タスクの残余分を担当。

2

Partial DrivingAutomation

特定の運行設計領域においてシステムは縦方向及び横方向の車両運動制御を担当。 ドライバーは動的運転タスクの残余分と監視制御を担当。

システムは動的運転タスクのすべてを担当

3

ConditionalDriving
Automation

特定の運行設計領域においてシステムが全ての動的運転タスクを担当。
作動継続が困難なとき、システムは十分な時間余裕をもってドライバーに運転交代を要請。ドライバーはその要請に適切に対応すること。

4

High Driving
Automation

特定の運行設計領域においてシステムが全ての動的運転タスクを担当。
作動継続が困難なときも、システム自身で適切に対応。

5

Full Driving
Automation

運行設計領域に限定されることなく、システムが全ての動的運転タスクを担当。作動継続が困難なときも、システム自身で適切に対応。
(SAE 2018)レベル２の自動運転
システム： 縦方向と横方向の車両運動制御を担当。
ドライバー： 動的運転タスク残余分と監視制御を担当。
【監視制御 （supervisory control）】
 何をなすべきか、人が決めてシステムに指示 システムは、人の指示に沿って制御を実行
 システムによる制御が適切かどうかを、人が継続的に監視し、場合に応じて適時介入
Photo: BMW ハンズオフを認めるか、ハンズオンを求めるか システムの動作原理、能力限界、サブシステム間の相互干渉等に関する正確な理解が必要

航空機の自動化はレベル２の自動運転と同等

年間飛行時間 800-900時間の国際線パイロットの場合、手動操縦は 3時間程度システムの動作原理、能力限界、サブシステム間の相互干渉等に関する正確な理解が必要

パイロットは、このために厳しい教育・訓練を受ける

機械の状況判断・意図が分からないまま、機械を信頼オートパイロットがなぜこんなことをするのか私にはわからない。
でも、オートパイロットはわかったうえでやっているのだろう。

（FAA 1995)

 定期的なシステム機能・原理等の教育と使用法の訓練を受けるパイロットですら高度自動化システムを持て余す、となると・・・ 自動運転車の免許制度（教育・訓練）はどのようにすべき？

注意喚起も警報も出ていないから大丈夫？

システム

止まれ・・・
ドライバー
本当に車は来ない？

 システムは作動？ 作動していない？
（Inagaki 2010; 稲垣 2012）

人が見ているもの

機械が見ているもの

B
ACC はA車を追従しているはずだから、まもなく減速するだろう

A

実は、ACC が見ているのは B車

ACC は、なぜ今加速するのだ？
オートメーションサプライズ 状況認識を共有できている？

（Inagaki 2010; 稲垣 2012)

「人が見ているもの ＝ 機械が見ているもの」 だが・・・
両者で「ものの考え方」が違うと、オートメーション・サプライズ

制動で衝突回避しよう

操舵で衝突回避しよう これから何をしようとしている？
（意図）（Inagaki 2010; 稲垣 2012)機械の能力限界が分からないと・・・

割込もうとしている車がいるぞ。
ACC はそろそろ減速するかな。

オートメーション
サプライズ

ACC はなぜ減速しないのだ？

実は、ACC には割込み車は見えない
Why does
ACC

accelerate now?

 能力限界はどこにある？

（Inagaki 2010; 稲垣 2012)レベル２の自動運転は人に優しくない【監視制御 （supervisory control）】
 何をなすべきか、人が決めてシステムに指示

Photo: BMW システムによる制御が適切かどうかを、人が継続的に監視し、場合に応じて適時介入システムの動作原理、能力限界、サブシステム間の相互干渉等に関する正確な理解が必要
高齢者を含めた一般ドライバーにも厳しい教育・訓練を課す？
 座学が主体
 いざというときには、手動で運転できる技量が必要

レベル３の自動運転
システム： 走行環境の監視を含め、全ての動的運転タスクを担当。
作動継続が困難なとき、十分な時間余裕をもってドライバーに運転交代を要請。
ドライバー： システムの要請に適切に対応すること。
 「十分な時間余裕」とは、どれくらい？
 運転交代を要請してから一定時間が経過すれば、システムは機能を停止させてよい？
Photo: Volvo レベル３の自動運転の狙いは、移動時間の有効利用ではなかったのか？

運転主体の交代： 権限委譲（trading of authority）（１）誰から誰への権限委譲？
（２）権限委譲の要否と実行タイミングを決定するのは誰？
機械に割当てられたタスク
時刻１

人に割当てられたタスク

縦方向制御

横方向制御
機械から人への権限委譲

時刻２人から機械への権限委譲

時刻３

縦方向制御

縦方向制御

横方向制御

横方向制御

（Inagaki 2003; Inagaki & Sheridan 2012; 稲垣 2012)

人の判断による権限委譲（例） 離陸時は人間が操縦。
機体が安定すると、コンピュータに操縦を委任。
必要に応じてオートパイロットを解除して、人が操縦。
（例） ACC で走行中、割込みの気配を示す車に気づく。いったん ACC を解除し、割込み車との間隔を適切にした後、再び ACC をエンゲージ。

機械の判断による、機械から人への権限委譲は成功するとは限らない
高高度を飛行中に対気速度に矛盾が生じ、オートパイロット解除。
その後のパイロットの操作が不適切であったため異常姿勢に陥り、墜落。

www.franceculture.fr/sciences/les-pilotes-en-cause-dans-le-crash-du-vol-af447-rio-paris

運転交代要請（RTI）を発して機械から人へ権限委譲
ドライバー： 運転操作は行わず、走行環境の監視もしていない。
システムから運転交代を求められたとき、瞬時に状況を見極め、適切に車両を制御できる？
運転を交代してください
RTI(request to intervene)

Photo:Volvo?

RTI に対して適切に対応してくれればよいのだが・・・

RTI を発してもドライバーが対応してくれなかったら・・・

運転交代要請 (RTI) メッセージのデザイン
SAE J3016 「運転を交代してください」
所定の時間が経過すれば、システムは自動走行モード解除

事故発生リスクを最小にする RTI運転を交代してください。運転が引継がれたことが確認でき次第、自動走行モードを解除します
所定時間が経過してもドライバーによる運転引継ぎが確認できないときは・・・

システムは「権限委譲は不可能」と判断し、自身の機能範囲内で車両停止制御を実行
ミニマム・リスク・マヌーバ（国交省：自動運転車の安全技術ガイドライン）(Inagaki & Sheridan 2018)レベル３の自動運転も人に優しくないドライバーは、運転操作は行わず、走行環境の監視もしなくてよいが・・・
システムから運転交代を要請されたときは、適切に対応することが必要。
Photo: Volvo 瞬時に状況を理解し、何をしなければならないかを即断し、それを実行に移すことは容易？
 「システムの手に余るときは人に対応させよう」という設計思想は妥当か？
 その対象者は、厳しい教育・訓練を受けるとは限らない
一般ドライバーなのだが・・・

レベル４の自動運転
システム： 全ての動的運転タスクを担当。
作動継続が困難なときも、システム自身で適切に対応。
 「システムだけで対応できる」とは、「人に関与を求めなくてもよい」こと
 「何が起こっているか」、「システムがどのように対応しようとしているか」を人に知らせなくてもよいのではない
Photo: Volvo【移動サービスへの応用可能性】
 道路交通に関する条約（ジュネーブ条約）との整合性を図った
うえで、限定的な地域において無人自動運転移動サービスを実現させれば、高齢者のモビリティ向上へ繋がるレベル４の自動運転を活用した移動サービス
 高齢者による免許返納数の急増
 過疎地域等での公共交通路線廃止
 バス等のドライバー不足の深刻化

限定地域における無人自動運転移動サービス 天候条件の良い日中に、低速（10～30 km/h)で、定められたルートを走行
 搭乗可能な乗客は少人数。
特定場所で乗降 運行状況は、遠隔監視・操作者が監視。
（写真提供： 産総研）

遠隔型自動運転システムによる移動サービス
 「車内にドライバーがいない」という意味で「無人」 （レベル４）
 車両外にドライバーの役割を果たす遠隔監視・操作者が存在（レベル２）（写真提供： 産総研）

【遠隔型自動運転システムの課題】
 遠隔監視・操作者は、1人で何台の自動運転車を監視制御？
 現場の映像が監視・操作者に届くまでに 通信遅延 あり、操作者の制御コマンドが車両に届くまでにも通信遅延あり
 監視・操作者の 知識・技量 は、これらに対応可能？
 監視・操作者に提供される画像は正確な状況把握を保証可？

航空分野における「人間中心の自動化」
人は運航安全に最終責任を負うしたがって：

人は指揮権を持たねばならない

そのためには：（１） 人は決定に直接関与していなければならない（２） 人には情報が適正に提供されなければならない（３） 自動化システムの様子を人がモニタできるようになっていなければならない（４） 自動化システムも人をモニタできるようになっていなければならない（５） 自動化システムの行動は人にとって予測可能なものでなければならない（６） 人と自動化システムはたがいに相手の意図を知ることができなければならない(Billings 1997; 稲垣 2012)

「人間中心の自動化」 における難問 （その１）
人間は運航安全に最終責任を負う
したがって：

人は指揮権を持たねばならない

そのためには：（１） 人は決定に直接関与していなければならない• いついかなる場合でも，そうあるべきか?
（２） 人には情報が適正に提供されなければならない（３） 自動化システムの様子を人がモニタできるようになっていなければならない（４） 自動化システムも人をモニタできるようになっていなければならない（５） 自動化システムの行動は人にとって予測可能なものでなければならない（６） 人と自動化システムはたがいに相手の意図を知ることができなければならない自動化レベル (Levels of Automation: LoA)
― 人と機械のいずれが最終決定権を持つかを考えるヒントとして －(1)

コンピュ－タの支援なしに、すべてを人が決定・実行(2)

コンピュ－タはすべての選択肢を提示し、人はそのうちのひとつを選択して実行(3)

コンピュ－タは可能な選択肢をすべて人に提示するとともに、その中のひとつを選んで提案。それを実行するか否かは人が決定(4)コンピュ－タは可能な選択肢の中からひとつを選び、それを人に提案。
それを実行するか否かは人が決定(5)コンピュ－タはひとつの案を人に提示。人が了承すれば、コンピュ－タが実行(6)

コンピュ－タはひとつの案を人に提示。人が一定時間以内に実行中止を指令しない限り、コンピュ－タはその案を実行(6.5)

コンピュ－タはひとつの案を人に提示すると同時に、その案を実行(7)コンピュ－タがすべてを行い、何を実行したか人に報告(8)コンピュ－タがすべてを決定・実行。人に問われれば、何を実行したか人に報告(9)コンピュ－タがすべてを決定・実行。何を実行したか人に報告するのは、必要性をコンピュ－タが認めたときのみ(10)

コンピュ－タがすべてを決定し、実行(Sheridan 1992; Inagaki, Itoh & Moray 1998)

最終決定権の所在は状況に応じて柔軟に 制約条件が少ないほど、良い解を得ることができる・・・ 最適化理論が教えるところ
 最終決定権を持つのは誰？
 「つねに人優先」 （LoA 1 – LoA 5）
 「つねに機械優先」 （LoA 6 – LoA 10）のように制約を設けて考えると、解の選択範囲が狭くなる
最終決定権の所在に制約を課さない方式「あるときは人に、あるときは機械に最終決定権を与える」
situation-adaptive autonomy(Inagaki 1991, 1993, 1995, 2000, 2003)自動化レベル４： 空中衝突防止システム(4)システムは可能な選択肢のうちからひとつを選び、それを人に提案。それを実行するか否かは、人が決定。

機械は助言をする。人はその助言を無視することができる

回避アドバイザリ
Climb, Climb

TCAS
脅威機

機械の助言に従わず、ニアミス事故

自動化レベル５： Advanced TCAS
(５)

システムはひとつの案を人に提示。
人が了承すれば、システムが実行。

機械からの提案に賛成ならば、人は、その実行を機械に指示
Climb が妥当です。
実行してよろしいですか？

パイロットが「OK」のボタンを押すとシステムが回避操作を開始

Advanced
TCAS
脅威機

自動化レベル６： 急減圧検知時の自動降下(6)

システムはひとつの案を人に提示。
人が一定時間以内に実行中止を指令しない限り、システムはその案を実行。

機械が人に提案を行ったとき、 限られた時間内 に人が明確な拒否を表明しない限り、機械はその提案を実行① システムが客室急減圧を検知② システムは乗員に告知し、同時に緊急降下のカウントダウン開始③ カウントダウン終了までに乗員が拒否権を発動しなければ、システムは緊急降下を実行(Flight International, 18-24 Aug 2009)

自動化レベル 6.5： 車線逸脱防止システム
LoA 6.5

システムはひとつの案を人に提示すると同時に、その案を実行

機械は、自分の意図を人に伝えると同時に、それを実行
クルマが車線を逸脱しそうになると、警報と表示でドライバーに知らせ、それと同時にステアリングを修正するトルクを発生する

自動化レベル７： エンジン推力不均衡の補償(7)システムがすべてを行い、何を実行したか人に報告。

機械がよいと思ったことは、即時実行。人へは事後報告のみ③②①① 第2エンジン（右主翼側）故障② 左右エンジンの推力不均衡により機首が右に振れようとする③ TACが方向舵を制御して機首を左に向ける力を作り出して②の力を打消し，機首の振れを抑制

TAC (thrust asymmetry compensation)③

「人間中心の自動化」 における難問 （その2）人は運航安全に最終責任を負う
したがって：

人は指揮権を持たねばならない

そのためには：（１） 人は決定に直接関与していなければならない（２） 人には情報が適正に提供されなければならない（３） 自動化システムの様子を人がモニタできるようになっていなければならない（４） 自動化システムも人をモニタできるようになっていなければならない（５） 自動化システムの行動は人にとって予測可能なもので• 人の行為に不都合が検出された場合はどうする?
なければならない（６） 人間と自動化システムはたがいに相手の意図を知る• 注意喚起や警報を発して警告する?
ことができなければならない• 警告しても何もしようとしないときはどうする？

レベル２の自動運転におけるドライバーモニタリング
 ドライバーが適切に監視制御の任に当たっていることの確認にはドライバーモニタリングが必要というが・・・ 視線、瞬き、頭部の傾き、姿勢、脈波などを調べるとのことだが、個人差は・・・
Photo: BMW問題山積 ドライバーモニタリングのための特別なセンサを必要とせず、車両制御用データを取得するセンサのみを使う手法を提案 鍵を握るアイデアは、双対制御（dual control）
 運転支援の文脈での成果は、（Saito, Itoh & Inagaki 2016）

双対制御： ひとつの制御入力で２つの目的を・・・
エアバス A320 の着陸時スポイラー展開ロジック（１） タイヤ回転が72ノット以上（２） 両主脚の軸の圧縮（３） スラストレバー位置が4度以下（４） 電波高度計で6フィート以下
片脚着地の際、スポイラーが展開せず、オーバーラン
Partial extension（１） 片方の主脚の軸の圧縮（２） 少なくとも１エンジンでリバース

スポイラー10度展開
この操作が持つ
２つの目的は・・・

双対制御的なドライバ―モニタリング
レベル２の自動運転（ハンズオフ）の場合
 ドライバーが居眠りをしている、あるいは眠気と戦っている等、ドライバーが監視制御の任に当たっていない場合であっても、表面的には車両挙動に不都合は見られない。しかし、監視制御が適切に行われていない以上、リスクが現存
 そこで、システムは時折、車両に「正常からの微小な逸脱」を発生させ（双対制御の1段目の制御）、ドライバーの状況認識の適切さを試す
 ドライバーが「正常からの微小な逸脱」へ修正をかけようとする
ことがなければ、システムは「ドライバーは監視制御の任に当たっていない」ことを確認するため減速（2段目の制御）

各自動運転レベルには、固有のむずかしさがある

Photo: BMW

Photo: Volvo

Photo: Zoox

レベル２の自動運転• 監視制御は、楽な仕事ではない• 高機能なシステムの動作原理や能力限界を知らないと、システムを正しく監視することはできない
レベル３の自動運転• 権限の的確な引継ぎには、瞬時の状況判断力が不可欠• 移動時間を有効に使いたくても、集中できず中途半端

人と機械の間に適切な信頼を醸成する工夫

不適切な信頼 （過信、不信）は、交通移動体において発生してきた多くの事故の背景要因

信頼 (trust) を形成する４つの次元【基礎】 自然界を支配する法則や社会の秩序に合致している【能力】 つねに安定的かつ望ましい行動や性能が期待できる【方法】 行動を実現するための方法、アルゴリズム、ル－ルが理解できる【目的】 上記の 背後にある意図・動機が納得できる（Lee & Moray 1992；稲垣 2012)人と機械の共生に必要な２種類の HMI(1) Human-Machine Interface
人が機械を知る 機械と 状況認識を共有 できる手がかり 機械の 判断の根拠 が分かる手がかり 機械の 意図 が分かる手がかり 機械の 能力限界 を知る手がかり 機械の 作動状態 が分かる手がかり 機械が何を考え、何をしようとしているかが分かる
 機械への過信・不信の防止（Inagaki 2006, 2008; 稲垣 2012)人と機械の共生に必要な２種類の HMI（２） Human-Machine Interaction
機械が人を知る
人の心身状態や環境条件に応じて人への支援形態を変える（例） 人による制御が適切に行われなければ、機械が介入して安全を確保する––

人と機械の役割分担、権限と責任の配分を固定化せず、状況適応的に変更可能に人と機械の間での権限と責任の配分を変更する権限も、状況適応的に人と機械の間で委譲可能に（Inagaki 2003; 稲垣 2012)人と機械の共生をデザインする上での視点：（１） 時間余裕
Descend,Descend

警報は、衝突予測時刻の何秒前に発せられる？
15~35 秒20~30 秒
Terrain,Terrain

Whoop, Whoop,
Pull up!

1~2 秒

人と機械の共生をデザインする上での視点：（２） 運転者の知識・技量の質
 交通移動体の運転者– 職業運転者 （例） パイロット、電車の運転士、バス／トラックのドライバー等– 非職業運転者 （例） 一般乗用車のドライバー等
 非職業運転者に対して仮定できないもの– 自動化システムに関する詳細な知識– 高度な運転技量– 定期的・継続的な教育・訓練
航空機を対象とした「人間中心の自動化」
自動車を対象とした「人間中心の自動化」

References
稲垣 (2012). 人と機械の共生のデザイン， 森北出版.
Inagaki, T. (2003). Adaptive automation: Sharing and trading of control. In E.
Hollnagel (Ed.), Handbook of Cognitive Task Design, Chapter 8 (pp. 147-169), LEA.
Inagaki, T. (2010). Traffic systems as joint cognitive systems: Issues to be solved
for realizing human-technology coagency. Cogn. Tech. & Work, 12(2), 153-162.
Inagaki, T. & Sheridan, T. (2012). Authority and responsibility in human-machine
systems: Probability theoretic validation of machine-initiated trading of authority.
Cogn. Tech. & Work, 14(1), 29-37.
Saito, Y., Itoh, M. & Inagaki, T. (2016). Driver assistance system with a dual
control scheme: Effectiveness of identifying driver drowsiness and preventing lane
departure accidents. IEEE Trans. Human-Machine Systems, 46(5), 660-671
Inagaki, T. & Sheridan, T. (2018). A critique of the SAE conditional driving
automation definition, and an analyses of options for improvement. Cogn. Tech. &Work. DOI: 10.1007/s10111-018-0471-5.
国土交通省自動車局 （2018）. 自動運転車の安全技術ガイドライン.
SAE (2018). Taxonomy and Definitions for Terms Related to Driving Automation
Systems for On-Road Motor Vehicles. Surface Vehicle Recommended Practice,J3016.