電子情報通信学会誌

Vol.89, No.12, pp.1026-1031, 2006

リスク環境 における人 と知 能 機 械 の協 調 をデザインする
稲垣

１. は じ め に
近年の機械は，状況を認知・解析し，今何をなすべきかを決め，それを実行に移す能力を備えている．このような高い知能と自律性を持つ機械は，日常のいたるところに存在するが，ここでは，交通移動体における自動化システムを例にとって，人と機械の関わりを考察してみることにしよう．
航空機における自動化システムは，当初は簡単な姿勢制御のみを行うものであったが，やがて地上の無線標識施設からの信号を取り込んで精密な操縦を行えるようになる．そして今や制御能力のみならず，機体重量や気象条件などの情報をもとに最適速度・高度を計算し，飛行を計画する能力を備えている．このような自動化システムの進展が航空機の安全性向上に寄与してきたことは明白である．
一方で，高度な知能，自律性，高信頼性といった自動化システムの特質が，人間機械系の安全性を損ない得る問題を惹き起こしていることも，また事実である．
本稿では，人と高度技術システムのミスマッチともいえる問題を示した後，人と機械が自然な形で協調できるシステムを実現するには，システム設計にどのような視点が求められているかを考察する．
２．人と高度技術システムのミスマッチ
高度自動化の進んだ人間機械系に生じている代表的な問題には，（１）多機能インタフェースによるエラーの誘発（２）人と機械の意図の対立（３）自動化システムへの不信と過信の交錯（ ４ ） 自 動 化 シ ス テ ム に よ る「 異 常 の 隠 蔽 」（５）オ ー ト メ ー シ ョ ン ・ サ プ ラ イ ズ（ au to ma tio n surpr is e）な ど が あ る （ 1 ）敏之（１）は，コンパクトな空間のなかに多くの機能を実現するための「モード」がもたらす不都合である．人は自動化システムに 「 モ ー ド A」 の も と で の 指 示 を 与 え た つも り で い て も ， 実 際 に は 「 モ ー ド B」 の もとでの指示であったりすることがある．
（２）は，機械が人の行為の邪魔をするケースである．同じ場面にいても，人が見ているものと，機械が見ているものが必ずしも同一ではないことに起因する．
（３）は，警報システムに典型が見られる．警報生成のしきい値を安全側に定めると誤報が増えるが，誤報を何度か経験すると ，正 し い 警 報 が 出 て も ，「また誤報だろう」と放置することがあり得る．一方，人は，「異常が起これば警報が鳴るはずだ」と，状況監視を警報システムに任せきりにすることもある．
（４）は，自動化システムの特質に起因するところが大きい．自動化システムは，制御対象に生じた異常を覆い隠すほど強い制御をかけることができるが，その制御がどれほど骨の折れるものか，人に伝えようとはしない．したがって，よほど注意しな
い限り，背後に隠された制御対象の異常に人が気づくことは難しい．
（５）は，自動化システムが知能を活かして「気を利かせる」ことなどによって起こる．あまりに自律的にことが進むと，人は状況が把握できないまま，「いったい何が起こっているのだ？」とただ驚くことになる．
３．人間中心の自動化
人と高度技術システムとの間のミスマッ
チを回避する手がかりのひとつは，「人間中心 の 自 動 化 」 で あ る （ 2 ）．「 自 動 化 で き る とこ ろ は す べ て 自 動 化 す る 」，あ る い は「 自 動化するか否かはコスト最小化の観点で決定する」という，技術主導的なアプローチへ

の反省から生まれた「人間中心の自動化」の考え方は，早くから自動化システムが多用されてきた航空分野で議論され，表１のように纏められている．
ただし，「 人 間 中 心 の 自 動 化 」は ，ま だ 十分に精密化されたレベルには到達していない ．例 え ば ，表 １ は ，「人に指揮権がなければ な ら な い 」と し て い る が ，「いついかなる場 合 で も そ う あ る べ き 」な の か ，「ある一定の条件が満たされる場合はその限りではない」のか明確ではない．
また，「 自 動 化 シ ス テ ム は オ ペ レ ー タ（ 人 ）をモニタできるようになっていなければならない」との主張も，人の行為に不都合が検出されたとき，「警告を発して人に注意を促 す に と ど め る べ き 」な の か ，「必要に応じて自動的に介入し，人の行為の不都合を是正する措置を講じることを許す」のかは，明らかにしていない．
こ の よ う に ，表 １ の「 人 間 中 心 の 自 動 化 」に は 不 明 確 な 点 が 多 々 あ り ，解 釈 次 第 で は ，
表１の言明間に不整合が生じるだけでなく，人間機械系の設計が大きく異なり，結果的にシステムの安全性も異なることもあり得る．
４．対象に依存する「人間中心の自動化」「人間中心の自動化」は一律のものではない．そこで実現すべき「人と機械の協調形態」は，何を対象とするかによって変わり得るものである．例えば，自動車のための「人間中心の自動化」は，航空機のための「人間中心の自動化」と大きく異なっていてよいのだが，そのことは意外に認識されていない．
「 人 間 中 心 の 自 動 化 」が 対 象 に依存することは，「 運 転 者 の 質 」と「 時 間 余裕」の２つの視点から考察してみれば明らか で あ る （ ３ ）．
表 １

「運転者の質」は，教育・訓練を反映している．定期的に一定の教育・訓練が課される航空機のパイロットと，いったん免許を取得すれば，よほどのことがない限り教育・訓練を課されることがない一般乗用車のドライバの間には大きな違いがある．それは，とっさの判断や操作技量，自動化システムに対する理解度の違い等となって現れる．自動車にも自動化システムが次々と搭載されていく昨今，ヒューマン・インタフェースを含めたシステム設計に十分配慮しなければ，自動車における「人と高度技術システムのミスマッチ」は，航空機のそれとは比較にならないものとなる可能性がある．
「時間余裕」とは，緊急時において人が認 知・判 断・操 作 に 使 用 で き る 時 間 を 指 す ．
例えば，他機との衝突を避けるには上昇すべきか降下すべきかを航空機衝突防止装置
TCA S (Traffic aler t an d Co llision Avoidan ce
Sys te m) が パ イ ロ ッ ト に 提 示 す る の は ， 脅
威 機 へ の 最 接 近 予 想 時 刻 の 15 ～ 35 秒 前 である．パイロットがそれから 5 秒以内に操作 を 開 始 す れ ば ， 衝 突 は 回 避 で き る （ ４ ）．
しかし，自動車なら，先行車への衝突警報が発せられてから衝突回避操作を始めるまでに許される時間は高々数秒である．すな
わ ち ，航 空 機 に 関 し て は ，「いついかなる場合でも，人に指揮権を与える」ことが妥当であったとしても，自動車についてもそうであるという保証はない．
５．知能機械による多層支援
人への支援は多層的に行う必要がある．
まず，「 平 時 に お け る 支 援 」と し て の「 状 況認識の強化」である．人の認知はつねに正しいという保証はないが，「眼の前の状況が的確に認識することができれば，何をすべ

航 空 に お け る 「 人 間 中 心 の 自 動 化 」 の 原 則 （２ ）人 は ， 航 空 シ ス テ ム の 安 全 の た め ， 最 終 の 責 任 を 負 う ．
そ れ ゆ え ，•••••••••

人 に 指 揮 権 が な け れ ば な ら な い ．
指 揮 を 効 果 的 に 行 う た め に ， 人 は 直 接 的 に 関 与 で き な け れ ば な ら な い ．
人 が 直 接 関 与 す る に は ， 人 に 情 報 が 提 供 さ れ ね ば な ら な い ．
機 能 を 自 動 化 し て よ い の は ， 適 切 な 理 由 が あ る 場 合 に 限 る ．
人 は 自 動 化 シ ス テ ム を モ ニ タ で き る よ う に な っ て い な け れ ば な ら な い ．
そ れ ゆ え ， 自 動 化 シ ス テ ム は 予 測 可 能 で な け れ ば な ら な い ．
自 動 化 シ ス テ ム は オ ペ レ ー タ （人 ）を モ ニ タ で き る よ う に な っ て い な け れ ばな ら な い ．
シ ス テ ム を 構 成 す る 各 要 素 は ， 他 の 要 素 の 意 図 に 関 す る 知 識 を 持 っ て いな け れ ば な ら な い ．
自 動 化 は ， 簡 単 に 学 べ ， 簡 単 に 使 え る よ う に デ ザ イ ン さ れ て い な け れ ば なら な い ．

きかは自ずとわかる」ともいわれることか
ら，「 状 況 認 識 の 強 化 」は 人 の 意 思 決 定 の 支援でもある．また，意思決定をするのは人であるという意味において，「状況認識の強化 」は ，「 指 揮 権 を 人 に 与 え る 」と い う「 人間 中 心 の 自 動 化 」の 考 え 方 に 整 合 的 で あ る ．
しかし，人を取り巻く環境はつねに平穏で あ る と は 限 ら な い ．急 変 す る 状 況 の 中 で ，とっさの判断や操作が求められることがある．後述するように，緊急性が高い状況の中で，今何が起こっているか，何をすれば事故を防ぐことができるかがわかっていても，人はその事故回避操作を実行できるとは 限 ら な い ．そ こ で「 緊 急 時 に お け る 支 援 」
としての操作支援，あるいは「権限委譲の作りこみ」が必要となる．ただし，ここでいう操作支援には，機械の判断に基づいて実行されるものが含まれることから，「権限委譲の作り込み」は，いわゆる「人間中心の自動化」の考え方に整合しないのではないかとの議論も起こり得る．本節では，その点についても考察してみよう．
５．１ 状況認識の強化
状 況 認 識 の 対 象 は 多 様 で あ り ，外 部 環 境 ，運 転 者 自 身 ，制 御 対 象（ 移 動 体 ），自 動 化 システム等が含まれる．第 2 節に述べた人と高度技術システムのミスマッチを避けるう
えで，状況認識を強化するヒューマン・インタフェース設計にはつぎのような配慮が必要である．
（１）機械がなぜそのように判断したのか，その根拠が分かるような情報の提示．
（２）機械が今何をしようとしているのか，意図理解の手がかりとなる情報の提示．
（３）人と機械の状況認識共有を助けるよ
うな情報の提示．
（４）機械への過信を防ぐために，機械の能力限界を知る手がかりとなる情報の提示．
これらの重要性は，つぎの例から想像できよう．
（例１） 高速道路走行におけるドライバの負担軽減を図るシステムにアダプティ
ブ・ク ル ー ズ・コ ン ト ロ ー ル (Adaptiv e Cru iseCon tro l: A CC） が あ る ． ACC は ， ド ラ イ バの希望速度による一定速走行あるいは先行車との車間距離の保持を行う能力を持つ自動 化 シ ス テ ム で あ る ． さ て ， ACC を 使 っ て
先行車を追従してきたところ，先行車が減速を始めたとする．前方が渋滞しているら
しい．ただ，隣のレーンはまだ順調に流れて い る の か ，高 速 で 走 る 車 が 前 方 に 見 え る ．
こ の よ う な と き ，「 ACC は い っ た い ど の 車を先行車として認識しているのか」を明確に 知 り た い と 思 う こ と が あ る （ 図 １ Ca s e1 ）． も し ， 追 従 対 象 が 現 在 の 走 行 レ ー ン 上の 先 行 車 で あ る な ら ば ，や が て ACC の 減 速操作が始まるはずである．しかし，隣のレーンの前方にいる車を追従対象として認識
し て い る な ら ，ド ラ イ バ が ACC を 解 除 す る
か，自らブレーキ操作を行う（これによって も ACC は 解 除 さ れ る ）こ と を し な い 限 り ，走行レーン前方の先行車に異常接近することになる．
ま た ， ACC で 先 行 車 を 追 従 中 ， 隣 の 車 線
前方からやや速度の遅い車がはみ出してきたとき，「 ACC に は そ の 車 が 見 え て い る か 」
気 に な る こ と も あ る （ 図 １ Ca s e 2）．
割 込 も う と し て い る 車 が ACC に 見 え て いるなら，その車との車間を確保すべく，ほど な く ACC は 減 速 を 開 始 す る は ず で あ る ．
し か し ，割 込 み 車 が ACC に 見 え て い な い なら，このまま放置すれば，割込み車に急接近することになる．

Case 1

なぜ ACC が今ここで加速する?

Case 2どうして ACC は減速してくれない?

図１ オートメーション・サプライズ

こ の よ う に ， ACC に は 何 が 見 え て ， 何 が見えないのか，今何を見ているのかがわか
れ ば ，ド ラ イ バ は ACC の 意 図・挙 動 を 予 測す る こ と が で き る た め ，ACC に 対 し て 過 信や不信（不安）を抱くこともなければ，オートメーション・サプライズに遭遇することもないはずである．
５．２ 権限委譲の作り込み「状況認識の強化」の目的は，人に状況を的確に理解させることにより，「危険な状況」に立ち至る可能性そのものをあらかじめ排除しようとする点にある．しかし，人が注意を持続させることはむずかしく，ふとした拍子に「注意散漫」と称される状態に陥ることもある．そのようなとき，眼前に潜在的な危険が迫りつつあることを機械が検知できれば，警報などで人の注意を喚起する必要もある．警報の発出も「状況認識の強化」に含まれる．
しかし，それだけで十分だろうか．図２
は，自動車の正面衝突ならびに追突事故に
関 す る 359 件 の デ ー タ を も と に ， ド ラ イ バ
がどのようにして衝突を回避しようとした
か を 示 し た も の で あ る （ ５ ）． こ の 図 は ， 眼の前に迫りくる危険に気がついていても，す な わ ち ，状 況 認 識 は 正 し く で き て い て も ，人は緊急時には必ずしも的確な危険回避操作を実行することができないことを示している．特に，何も操作ができないまま衝突していくケースの多さは，「人には能力の限界がある」ことを直視したシステム設計の必要性を物語っている．

不操作

ブレーキ

37.9%

42.6%

ステアリングステアリングと5.6%

ブレーキ
13.9%

図２

緊急時の危険回避操作（５）仮に，「緊急時においても最終的な指揮権を人に与える」ようにシステムが設計されていたとしよう．そのとき機械に許される
こ と は ，人 が 事 故 回 避 操 作 を 完 了 す る ま で ，「 追 突 注 意 ！ 」，「 ブ レ ー キ を か け よ ！ 」 な

どの警報を発し続けることだけでる．やかましく警報は発するものの，決して手を差し延べようともしない傍観者的な機械は，はたして「知能機械」と呼べるだろうか．
そして，人は，そのような傍観者的な機械をチームメイトとして認めるだろうか．
そこで必要となるものが「権限委譲」である．権限委譲とは，ある主体（人または機械）が行っていたタスクを，ある時点で別の主体（機械または人）に譲り渡すことを い う （ ６ ）． 人 の 能 力 限 界 を 補 う 意 味 で の権限委譲は，人が行うべきタスクが適切に遂行されていないことが分かったとき，そのタスクを機械が引継いで遂行する形をとる．
権限委譲は「いつ，誰から誰へ権限を移す か 」を 問 う も の で あ る が ，「その判断を下し ，権 限 委 譲 を 実 行 す る の は 人 か ，機 械 か 」の検討も重要である．権限委譲の方式によっては，「 指 揮 権 を 人 間 に 与 え る 」こ と を 主張する「人間中心の自動化」の考え方に抵触することがあるからである．しかし，人の特性や能力の限界を考慮すると，「指揮権を持つべきは人か，機械か」という，人と機械を対立させた２者択一的なシステム設
計 論 か ら の 脱 却 ，す な わ ち ，「あるときは人が指揮権を持ち，またあるときは機械が指揮権を持つことによって人の能力の弱点を補完する」といった，状況に即した柔軟なシ ス テ ム 設 計 が 求 め ら れ る （ ７ ）．
５．３ 最適な自動化レベルの選択
そのようなアプローチのひとつが，さまざまな文脈を想定し，そのなかでの人と知能機械の相互作用を記述し，それらが作り出すリスクを定量的に解析・評価することによって最適な人と機械の協調のあり方を探ろうとする方式である．そこで重要な役割を演じるのが「自動化レベル」の概念であ る ． Sherid an に よ る 古 く か ら 知 ら れ た
10 段 階 の リ ス ト （ 6 ） に ， 筆 者 ら の 提 案 （ 8 ）に よ る「 自 動 化 レ ベ ル 6.5」を 加 え た も の を表２に示す．
表２は，人と機械の協調形態をシステマ
ティックに考え出す手がかりとして利用できる．そのことを示そう．
（ 例 ２ ） ACC を 用 い て 高 速 道 路 を 走 行 中 ，セ ン サ が 先 行 車 の 急 減 速（ 自 車 ACC の 通 常ブレーキでは対応できないほどの減速）を検知したとする．この場面に対するドライバ支援として，どのようなものが可能だろうか．

与えられた文脈（先行車の急減速）のもとで，表２の自動化レベルの各々が，どのような「支援形態」を表しているのかを考え て み る と ，11 個 の 支 援 形 態 の う ち で 現 実的なものは，つぎの 4 つであろう．
（１）（１）「 ブ レ ー キ を か け よ 」と 警 報 を発する方式．この方式の自動化レベ
ルは４である．
（２）（２）「 ブ レ ー キ を か け よ 」と の 警 報が発せられてしばらくしても（例えば，２秒経過しても）ドライバがブレーキをかけなければ自動的に緊急ブレーキをかける方式．この方式の自動化レベルは６である．
（３）（３）「 ブ レ ー キ を か け ま す 」と 宣 言すると同時に自動的に緊急ブレーキをかける方式．この方式の自動化レ
ベ ル は 6.5 で あ る ．
（４）自動的に緊急ブレーキをかけた後で，「今，緊急ブレーキをかけました」と事後報告する方式．この方式の自動化レベルは７である．
このうち，権限委譲を事後報告する形をとる（４）は，オートメーション・サプライズを惹き起こす可能性がある．断りなしに，いきなり緊急ブレーキをかけるからであ る ． こ れ に 対 し ， 自 動 化 レ ベ ル 6.5 は ，自動化レベル７の特質である操作の迅速性を確保しつつ，緊急操作（今のケースでは自動的な緊急ブレーキ操作）を行うことを人に通知することで自動化レベル７の欠点（オートメーション・サプライズ）の解消
を 図 ろ う と 考 案 さ れ た （ 8） も の で あ る ． す
な わ ち ，自 動 化 レ ベ ル 6.5 は 自 動 化 レ ベ ル 7の方策に劣る点はないことから，例２に対する実質的な代替案は，（ １ ）－（ ３ ）と なる．
表 ２

では，これらの中から最適なものを選ぶにはどうすればよいだろうか．それには，３つのアプローチがある．第 1 は，数理モ
デ ル を 用 い た 理 論 解 析 に よ る 方 式 （ 9 ），第 ２
は，支援システムをドライビングシミュレータやフライトシミュレータなどの上に実現し，被験者を招いて評価実験を行う方式（ 10） , (11)
，第３は，心的特性を考慮に入れた人の行動モデルをコンピュータ上に構築し，それを被験者の替わりに用いてシミュ
レ ー シ ョ ン 実 験 を 行 う 方 式 （ 12） で あ る ． この う ち ，第 ３ の ア プ ロ ー チ は ，「必要とする機能を確実に提供してくれた」という支援
シ ス テ ム の 信 頼 性 （ reliab ility） の 実 績 が やが て 人 に 高 い 信 頼 感（ trust）を 抱 か せ る が ，ときにはそれが高じて，「 こ れ か ら も ，必 要な機能は確実に提供してくれるはずだ」という過信に至ることもあるといった状況を想定して設計代替案を評価するのに適している．
「人に指揮権を与える」ことにこだわる
なら，自動化レベルは５以下に設定しなければならない．上に揚げた「先行車の急減速」に対処する方式のうち，それを満たすものは（１）のみである．しかし，ドライ
バ が ACC に 過 信 を 抱 く 可 能 性 が あ る こ とを考慮したコンピュータ・シミュレーショ
ン（第３のアプローチ）による評価実験では，安全性確保の観点からの最適なドライ
バ 支 援 形 態 は ， 自 動 化 レ ベ ル 6.5 の （ ３ ）で あ っ た （ 1 2 ）．こ れ は ，「指揮権を持つべきは人か，機械か」は，状況依存的であることを示している．同様の結果は，認知工学的 実 験（ 第 ２ の ア プ ロ ー チ ）（ 1 0 ） , ( 1 1 ) ，数 理
モデルを用いた理論解析（第１のアプローチ ） に よ っ て も 得 ら れ て い る （ 9 ）．

自 動 化 レ ベ ル （６ ）， （８ ）(1 )コ ン ピ ュ － タ の 支 援 な し に ， す べ て を 人 間 が 決 定 ・実 行 ．

(2 )コン ピ ュ－ タは す べ て の 選 択 肢 を提 示 し，人 間 は そ の うち の ひ とつ を選 択 して 実 行 ．

(3 )コ ン ピ ュ － タは 可 能 な 選 択 肢 を す べ て 人 間 に 提 示 す る ととも に ，そ の 中 の ひ とつ を

(4 )コン ピ ュ－ タは 可 能 な 選 択 肢 の 中 か らひ とつ を選 び ，そ れ を人 間 に 提 案 ．

(5 )コン ピ ュ－ タは ひ とつ の 案 を人 間 に 提 示 ．人 間 が 了 承 す れ ば ，コン ピ ュ－ タが 実 行 ．

(6 )コン ピ ュ－ タは ひ とつ の 案 を人 間 に 提 示 ．人 間 が 一 定 時 間 以 内 に 実 行 中 止 を 指 令 しな い(6 .5 )コ ン ピ ュ － タは ひ とつ の 案 を 人 間 に 提 示 す る と同 時 に ，そ の 案 を 実 行 ．

(7 )コン ピ ュ－ タが す べ て を 行 い ，何 を 実 行 した か 人 間 に 報 告 ．

選 ん で 提 案 ．そ れ を 実 行 す る か 否 か は 人 間 が 決 定 ．
そ れ を 実 行 す る か 否 か は 人 間 が 決 定 ．

限 り，コン ピ ュ－ タは そ の 案 を 実 行 ．

(8 )コ ン ピ ュ － タ が す べ て を 決 定 ・実 行 ．人 間 に 問 わ れ れ ば ，何 を 実 行 し た か 人 間 に 報 告 ．

(9 )コ ン ピ ュ － タ が す べ て を 決 定 ・実 行 ．何 を 実 行 し た か 人 間 に 報 告 す る の は ，(1 0 )

コン ピ ュ－ タが す べ て を決 定 し，実 行 ．

必 要 性 をコン ピ ュ－ タが 認 め た ときの み ．

６．む す び
人を支援するシステムが，能力以上に信頼されても，能力を不当に低く評価されても，支援システム導入の企図は達成されない．人と機械の協調関係を円滑で効果的なものにするためには，「 状 況 認 識 の 強 化 」と「権限委譲の作り込み」が欠かせない．直面する状況を人と機械がどのように認識し，機械自身のどのような判断のもとで，あるいは人の指示のもとで機械が何をしようとしているのかが人に明確に提示されておれ
ば，機械の意図がわからないことによるオートメーション・サプライズの発生を抑制することができる．また，人と機械の意図対立が起こったとしても，人がその原因に気づくことが可能であろうし，人が機械のモードを誤解しても，それに気づくことは難しくないであろう．制御対象の異常を隠すほど強力な制御がかけられていたとしても，機械の意図が「通常の意図」と異なることから分かるはずである．さらに，機械の意図に加えて機械の能力が人に分かっておれば，機械への不信や過信の根本的要因が除去されたことになる．
なお，「 権 限 委 譲 の 作 り 込 み 」の 検 討 に は ，人の心的特性や知能化機械との相互作用に関わる確率的リスクモデルなどが必要となる が ，そ れ は ，登 場 以 来 20 年 近 く が 経 過 しているにもかかわらず，未だに「スローガン」的なレベルにとどまっている「人間中心の自動化」の概念の精密化にも寄与するものと思われる．

文献(1) 稲垣敏之，“ヒューマン・マシン・システム－高信頼性が損う安全性，”システム／制御／情報, vol. 41, no. 10, pp. 403-409, 1997.
(2) C.E. Billings, Aviation automation – The search
for a human-centered approach, LEA, 1997.
(3) T. Inagaki, “Design of human-machineinteractions in light of domain-dependence ofhuman-centeredautomation,”
Cognition,
Technology & Work, Vol.8, pp. 161-167, (2006) .
(4) 稲垣敏之，“絶対安全への挑戦：人を支援する知的技術，”人工知能学会誌, vol. 17, no. 6, pp.
732-737, 2002.
(5) 交通事故総合分析センター，交通事故例調査・分析報告書, 2003.
(6) T.B. Sheridan, Telerobotics, Automation, andHuman Supervisory Control. MIT Press, 1992.
(7) T.Inagaki, “Adaptive automation: Sharing andtrading of control,” Handbook of Cognitive Task
Design, Chapter 8, LEA, 2003.
(8) T.Inagaki, et al, “Trust, self-confidence andauthority in human-machine systems,” Proc. IFAC
HMS, pp. 431-436, 1998.
(9) T.Inagaki, “Situation-adaptive autonomy fortime-critical takeoff decisions,” Int. J. Model. &Simul., vol. 20, no. 2, pp. 175-180, 2000.
(10) T.Inagaki, et al, “Automation and human interface
for takeoff safety,” Proc. 10th Int. Symp. Aviat.
Psych., pp. 402-407, 1999.
(11) N. Moray, et al, “Adaptive automation, trust, andself-confidence in fault management oftime-critical tasks,” J. Exp. Psych: Applied, vol. 6,
no. 1, pp. 44-58, 2000.
(12) T.Inagaki, et al, “Human interaction with adaptiveautomation: Strategies for trading of control underpossibility of over-trust and complacency,” Proc.
HCII-Augmented Cognition (CD-ROM) 2005.