TALKSAFE2006

特別講演

筑波大学大学院

教授

稲 垣

敏 之

本日は「リスクを見つけて制御する」というタイト
ルでお話しさせていただきたいと思います。私はヒュ

認知がすべての根源

ーマンエラーの講義をすることもありますが，ほとん
どの事例は私自身の経験でまかなえるほど頻繁にヒュ「ベテランがエラーを犯すということは，あってはーマンエラーをやっておりますので，今日は自戒も込ならない」という論調で報道されることがあります。

めてお話しさせていただきます。

特に事故が起こると，ヒューマンエラー糾弾の大合唱となりますが，その中でよく聞かれる言葉が，「信じられないミスである」，「決して起こしてはならないミ
スである」，「ベテランにあるまじき初歩的なミスである」といったものです。しかし，エラーを犯した当事者への非難や糾弾は全く不適切です。
エラーの背景にある様々な要因を理解し，本人をその場面に追い込んだものが何であるかをよく把握しておかなければいけない，これが非常に重要な視点であると考えます。このことは全日空・総安推発行の『ヒューマンファクターズへの実践的アプローチ』の中でも紹介されています。
航空事故の原因の 7 〜 8 割をパイロットのエラーが占めると言われます。確かに一つの主原因を割り当てれば，表 1 のように，パイロットのエラーが約 7 割を占めます。しかし，多重要因で分析すれば，表の右欄にあるように，整備，設計・製造，マネジメントにかかわる要因も少なくなくありません。このことからも分かるように，事故の原因は一つではないという視点

1

ANA グループ安全飛行 2006.9

表 1 航空事故の原因分析例

このような状況では，誰も議論に身が入らず，意味のある結論は出てこないだろうと想像が付きます。つまり，この例では，リーダーが状況を正しく認識していなかったわけです。
ここで，研究の場においては，状況認識についてどのような議論がなされているかご紹介しておきたいと思います。
状況認識（situation awareness）は，3 つのレベルがあると考えられています。

（ヒューマンファクターズへの実践的アプローチ，1993）■状況認識（situation awareness）
が非常に重要となります。

レベル 1 ：何かが起こっていることに気付く
レベル 2 ：その原因を特定できる

さて，われわれの日常生活や業務は意思決定の連続

レベル 3 ：これからの事態の推移が予測できるです。
「認知 → 判断 → 操作」が繰り返されているということです。分かりやすい例を挙げますと，「この

まず，何か変だということに気付き，次に原因を特

部屋は寒い」と感じるのが「認知」，それから「エア定し，そして，これからどういう事態に移っていくか

コンの設定温度を上げよう」と思うのが「判断」ある（ここで行動を取ればどうなるか，取らなければどういは「意思決定」，そして，リモコンを使って設定値なるか）を予測できるということで，レベル 3 までいを変更するのが「操作」あるいは「行動」です。設定

けば，状況認識は完了したことになるわけです。
「ま

値を変更した後，それでもまだ寒いと認知したら，もあ，レベル 3 は無理としても，レベル 1 の気付くことう少し温度を上げようと意思決定し，リモコンを押す

くらいは簡単であろう」と思いたいところですが，残行動を取る，というように繰り返すことになります。

念ながらそうでもありません。

ところが，「この部屋は寒い」と感じなかったら，設定温度を上げようと思うはずがありません。さらに，

例えば，1986 〜 1992 年までの航空のインシデントの研究報告では，次のようになっています。

設定温度を上げようと思わなければ，当然リモコンを使って設定温度を変えることもありません。ですから，一番根源にあるのが実は認知なのです。

●状況認識エラー 169 個の分類
レベル 1

80.2 ％

事故が起きた時，「オペレーターが状況を正しく認

レベル 2

16.9 ％

識しておれば，このような事態には至らなかったはず

レベル 3

2.9 ％

（Jones & Endsley, 1995）である」と言われることがありますが，これも認知が根源であることを表しています。身近な例でご説明しましょう。

つまり，何か変だということにすら気付かなかったのが 80 ％も占めるということですが，気が付かなか
ったら，その先の対処などできるわけがありませんの（例）あるグループで緊急会合が招集され，重要事項

で，これは非常にゆゆしき問題です。

を 1 時間で決定しなければいけない。会議室は非
常によく冷房が利いているが，リーダーは暑がりなのか，プレッシャーがあるのか全く意に介して状況認識の失敗

いない。しかし，メンバーは寒くてたまらない。
「何とかしてほしいな」「誰かがリーダーに言ってくれないかな」と，お互いに顔を見合わせている。

それでは次に，それぞれのレベルの失敗例を挙げな
がら，問題点を探っていきたいと思います。

さて，会議の結論は……。

ANA グループ安全飛行 2006.9

2

レベル 1 ：「気付き」の失敗
まずは「レベル 1

気付き」の失敗です。例えば，

高度自動化が進んでいる現在，制御システムはかなりせん。
「有能な部下なので，任せておいて大丈夫だろう」というわけです。そうなると，その部下がどういう仕事をしているか細かく注意を向けようとはしなくなります。

強力な制御能力を持っていますので，図 1 に示すよう異常があったら警報が鳴るであろうと思っていたのに，制御対象に多少異常が生じたとしてもそれを隠蔽に，実際は鳴らなかったというケースとしてよく知らしてしまうことがあります。自動化システムは自分がれている中に，古典的なタイプの GPWS に関するもの（汗をかいて）大変な仕事をしていることを積極的にがあります。図 2 は CFIT 事故の調査結果ですが，約 3人間に伝えようとはしませんし，長時間働いても文句分の 1 が警報がなかったものです。パイロットは「もも言いません。人間の方は情報が十分に提示されていし前方に地表面が現れた場合，GPWS が必ず警報を出なければ「何事もなく動いている，万事順調」と思っしてくれるはずだ。それに即して自分が対応すればよてしまいますから，変だということすら気付かないとい」と考えていたと思います。ところが，古典的ないうことが起こり得るのです。

GPWS は地表面のすべての形状に対応できたわけでは

図 1 制御対象に生じた異常を隠蔽する強力な制御能力なく，不得意な形状もありました。従って，GPWS が不得意としている形状に対して向かっていた場合は，警報が出ずに，パイロットも気付かないままぶつかってしまうことも起こり得るわけで，調査結果ではこれが3 分の 1もあったということです。
図 2 CFIT 事故の調査結果その例として，1985 年，サンフランシスコ沖でボーイング 747 が 10,000m ほど落下した事故があります。
第 4 エンジンが止まってしまって，機首が右に振れてきたのですが，自動化システムはラダーを使うタイプのオートパイロットではなかったので，バンクをとって機首を起こそうとしていました。しかし，パイロッ
トは操縦桿を握っていなかったので，バンクがどんどん大きくなっていく様子に全く気が付きませんでした。そうして最後に，速度回復が十分できない，オー
トパイロットに任せておけないという段階になって，レベル 2 ：「原因特定」の失敗「レベル 2

原因特定」の失敗のケースは，大体 3

オートパイロットを切りました。その時まで自動化シつに分類することができます。

ステムにはものすごく大きな力が掛かっていたのです（1）「現象→原因」の形のルールのうち，その場が，パッと切られてしまったので，機体は裏返った形
で10,000m も落ちてしまったのです。

面に該当しないものを適用する。
（2）「現象」が未知の現象であり，何がその現象を引き起こしているのか分からない。

「システムへの過度の信頼がもたらす警戒心の欠如」（3）「現象」に対して「合理的」に見える説明をも気付きの失敗につながります。現在の自動化システ

付けることができれば，それで納得する。

ムは非常に能力が高く，しかもめったに壊れることが3ありません。
「万が一異常があっても，警報が知らせ（1）はある現象が起こったとき，それを引き起こすてくれるはずだ」と期待しても全然不思議ではありま原因についての知識が十分あるにもかかわらず，違う

ANA グループ安全飛行 2006.9

知識を適用してしまったために原因特定に失敗すると

客 室 乗 務 員 は ， フ ラ イ ト 中 に Passenger Flight

いうケースで，プロフェッショナルの方々にも起こり

Information System のモニターに映し出された映像がフ得ると思います。

ランクフルトではなくブリュッセルに変わっていることに気付いていましたが，「きっとモニターの設定が特に今ここで取り上げたいのは（2）と（3）のケー
スです。事例を挙げて紹介したいと思います。

悪いだけだ」と考えて，コクピットには知らせませんでした。ところが，そのモニターは FMS に連動して（2）は現象が未知の現象であり，何を意味していおり，パイロットが誤って目的地をブリュッセルと入るのかよく分からないというケースです。
「オートメ

力していたのです。客室乗務員は，変だと思った現象

ーション・サプライズ」と言われる現象もその一つとに対してある意味で合理的な説明を付けて納得してし言えます。

まったので，そこから先，何の行動をとらなかったの

例えば，人間が自動化システムにA というタスクをです。

指示した時，自動化システムは「A をやるなら B もやっておいた方がいい」と判断し，事前に人間に知らせることなく，A を実行する時に自動的に B を始めるこ

レベル 3 ：「予測」の失敗とがあります（図 3）。そうすると人間は，B を指示し「レベル 3 予測」の失敗は，原因は特定できていた覚えはないのに，A に重なって B も出てきてしまう

るのですが，「今，対応しなくても大丈夫だろう」とため，何が起こっているのか分からなくなってしまう

思ってしまうケースです。2005 年 6 月，六本木ヒルズのです。

で回転ドアによる死亡事故が起こりました。そのドア
図3

気を利かせる自動化システムに問題があることは，事故以前にすで分かっていたということです。しかし，今やらなくても大丈夫だろうと安全対策を先送りにした結果，事故に至ってしまったのです。こういうものが状況認識のレベル 3 の失敗と思われます。

状況認識の改善
個人として起こりうる状況認識の失敗についてお話
1995 年，ツールーズでテスト飛行中のエアバス 330

ししてまいりました。それでは，一人では失敗するこが墜落しました。エンジンを一つ切った状態でテイクとでも，チームを組めば改善されるのでしょうか。実

オフの性能を調べているうちに起こった事故です。パ

はそれもそれほど簡単なことではありません。

イロットには十分な知識があったのですが，自動化シ

図 4 は 1992 年 1 月 20 日，エアバス 320 がストラスブ

ステムが，自分が思っていたのと違うことを，違ったール空港手前の山中に墜落した事故の状況図です。こタイミングでやってしまったために，眼前の奇妙な現の事故はヒューマン・インタフェースに絡む大事故と象の原因が分からなかったのです。

して非常に有名になりましたが，その背後にもう一つ別の要因があることが分かっています。

（3）は，現象に対して「合理的」に見える説明を

パイロットはストラスブール空港に向かってフライ付けることができれば納得してしまうという，人間のトパス 3.3 度で降りようとしていました。しかし，実特性に大きくかかわるもので，プロフェッショナルの行されたのは 3,300ft/m の降下だったのです。パイロ

世界でも起こり得ます。

ットが頭に描いていたのは，図 5 の上の画面で，右端1995 年，ニューヨーク発フランクフルト行きの DC-に「FPA（フライトパスアングル）-3.3」と書かれて10 が誤ってブリュッセルに着陸してしまいました。

います。ところが実際には，コンピュータにデータ入

ANA グループ安全飛行 2006.9

4

図 4 チームを組めば状況認識は改善されるかています。
この事故の詳細な調査結果が『事故のモンタージュ
第 7 巻』に紹介されており，それを基に書いたのが図6 です。これを見ても分かるように，プライマリーフ
ライトディスプレイ上にはモードが違うことの手掛かりは十分あったはずです。つまり，フライトパスアン
グルを指定した時は「FPA」と表されますが，事故機ではバーティカルスピードの「V/S」が表示されていたはずで，これに気付くべきでした。さらに，空と地面の比率が違っていますから，パイロットは何か変だ

図5

降下角モードのつもりが降下率モードと気付いて当然だったのです。
それでは，なぜ気が付かなかったのでしょうか。
『事故のモンタージュ』は人間関係のまずさを指摘しています。
副操縦士は技量に対して自信に満ちており，一方の機長は自信がなく，VOR-DME アプローチは乗り気でなかったようです。副操縦士は，機長は気圧高度計の設定を誤っているとか，機長の操作では所定のコースに乗れないとかいろいろ気になり，コースに乗るには

図6

PFD 上には手掛かり情報があったのだが何をすべきかを機長に指示したりもしています。そして，実際は高度，降下率，速度などをコールアウトしなければいけない立場にあるのに，機長の操縦に気を取られているうちに，自分のなすべきことを怠ってしまったのです。
機長の方は，気象条件を尋ねても客室乗務員と話し込んでいて即座に返答しない副操縦士を，気に入らないと感じていました。
このように機長と副操縦士の人間関係がうまく成立していなかったわけですが，権威勾配がフラットにな力する時，真ん中のプッシュボタンを押す回数が適切

りすぎることがグラスコックピットの問題の一つとしでなかったために，下の画面のようにバーティカルスて指摘されています。とは言え，逆に権威勾配が大きピードモードになっており，「V/S -33」と表示されてすぎると，言いたいことも言えなくなり，やはり非常いました。

に困った問題が起こることは，皆さんもよくご存じだコンパクトなデザインをする時には，同じ入力装置

5と思います。

をボタンの切り替えによって違った意味で使う「モー1977 年 3 月 27 日，テネリフェ空港滑走路上で 2 機のド」が導入されるわけですが，これは「モードエラー」

ボーイング 747 が衝突しました。副操縦士はクリアラというヒューマンエラーを引き起こす大きな原因になンスがまだ出ていないことに気付いていたのですが，っています。それから，バーティカルスピードの-33

滑走し始めようとしているキャプテンにそのことを伝は 3,300 の意味なのですが，下二桁の 00 を省略されてえませんでした。なぜなら，キャプテンが非常に偉大

いたことも問題になりました。なお，現在は 00 が表な方だったために，自分の意見を言うことができなか示されていますので，こうした問題は起こらなくなっった，つまり権威勾配が強すぎたのです。

ANA グループ安全飛行 2006.9

副作用発生の確率が 20 ％ほどあります」と言い換えリスクの認知てしまえば分かりやすくなります。ただし，確率という意味でリスクを使うのは，副作用発生というような状況認識エラーについて説明してまいりましたが，望ましくものに対してだけで，望ましいものに対して，

その背後にあるものについても考えてみる必要がある

例えば，「3 億円の宝くじに当たるリスクは」というと思います。

言い方はしません。

まず，「何か変だ」ということに気付いたのに，そのまま放置してしまうという場合がありますが，なぜ放置したかについては，次のように考えてしまうことが原因かもしれません。

（3）損失の大きさとその発生確率との積
エンジニアなどが「リスクを小さくしましょう」と言う時のリスクがこれであり，小さくするには 2 通り

○私が間違っているのかもしれない。

の方法があります。一つは好ましくない事象そのもの○私が言わなくても，誰かが気付くだろう。

を起こりにくくする，すなわち発生の確率を下げる方○面倒なことに巻き込まれたくない。

法，もう一つは，確率を下げることが無理な場合に，○そのうち，この現象は消えるかもしれない。

起こった時の損失を小さく方法です。2 通りのやり方で対応しようとするのがエンジニア的発想です。

いずれにしても，「何が問題か」ということを知りつつも，対策を先送りする場合であり，どの場合もリスクの定義は終わりましたが，これで問題が解決「リスクの認識の失敗」であると言うことができます。

するわけではなく，私がここで申し上げたいのは，リスクの認知は非常に難しいということです。

ここで「リスク」という言葉を使いました。また，皆さんのようなプロフェッショナルではなく，一般講演のタイトルにも使っています。われわれは「リス人の場合としてお聞きいただきたいと思いますが，こク」という言葉を日常的に使っていますが，実はいろれに関しては有名な実験がいくつもあります。それをいろな意味があり，どういう意味で使うかによって若まとめると，大体次のようになります。

干ニュアンスが違ってきます。そのことについて，少（1）ある病気にかかる確率は低くても，その病気にかしご説明したいと思います。

かった時に死亡する確率が高ければ，その病気の死亡率を過大評価する。

「リスク」には，大きく 3 つくらいの違った意味があります。

（2）確率の低い現象の生起確率は実際より高く感じ，確率の高い現象の生起確率は実際より低く感じる。

（1）事故・災害・危難など，個人の生命あるいは健康に対して危害を生じさせる事象（3）人の判断や意思決定は，質問の文脈や言い回しに影響を受ける。

例えば，旅行保険を掛ける際に，「スカイダイビン
グなどのリスキーな行為の予定はありませんか？」とまず，次の例について考えてみましょう。

聞かれることがありますが，ここで言うリスキーな行（例）1 万人に 1 人の割合で感染する恐ろしいウイルス

為とは，自分の生命に対して危害を及ぼすような行為がまん延しています。T 大学附属病院が 99 ％の確のことですから，リスキーを「危ない」と言い換える率でこのウイルスへの感染の有無を正確に判定でこともできます。

きる検査法を開発したというので，Y さんはその検査を受けてみました。結果は陽性で，Y さんは（2）危険な事柄，あるいは損失を生じる確率

すっかりしょげてしまいました。

「この薬は効きますが，副作用が発生するリスクが20 ％ほどあります」と医者に言われた場合のリスク

このような状況に置かれたら，誰もがかなりショッ

は「確率」という意味で，「この薬はよく効きますが，クを受けると思います。しかし，実際に Y さんが感染

ANA グループ安全飛行 2006.9

6

している確率は 1 ％しかありません。このトリックがぶ人が多いという結果が出ています。200 人が助かる

どこにあるかと言えば，「1 万人に 1 人の割合でしか感というポジティブな意味合いで表現されると，誰も助染しない」ことです。1 万人全員が検査を受けたとすからない確率がある方法を採るより，200 人を確実にると，約 100 人は「陽性」と言われます。ところが，助ける方が良いとはずだと考えてしまうのです。

本当に陽性の人は 1 人しかいないはずですから，陽性

質問 2 の場合は逆に対応策 4 を選ぶ人が多くなりまと言われた 100 人のうちの 99 人は陰性です。ですからす。200 人助かるというのと，400 人死亡するという「陽性」と言われた人が感染している確率は 1 ％しかのは全く同じ意味なのですが，確実に 400 人が死亡しないのです。これは検査法の精度にだまされてしまってしまうという望ましくない表現をされると，確率にて，本来の罹患の確率とうまく統合することができな

掛けてみる方がいいだろうと思ってしまうのです。

いという有名な事例です。

このように，実際には同じものであるにもかかわらず，文脈によって結論が変わってしまうことがありま

次に，（2）ですが，自動車事故と航空機事故を比べす。こういう現象を知っていると，実は悪用すること

ると，発生率は自動車事故の方がはるかに高いわけでもできます。結論をどちらかに誘導したい場合には，す。さて，何の予備知識もない人に，これらの事故で聞き方を調整すると可能になるかもしれません。

年間どのくらいの方が亡くなると思いますかという質問をした場合，その人の答えを実際のデータを対応さ信頼と過信せると，航空機事故の死亡者数を高く見積もる傾向があります。これは，飛行機事故の発生率は低いのに，起こるとよく目立つために，実際より確率が高いと感じてしまうと考えられます。

さて，「今の事例は一般の場合であり，プロにはあり得ない」と思いたいところですが，実際には対象について豊富な専門知識を持っている人，つまりプロフ

それでは，（3）について，皆さんに問題です。

ェッショナルな方でも的確にリスクを認知できるとは【質問 1】 600 人を死亡させる病気が突発的に発生す限りません。その大きな落とし穴の一つが「過信」とる可能性がある。現在，次の 2 つの対応策が検討さ言われるもので，ベテランの「豊富な経験」や「長年れているが，意見がまとまらず，最終的には委員長の安全実績」が，かえって安全を損なうこともあるのに判断をゆだねることになった。もし皆さんが委員です。

長だったら，どちらを採用しますか。

そこで，「過信」についてお話ししたいと思います

対応策 1： 200 人が助かる。

が，その前に，「信頼」とはどういうことか，ご理解対応策 2： 600 人全員助かる確率が 3分の 1。

いただく必要があると思います。
信頼は 4 つの次元からなっていると考えていただい【質問 2】 600 人を死亡させる病気が突発的に発生すてよいと思います。

る可能性がある。現在，次の 2 つの対応策が検討されているが，意見がまとまらず，最終的には委員長■信頼（trust）に判断をゆだねることになった。もし皆さんが委員

基礎：自然界の法則や社会の秩序に合致している。

長だったら，どちらを採用しますか。

能力：常に安定的かつ望ましい行動や性能が期待

対応策 3： 400 人が死亡する。
対応策 4： 600 人全員死亡する確率が 3分の 2。

できる。
方法：行動を実現するための方法，アルゴリズム，
ルールが理解できる。

すでにお気付きの方もおられると思いますが，対応目的：上記の背後にある意図・動機が納得できる。

策 1 と対応策 3，対応策 2 と対応策 4 は全く同じもので（Lee & Moray, 1992）

す。さすがに全日空の皆さんは冷静な方が多いようですが，一般の実験では，質問 1 の場合は対応策 1 を選

7

ANA グループ安全飛行 2006.9

まず基礎的な部分ですが，例えば今私が，「私の足

は床から 2cm，常に浮いています」と言えば，皆さん，

機械に対して信頼感を覚えると申し上げました。そう「何をばかなことを」と思われるでしょう。それでも，いう相手に対しては，「今までいつもきちんとやって「いや，絶対そうなんです」と言ったら，それから先くれていた。今のケースでも当然上手に対応してくれの私の話は信用しなくなると思います。それは自然界るだろうし，これからもずっとそうだろう」と思っての法則に合致していないことを主張する者を信頼できしまいがちです。しかし，過去の実績と現在の状態で，ないからです。社会の秩序に合致していないものも信

これから先も完璧であろうと期待してしまうのはいき

頼することはできません。

すぎで，これは一つの過信のケースとなります。

次に能力についてですが，例えば私が，A さんか B

次に方法。高度の機能を持っている人や自動化シス

さんのどちらかに仕事を頼もうと思ったとします。A

テムとのやりとりでも起こってくるものですが，例えさんは非常に能力が高いが，気まぐれで，気が乗らな

ば，「この機能がどのように実現されているか詳しくければちゃんとやってくれない。B さんは A さんほどは知らないが，よく設計考えて設計されているであろ仕事の能率は良くないけれど，確実にこなしてくれる。

う。どのようにタスクを実行するつもりか知っている

私としては当然 B さんに頼みたいと思うわけです。そわけではないが，詳細まで把握しておかなくても大丈れは，頼んだことに対して常に安定的に結果を返して夫だろう」と考えてしまうのは，過信の一つの形態とくれるからです。

いうことになります。

方法，アルゴリズム，ルールが理解できることも信目的に関しても，自動化システムと人間とのやりと頼の一つの要素です。例えば，C さんは非常にいい仕りで起こってくるケースがあります。
「なぜこのよう事をしてくれるけれど，私にはどんなやり方で，どんなことをしているのか分からないが，良かれと思ってな考え方で行動しているか分からないという場合は，やっているのだろうし，別に悪いようにはしないだろ

一抹の不安を覚えるでしょう。

う」と思ってしまう事例などで，オートパイロットに対して，時々このように感じることがあるというパイ

そして，これらの背後にある意図，動機が納得できロットの例も報告されています。

ることも信頼を獲得する大きな要素になります。例えば，Dさんはいつも非常に親切にしてくれる。だけど，

SOP とヒューマンエラー

なぜ私に親切にしてくれるのか分からない，何か魂胆があるのかもしれないと思う場合は，背後にある意図や動機が納得できないので安心感を覚えないのです。

イラストは『CFIT Education and Training Aid』に「ベテランの落とし穴」として掲載されているもので，人が人を信頼するかどうか，あるいは人が機械を信注釈に，「特にベテランの方は，SOP（Standard

頼するかどうかは，これらの点に大きくかかわってく

operating Procedure）を大事にしてください」とありまるのであり，全部満たされれば大きな信頼感を覚えます。

すし，どれか一つでも欠けていれば十分な信頼はおけないことになります。

不適切な信頼としての過信
今申し上げたのはある意味で「不信」の形ですが，私がこれから説明したいのは，反対の「過信」がどういうケースで起こり得るのかということです。
まず能力。いつも安定的に仕事を返してくれる人や

ANA グループ安全飛行 2006.9

8

それでは，SOP は万能なのでしょうか。ここからはそのことについてお話ししたいと思いますが，その前すが，これも議論を整理するに当たって便利であると考えられています。

に，われわれがどのような認識のもとに，「SOP は万能か？」という議論をしているか，少し説明しておきたいと思います。

（1）スキルに基づく行為
感覚系からの情報に基づいて，無意識的・円滑に行われる日常的あるいは熟練の域に達した行為です。

ヒューマンエラーの分類

例えば，車を運転していてカーブを曲がろうとする
時に，「今，どのくらいのスピードで走っている，従ヒューマンエラーにはいろいろな分類の仕方がありって，レーンを逸脱しないで曲がるためには何度の角ますが，認知心理学的な分類で「スリップ」（行為の度でステアリングを切らなければいけない」といちいエラー）と「ミステイク」（思考のエラー）の 2 つに

ち考えることをせずに，ほとんどの人が無意識的にス分けることがあります。

テアリングを切っていると思います。そのように意識しないで，体が勝手に動いてしまうのが，スキルに基●スリップ（行為のエラー）

づく行為の典型的なものです。

ほとんど定型化された動作を意識せずに行ううちに，当初の意図と異なったことをしてしまうエラーを「スリップ」と言います。
私は 12 階建てビルの 8 階の部屋で仕事をしているの（2）ルールに基づく行為「A ならば B である」という条件・動作ルールに基づく行為です。

で，エレベーターに乗るといつも 8 のボタンを押「今，この場面では私はこれをしなければいけない」

しています。ある時，9 階に行く用事があってエレベということを念頭に置きながら，行動するのがルール

ーターに乗り，ボタンを押しました。止まったので降に基づく行為と言えます。

りると，何とそこは 8 階でした。つまり，私は無意識のうちに 8 のボタンを押してしまっていたのです。 （3）知識に基づく行為
9 階に行くという意図が，8 階のボタンを押すという過去の経験やノウハウが無い場合は，条件・動作ル

行為に乗っ取られてしまったという意味で，こうしたールがないため，どういうふうに対応すればよいのか

エラーを「乗っ取り型エラー」と言います。

分かりません。しかし，対応しなければならない，と冒頭でご紹介したストラスブール空港のクラッシュ

いうことになりますと自分自身の持っている知識を総の事例は，スリップの中の「モードエラー」と言われ動員して，事態を理解して，その中で何をすべきか考るものです。パイロットの意思決定は正しかったのに，えようとします。これが知識に基づく行為です。

コンピュータにデータを与えるときにボタンを押す回
数を間違ってしまった，つまり，意図は正しいのですが，とった行動が間違っていたのです。

3 つの階層を紹介しましたが，思考が関係するのは（2）と（3）であり，（1）は思考にはあまり関係しな
いことをご理解いただくと，次のヒューマンエラーの●ミステイク（思考のエラー）

分類がお分かりいただけるかと思います。

意図した通りに行為が実行されたのですが，意図そのものが誤っていたといたというエラーで，明らかに思考のエラーであるものを「ミステイク」と呼んでいます。

●スキルベース・スリップ（行為のエラー）
スリップは，思考は正しかったけれど，意識せずに行った行為が間違っていたエラーですから，スリップはスキルに基づく行為でしか起こり得ないことになり

9

それから，われわれは行為を認知的な階層というとます。そういう意味で「スキルベース・スリップ」とらえ方で，「スキルに基づく行為」，「ルールに基づくいう言い方をします。例えば，必要操作をほとんど無行為」，「知識に基づく行為」の 3 階層に分類していま意識的にできる人が，ステップを確認しないまま熟知

ANA グループ安全飛行 2006.9

した操作系列を実行するうち，やったつもりでやり忘げましたが，そのような中で日常に潜むリスクを見つれていた，というのがスキルベース・スリップです。

けるにはどうしたらよいのでしょうか。
第一は，昔から行われてきたように，「事故やイン●ルールベース・ミステイク（思考のエラー）

シデントから学ぶ」ことが大切です。

「A ならば B」の形で表される条件・動作ルールに

例えば，最近，シンドラー社製エレベーターによる

基づいて行為をすべき場面において，A ではなく A ＊死亡事故が起こりました。その後に，それ以前にも同という状況にあるにもかかわらず，A であると考え違

種のトラブルが国内外で続発し，しかも全く同じよういをしてしまうエラーは，ルールベースの思考のエラな死亡事故もあったことが判明しました。判明したのーということになります。

が事故後であったのが非常に残念であり，事故やインシデントの情報を共有することの重要性を指し示して●知識ベース・ミステイク（思考のエラー）います。

これまで経験したことがないので，どのように対応

航空分野でも同じようなことが言われています。前すればよいか分からないような時のエラーが，知識ベ

述のストラスブールでの A320 墜落事故（1992 年）以ース・ミステイクです。

前，88 年以来，同種のインシデントが発生していました。モードの取り違えを GPWS 作動によって気付い

さて，何のためにこのようなことを申し上げてきたたガトウィック空港とデュッセルドルフ空港のケー

かと言いますと，このヒューマンエラーの分類と SOPス，クルーが気付いたサンディエゴ空港とナンテ空港を照らし合わせてみると，SOP が対応できるのはルーのケースでは，いずれも生還しています。

ルベース・ミステイクだけであることがご理解いただ
けると思うからです。

ところが，ストラスブール空港の事例では GPWS は積んでおらず，クルーも気が付かなかったために，4

SOP は「この場面ではこれをする」というようにルつの生還例のいずれにも該当しないものになってしまールに基づいて書かれていますから，ルールベース・いました。もしこれらのインシデントの情報が共有さ

ミステイクを防止するのに役立ちます。しかし，知識れていれば，ストラスブールの事故は防げたかもしれ

ベース・ミステイクに対しては，ほとんど効力がありないと思います。

ません。ルールで書けないものへの対応が知識に基づ

いずれにしましても，事故やインシデントなど，形く行為で要求されるのですから，それに対するルールになったものから学ぶべきものを見つけ出す必要があを SOP の形で書けるわけがないからです。また，無ります。

意識的に体で対応してしまうスキルベース・スリップにも効果はあまり期待できません。
そうしますと，日常的な業務の中で，「SOP さえ守

ヒヤリハット事例の共有っていればよい」，あるいは「SOP に書かれていない

さらに，まだ形には表れていないが，何か気になる

ことは気にしなくてもよい」と考えることは明らかに

点，しっくりしない点があるという時点で，何らかの間違いです。

対応がとれるのではないかと思います。犠牲や損害がそれでは，SOP でカバーできないものはどうすれば生じたものから学ぶのは当然のことなのですが，それ

よいか，それをカバーするのが教育と訓練です。教育からしか学べないというのはあまりに悲しいので，そがどの部分に対応するか，訓練がどの部分に対応する

れらが出ない前に見つけたいというのがわれわれの望かということが，その次のテーマとなってきます。

みなのです。
その対応策の一つとして，「ヒヤリハット事例の共有」が非常に重要です。例えば，自分のヒヤリハット

日常に潜むリスクを見つける

経験を誰かに話すと，「実は私にも同じような経験がある」と問題を提示くれる人がいるかもしれません。

リスクを正しく認識するのは非常に難しいと申し上

そのような問題意識の共有から，問題解決に向かって

ANA グループ安全飛行 2006.9

10

の取り組みが行われていくと思います。

図7

SOP からの意図的な逸脱

ただ残念ながら，ヒヤリハット事例を集めるというのはそれほど簡単なことではありません。報告が自分の評価に使われるのではないかと心配する方もいるでしょう。あるところで，事例収集を促進するために，報告者を表彰してはどうかという案が出されたという話を聞いたことがありますが，ヒューマンファクターの観点から言えば，とんでもないことだと思っています。インシデントやヒヤリハット事例の収集は，匿名性の確保・保証が重要です。報告者の評価には使わないことを宣言した上で実行に移されるべきです。表彰

が，効率化を図って，エンジンとパイロンを切り離するとなれば報告者を管理する情報が必要になります

さずに一挙に翼から外してしまう手順を作ってしまから，匿名性は失われるはずです。

い，その結果，非常にまずいことが起こってしまいました。なぜ 2 段階で取り外す手順を作ったかとい

日常に潜むリスクう，もともとのアイデアが伝承されていないということが重要な点です。

日常に潜むリスクの例として，「SOP からの逸脱」
について考えてみたいと思います。
SOP からの逸脱としては，「意図した逸脱」と「意図しない逸脱」があります。

図 8 は「生産性対安全性空間における仮想的組織の変遷」を示すものです（『安全飛行』2005 年 5 月号）。
事故を契機に安全性を向上させようといろいろな（1）意図しない逸脱工夫が行われます。その結果，安全が続いていくと，「何かに注意が集中してしまって，うっかり見落と

生産性や効率を重視する方向へシフトしていってしす」，「現在の状況を類似の（別の）状況と混同してしまいます。そしてまた何かトラブルが起こると，安まい，誤ったルールを適用してしまう」，「起こってほ

全性を向上させる手が打たれるのですが，しばらくしくない状況から目を背ける」，「緊急度の高い状況のすると風化していくという現象があるということで中で，手順が欠落してしまう」などのケースが考えらす。もともとの安全性を確保するためには，SOP がれます。最後のケースは，人間をサポートする自動化

なぜそうなっていたのかという認識を共有することシステムの構築という議論につながっていく問題であが非常に重要であることを示しています。

ると思います。
図 8 生産性対安全性空間における仮想的組織の変遷（2）意図的逸脱
意図的な逸脱を行っているにもかかわらず，この状
態にリスクが潜んでいるということが感じられないとすると，これは非常に深刻な問題です。その例として4 つ挙げたいと思います。
（1）「なぜこのような面倒な手順になっているのだ，
もっと良い方法があるのではないか。」
図 7 はベアリング交換の例です。定められた手順
では，エンジンを外して，その次にパイロンを外して，ベアリングを交換するようになっていたのです

11

ANA グループ安全飛行 2006.9

（2）「以前，逸脱しても大丈夫だった。今回も大丈夫に違いない。
」

が，それが裏目に出て，犠牲者を出してしまったのです。

これは特にエンジニアに対する問題提起になると思います。エンジニアの世界では，安全を確保する

今，述べましたように，SOP を守ることができない，

ためにかなり厳しく限界を設定している場合があり

あるいは意図的に逸脱しても仕方がないという状況がます。ある時，ふとした拍子に限界を越えてしまっあるとすれば，SOP そのものに問題があるのかもしれたけれど，何も起こらなかった，大丈夫だったといません。従って，SOP は必要に応じた見直しとチュー

う経験を何度かすると，真の限界はもっと外にあるニングが必要なのです。

ので少々逸脱しても構わないと考えてしまう可能性があります。こうなると，せっかく安全のために厳SOP は「ルールに基づく行為」を実行者の練度，知しく設定した限界が，結局は妥当ではないことにな識，精神力に依存しないようにする上で非常に有効でってしまいます。
（図9）

すが，限界もあります。その理由としては，○現状に即したものであること

図9

SOP からの意図的な逸脱○明らかな有効性を持っていること○簡単に実行できること○合理性を持っていることのいずれか一つでも満たされないものがあると，「守らなければならない」という意識が希薄化してしまうからです。
例を 2つ挙げてみます。
一つ目は GPWS の例です（図 10）。従来の GPWS でプルアップというメッセージが出た場合，明らかに不適切であると断言できない限り，警報に従っていまし（3）「他の人たちも守っていない」
他の人も守っていないので私も守らなくていいと考えて，意図的に SOP を逸脱するケースです。

た。しかし，現在の Enhanced GPWS は，機械が現状をどう認識しているかを表示していますから，パイロ
ットは警報が出る前から，すでに機械の判断を認識し昨年起きた JR 福知山線の脱線事故の後，運転士ています。従って，EGPWS のもとでの SOP は，旧来の多くが日常的に規程を越えた120km 走行をしていの GPWS のもとでの SOP と少し形が違うという気がたことが明らかになりました。新聞記事には「『遅します。

れ』におびえる運転士」という見出しが付いていましたが，この事例のように，守るべきことを皆が守

図 10

SOP の見直しとチューニング（GPWS の例）

らないという状況が起きた場合，なぜそうなったのか，その背景を考えることも非常に大切です。
（4）「危ないとは分かっているが……」
ちょっと SOP を逸脱しても，私が気を付けて頑張れば，ユーザーにもう少し利便性を提供できると思って行う行為は，ある意味の善意です。けれども，人間の宿命で，いつまでも注意を完璧に保つことができるとは限りません。2005 年 5 月に起きた竹ノ塚
踏切事故は，善意の行動ではあったかもしれません

ANA グループ安全飛行 2006.9

12

もう一つは TCAS の例です（図 11）。この場面で，とします。自分で考えてみることは当然ですが，そこパイロットはもちろん，TCAS も管制官も意思決定がにとどまらず，他の人に報告や問い掛けをすると，そできるということです。三者の意思決定があって，最の問題をグループで共有でき，グループで考えること

終的に誰が意思決定するかという権限の問題がまだ十ができます。さらに，それを組織に報告・問い掛けを分には解析されていませんが，近々，管制官にもすると，組織全体で問題を共有することができて，組

TCAS が何を言ったかが見えるようになると思いま

織としての問題解決につながっていくでしょう。

す。そうなると，このような状況での SOP は，今ま

また，その過程や結果は構成員すべてにフィードバ

での SOP とは変わってくるのかもしれないと思いまックされるべきです。さらに，必要に応じて社会に対す。

しても情報のフィードバックした方がよいと思います。これが社会に対する組織の信頼を形成していく上

図 11

SOP の見直しとチューニング（TCAS の例）

での非常に大切なプロセスになると思います。
最後に，抽象的な話になりますが，一番大切なのは次のようなものであると考えます。
●問題意識を持つ文化●常に本質に立ち返って考える文化●議論ができる自由な文化●人の問題を自分の問題としてとらえる文化●状況認識の共有を可能にする文化●情報伝達の確実性を尊ぶ文化
精神論のように思えるかもしれませんが，われわれ研究者が過去のいろいろな事例を研究し，いろいろなむすび問題を考えてきた中で到達した，最終的な結論の一つであると考えています。

いろいろ申し上げてきましたが，最後にまとめたいと思います。

このような文化を持つ組織は，ダイナミックな対応

まず，リスクは本来潜在的にしか感じることができ能力を持つ組織であると思います。まさに全日空の皆ない性質があり，今対処しなくても，すぐに顕在化すさんはこのような文化を持っておられると実感しておるとは限りません。ここに問題のやっかいさがありまります。そして，ダイナミックな対応能力を持った組す。つまり問題を先送りしてもいいのかということが織として，これからも発展されると思っております。

出てくるのです。

これは私の全日空に対する過信ではなくて，信頼です。
ご清聴ありがとうございました。

次に，リスクは見つけること自体はなかなか難しいのですが，見つけることができれば，制御する方法は自ずと決まってきます。従って，今日は「リスクを見つけて制御する」というタイトルを付けましたが，「リスクをいかに見つけるか」が最も大事ですので，日常に潜むリスクをいかに見つけるかということを主体にお話しさせていただきました。
個人レベルで「何か変だ」という問題に気が付いた

13

ANA グループ安全飛行 2006.9