知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）

リスクの認知と意思決定
稲垣敏之

１．はじめに大きなシステムで事故が起こる．まさかと思うようなところで人々がテロの標的になる．老後に備えた預金も安心とは言えない．このような不安を表しているのだろう
か，「リスク」ということばを日常的に聞くようになった．
使いやすいことばであるだけに，｢リスク｣に込められた意味はさまざまである．
「危険なこと」を表している場合もあれば，「結末の重大性」に焦点が当てられていることもある．さらに，「結果が予測できない」ことを表す場合にも使われる．｢リスク｣の能ではない．単一のアプローチですべてが解決できるほどリスクの問題は単純でもない．そこで，リスクの認知や意思決定について求められている研究課題についても考察する．

２．リスクとは「リスク」には多くの意味がある．すべてを挙げることはできないが，代表的なものを表１に示す．
なお，｢確率｣と表現したところは，｢可能性｣と言い換えてよいものもある．

多義性は，ルネサンス時代からすでにリスクに関する議論が始まったとされる長い歴史[1]によるのかもしれない．
人の日常は意思決定の連続である．たとえ誤っていても痛みを感じない決定もあるが，取り返しがつかないほどの損失を与える決定もある．
「状況に潜むリスクを把握して慎重に対応せよ」といわれても，おのずと限界がある．一般に，人は必ずしもリスクを正しく認識することはできない．さらに，リスク認知はその人の価値観にも影響され，時には誤った意思決定をもたらす．
本稿では，リスク認知やそれに基づく意思決定のむずかしさを概観する．工学的システムのリスク評価・解析では，依然として確率論的アプローチが主流であるが，万表１「リスク」の多義性--------------------------------------------------------（１）事故･災害・危難など個人の生命や健康に対して危害を生じさせる事象[2,3]（２）危険なことがら，あるいは損失が生じる確率[2,3]（３）損失の大きさとその発生確率との積[4]（４）事故とその発生確率の組（事故，発生確率）[5]（５）（４）の一般形として，｛（事象１，発生確率p1），．．．，（事象ｎ，発生確率 pn）｝[6]
ただし，｛p1，．．．，pｎ｝は離散型確率分布．

--------------------------------------------------------海外旅行保険を掛けるとき，現地でロッククライミングやスカイダイビングなど

知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）「リスキーな行為」の予定を尋ねられたとの低い現象の生起確率を実際より高く感じ，すれば，（１）の定義に基づく用法である．

確率の高い事象の生起確率は逆に実際より今まで難病とされてきた病気の治療のた低く感じる」こともそのひとつである[2,3]．

めに，強力な薬が開発されたとしよう．
「ここのほかにも，確率的現象に関する事前情の薬で副作用が発生するリスクは 20％」な報を観測情報を用いて更新する際，人がふどと表現されるのは，（２）の意味によるもつうに頭に描く「事後情報」は，ベイズののである．心理学的分野では確率認知バイ公式が与える事後情報とは大きく異なりう

アスのひとつとして，「ある病気にかかる確ることなど，興味深い現象が知られている率が低くても，その病気にかかったときに[7]．なお，これらの研究が対象としたのは，死亡する確率（条件つき確率）が高ければ，｢ふつうの人｣である．

その病気の死亡率を過大に評価する」[2,3]では，対象について豊富な専門知識を持ことが知られているが，これも定義（２）っている人であれば，リスクを正しく認知に基づくものである．

できるのだろうか．すなわち，原子力プラ（３）は保険などの分野で用いられる定ントや航空機などの高度技術システムの設義である．不具合事象の発生確率をｐ，損計者，技術者，オペレータ，管理者は，そ

失額を S としたとき，それらの積 pS をリれらのシステムのリスクを的確に認知できスクと称している．
「事象が起こりにくくするのだろうか．実は歴史が物語っているよ

るか，発生時の損失を軽減する手立てを取うに，専門家と称する人々でもリスクを正ればリスクを小さくすることができる」としく認知できるとは限らない．

いう主張はこの定義に則ったものである．
なお，ｐS を「期待損失」と称する人もいるが，確率論などでいう「損失の期待値」そのものではないため，注意が必要である．
（４）あるいは一般形としての（５）は，主にリスクに関する工学的研究で用いられる定義である．後に述べる確率的リスク解
析などはこの流儀の定義に沿っている．
リスクをどのように定義するにしても，リスクを的確に認知することは容易ではない．次節（３節）においては心理的観点から，第４節においては技術的観点から，リスクの認知・評価の難しさを述べる．

３．リスク認知のむずかしさ
リスク認知が条件つき確率に支配される
確率認知バイアスを前節で述べたが，確率認知バイアスは他にも知られている．
「確率３．１

過信

専門家の場合に問題になるのは，過信（complacency）である．過信とは，文字どおり過大な信頼を抱くことであり，適正な警戒心を持って事象や状況を見定める努力を怠ることをいう[8]．システムが安全な状態を長く保持することは良いことである．
しかし，安全実績が逆に安全を損なうことがある．長い間トラブルが起こらない状況が続くと，「このシステムは安全だ」という過剰な自信が生まれ，いつしか「事故など起こるはずがない」との盲信に至る．
過信にはさまざまな形態がある．それを理解するには，「信頼」が何を意味するのかを知っておくと便利である．信頼（trust）には，表２に示す４つの次元があり[9]，これらがすべて満足されてはじめて人は対象知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）

を信頼することができる．このうち，物理（４）意図：「なぜこのようなことをしてい法則に従っている｢工学的システム｣ではるのかわからないが，良かれと思ってやっ（１）は成立していると考えてよい．したているのだろうし，別に悪いようにはしながって，（２）―（４）をまとめて，「つねいだろう」に一貫した動作を反復するものであっても，それを支える論理が誤っているものは信頼できず，また，たとえ論理的な誤りはなくても，正しい目的意識に支えられていると思えないものは信頼できない」といい表す
ことができる[10]．
表２

信頼の４つの次元--------------------------------------------------------（１）基礎：

自然界を支配する法則や社会の秩序に合致していること（２）能力：

終始一貫して，安定的かつ望ましい行動や性能が期待できること（３）方法：

行動を実現するための方法，アルゴリズム，ル－ルが理解できること（４）目的：

上記の背後にある意図・動機が納得できるものであること--------------------------------------------------------過信にどのようなものがあるだろうか．
（２）―（４）の各々に対応させてみると，つぎのようになる．
（２）能力：「今までいつもきちんとやってくれていた．今回のケースでも当然上手に対応してくれるだろうし，これからもずっとそうだろう」（３）方法：｢どのようにしてこの機能が実現できているかは知らないが，よく考えて設計されているだろうから，任せておいて大丈夫だろう．どのような手順でこのタスクを実行するつもりなのかも聞いていないが，特に詳細まで把握しておく必要はなかろう｣

では，過信の具体例を見てみよう．
３．２

安全への投資や努力は無駄？

システム導入の当初は，安全第一を目標とし，石橋をたたいて渡るような規則や手順が定められる．そして，人々はそれらを生真面目に遵守する．念には念を入れた運用のおかげで，なにごともなく月日が過ぎていく．そのうち，配置転換などにより，システムの運用に携る人々も交代する．新しい世代の人々にとっては，七面倒くさい規則や手順が考案された理由や意図など，もはや理解できないかもしれない．すると「効率が悪い」ことを理由に，規則や手順の簡単化や改変が起こる．あらゆる面で理想的なものは存在しない．新しい規則や手順のもとではどこかに無理が生じ，何かの拍子で事故が生じる．
「JCO 事故を念頭において書いたのだろう」と感じた方もおられるかもしれない．
しかし，このような事例は時代や分野を超えて数多い．1979 年 5 月，オヘア空港を出発した DC-10 が離陸まもなく墜落した．左翼エンジンがパイロン（主翼にエンジンを吊り下げる構造部分）もろとも脱落し，バランスを崩したのである．この事故要因のひとつが，パイロンのベアリング交換手順の｢効率化｣である[11]．パイロンのベアリング交換は，「まずエンジンをパイロンから外し，つぎにパイロンを主翼から取り外す．
そのうえでベアリングを交換する」という手順（図１上）が定められていたが，「エンジンとパイロンを分離しないまま一挙に主知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）

翼から外す」ことによって作業時間を短縮いうことばをよく耳にしないだろうか．ちする「効率の良い手順」(図１下)を考え出しなみに，「わが社の」を「わが国の」などにたのである．改変された作業手順のもとでいい換えた表現にも出会ったことがあるはずさんな作業が行われ，パイロンの後方接ずである．

合部の取付金具にクラックが発生し，進展あるところで大きな事故が起こる前には，それと同じような小さな事故やトラブルがしていった．

別のところですでに起こっていることが多定められた手い．1992 年 1 月，エアバス A320 が，降下角を指定したつもりで実は降下率を指定しエンジンパイロン効率化をはかった手順
主翼ていたことに気づかないままストラスブー
ル近郊の山へ墜落した事故は，モードエラーが関与したものとして有名である．実は，降下角と降下率を取り違えたために事故寸前まで至った事例は，1988 年以来，ガトウ
ィック，デュッセルドルフ，サンディエゴ，

図１

効率の良い手順の発明

ナンテの各空港近辺ですでに発生していた[12]．

安全を確保するための規則や手順が骨抜

他者の失敗から学ぶことは難しいが，自きにされていくのは，安全の実現にどれほらの失敗から学ぶことも容易ではない．自ど役立っているのか，その効果が目に見えらのプラントで何度もトラブルが繰り返さないからである．人が何らかの行為を進んれたにも関わらず，真剣に受け止めなかっで実践したいと思うのは，それを行ったとたため，ついに大事故に至ったボパールできの効果が目に見えるからである．効果がのプラント爆発事故の例もある．

体感できないのに，「それでもやらねばなら事故を起こしてから，「そういえば，以前ないのだ」との強固な意思を持つことがでにも同じようなことが起こっていたな．そきるのは，修行を積んだ人だけかもしれなのときに気づいておくべきであった」とあい．とで悔しい思いをするのは，古からの人間

３．３「失敗から学ぶ」ことはむずかし

い
事故やトラブルが起これば，人はそこかの性である．現状への過信を避けるには，何らかのしくみが必要である．
３．４「三人寄れば文殊の知恵」の虚構ら何かを学ぶものと思いたくなるが，それ集団の合議で決めれば妥当な結論が得らは期待しすぎである．どこかのシステムでれるだろうと期待するのも正しくない．例

事故が起こったとしよう．同じようなシス

えば，話し合いがリスクを高める現象は「集テムを運用している人はどのようにコメン団意思決定のリスキーシフト」[2,13]としてトするだろうか．「わが社のシステムでは，よく知られている．これは，一人ずつは慎決してあのような事故は起こりません」と重姿勢をもっていたとしても，集団で討議

知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）

しているうちに，結論が大胆あるいは危険し，PRA には気をつけるべき点も少なくなな方向にシフトする現象である．｢気になるい．PRA を実施する側も，評価結果を見るところはあるのだが，グループの和も乱し側も，過信は禁物である．

たくないし・・・｣「一人で反対しても・・・」など，集団の中から自分だけが逸脱しないよう，少なくとも平均以上であろうとする気持ちが働くからであるとされる．
組織としての決断が事故やトラブルを招くことがある．その組織には，「このようなことをしてもいいのかな」と思う人もいたはずである．しかし，集団意思決定のリスキーシフトが起これば，どうだろうか．和を尊び，年長者を敬い，上司には楯突かないことを暗に陽に求めてきた日本の文化的土壌においては，特に細心の注意が必要であろう．
ヒューマンエラーをなくそうと，複数の人間でチェックするしくみが採用される場
合も多いが，これも万全ではない．
「たとえ自分がミスをしても，誰かがカバーしてくれるだろう」と勝手に期待することは，過信以外のなにものでもない．過信のもとでは，何重かのチェック機構も企図したようには機能しない．

４．リスク定量化の落とし穴
リスクの定量的評価・解析法の代表的なものが，確率的リスク解析（ProbabilisticRisk Analysis: PRA）法である．マスコミ
では，「新しい方法」と紹介されることもあるが，実は PRA の歴史は古く，ルーツは1960 年代に遡る[14]．PRA が一般に知られるようになったのは，商用原子力プラントの安全性を解析・評価した WASH-1400 報
告書[15]以降であろう．そこで用いられた考え方は，いまや大規模システムのリスク評価に欠かせないものとなっている．ただ

４．１

独立性は仮定できるか？

システムのリスクを定量化するうえで，事故に至る事象系列（事故シーケンス）を知る必要がある．事故シーケンスの同定に用 い ら れ る の が イ ベ ン ト ツ リ ー （ eventtree：ET）である．ET は，初期事象（例えば，パイプ破断）を出発点とし，それ以降，関係する事象の生起・非生起（例えば，安全保護系の作動・不作動）で順次分岐させていくことによって事故シーケンスを見出そうというものである．ET は「事象 Aのもとで事象 B が発生すると，何が起きるか」という前向き推論の図的表現といえる．
一方，ET に現れる各事象の生起確率の同定に用いる手法がフォールトツリー（faulttree：FT）である．例えば，ET に現れる
事象 C の生起確率を求めたいとしよう．このとき，「事象 C が起こるには，どのような事象が発生していなければならないか」というタイプの後向き推論が反復される．事象 C（頂上事象という）から出発し，これ以上展開する必要のない事象（基本事象）に到達するまで推論を反復するわけである．
一般には，FT から最小カットを求めるという手順を踏んだ後に，頂上事象の生起確率を求めることになるが，基本事象の独立性を仮定できるかどうかで，計算の難易が大きく左右される．実際の PRA では，根拠もなく基本事象の独立性を仮定することはない（はずである）が，単に計算を簡単にしたいがために独立性が仮定されていないか，見極めが必要である．
例えば，基本事象１と２に対応するシス

知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）

テム要素が独立の機能を持つものであった

基本事象の生起確率に不確実性が入ることしても，それらが物理的に近い場所に設とは避けられない．例えば，機械部品であ置されており，その設置場所が地震や火災れば使用環境によって故障発生の可能性はなどの単一の要因で同時に壊滅的被害を受大きく異なる．人間オペレータであれば，けるとしたら，もはや統計的な独立性は保個人差もあれば，同じ人でも状況によって障できない．このような｢共通モード故障｣

エラー発生率は大きく異なる．さらに，シには時に想像を越えるものがある．

ミュレータで採取したデータをもとに人間冗長性を持つシステムでも安心はできなのエラー率を定める場合は，真のエラー率

い．かつて航空機の油圧４系統が，隔壁破とはかけ離れたものになる危険性があるこ

壊という単一の事象のためにすべて切断さとに注意しておく必要がある．シミュレーれたことがあった．油圧各系統が故障する

タでは，｢失敗すると多額の損失が出る｣と確率をｑ，隔壁破壊が起こる確率をｒとしいう切迫感が出せないからである．てみよう．隔壁が正常であれば油圧 4 系統

これらのことを考えると，たとえ頂上事は独立であったとしても，隔壁破壊が起こ象の生起確率を導出したとしても点推定値

れば各系統は確実に切断されるなら，次式のような捉え方は不十分である．そこで，が得られる．

不確実性解析[6]と称する方法が必要とされる．

P{油圧 4 系統のすべてが故障}＝ｑ4(１－ｒ) + ｒ

ファジィ論の立場からは，信頼性データ（例えば，要素の故障確率）をファジィ数

上の式は初歩的なものではあるが，ｒがｑと考える手法などが提案されている（例えに比べて極めて小さくても，ｒの影響が支ば，[16,17]）．これらは，従来の確率的手法配的になる場合があることを実感するにはとの対応が直感的でわかりやすい点に特徴十分であろう．

がある．

４．２

信頼性データは信頼できるか？

４．３

PRA においてもうひとつの重要な仮定は，と？

まず結論ありきの PRA が行われる「基本事象の生起確率データは信頼できPRA は，運用開始前のシステムを対象とる」ことである．PRA は，まだ実際に起こして実施するのが基本的である．事故やトってもいないシステム事故がどれほどの確ラブルが発生する可能性を定量的に評価・率で起こるのかを予想しようというもので解析した結果，もし安全性が当初目標に到あるため，事故発生確率を統計的確率とし達していないことがわかれば，設計変更やて捉えることはできない．そこで，ET や運用手順の改善などを策定することになる．

FT を用いて評価対象をより根源的なシス

しかし，PRA によって当初目標を下回るテム要素（基本事象）に帰着させるわけで不本意な結果が出たとき，満足できる結果ある．これらの基本事象については，統計になるまでデータを｢改訂｣した事例が過去的確率を議論できる程度のデータがあるこにあった．典型的な例は，スペースシャトとが前提となる．

ル・チャレンジャーに見ることができる．

知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）

1983 年にアメリカ空軍が行った計算では，らしうるシステムであるが，センサ信号に固体ロケットブースターの故障は，35 回の基づいてコンピュータがアクチュエータを打ち上げにつき 1 回の割合で起こるとの結用いた自律的制御を行う系などに例を見る果を得た．しかし，NASA 当局はこの数字ことができる[21]．FT を用いた表現では，を嫌い，「独自の専門的判断」のもとに，10AND，OR ゲートに加えて，NOT ゲートも万回の打ち上げを行ったとしても固体ロケ必要となる．

ットブースターの故障は 1 回しか発生しな

PRA において非コヒレントシステムが扱いという結論を出したとされる［14,18］．

われることは稀である．非コヒレントシス

同様の記述は，事故調査に関わったファイ

テムの場合は，コヒレントシステムに比べンマンの報告[19,20]などにも見ることがでて，頂上事象の発生確率の計算などが格段きる．に面倒になる[21]．そこで，頂上事象に対

このことは，「確率的アプローチに基づくする FT を展開したときにシステム要素のPRA に不都合や欠陥がないか」という範疇｢正常｣状態が基本事象に現れるときは，その問題ではない．決定権を持つ人間が，リの基本事象を省略することが行われる．いスク（あるいは人命）と何を天秤にかけた

わば，非コヒレントシステムのコヒレントのか，「誰のための決定か」が問われる問題化である．例えば，「要素１が正常に作動しである．決定が国威発揚や成功がもたらすているとき，要素２が故障すると，システ名誉のためになされることは，あってはな

ムは異常な挙動を示す」ことがわかったもらない．のとしよう．この知識を，「要素２が故障す４．４単調性は仮定できるか？

システムを構成する各要素が｢正常｣「故障」の２状態をとるものとしよう．
「システ
ムの中に故障要素が多いほどシステム故障の可能性が高く，正常要素が多いほどシステム正常の可能性が高い」という性質は直感になじむ．この性質を単調性とよぶ．あるいは，システム状態に影響力をもたない要素が除外できておれば，コヒレント（coherent）システムとよぶ．基本事象を｢要素故障｣として定義すると，コヒレントシステムを FT で表現する際の論理演算子としては，AND ゲートと OR ゲートがあれば十分である．
しかし，単調性を持たないシステム，あるいは非コヒレントシステムも存在する[7]．
ある要素の正常動作がシステム故障をもたると，システムは異常な挙動を示す」というように簡略化するわけである．この簡略化は一見，妥当であるかのように思われる．
なぜなら，「要素１が正常に作動している」
ことは信頼性の高い要素であればほとんど確実に起こっているからである．
「ほとんど確実に起こっている」と考えてよい事象について，「もしその事象が起これば」など，わざわざ明記するのは無駄のようにも思われよう．しかし，非コヒレン
トシステムのコヒレント化は思わぬ落とし穴を作り出す．上述の非コヒレントシステ
ムにおいて，要素１と要素２がともに故障状態にあったとしよう．このときシステム異常は発生していない（もし，システム故障が発生しているとするならば，要素１はシステム状態に影響力をもたないことになる）．さて，かねてから作業を進めていた要知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）

素１の修理が完了したとしよう．このとき，り」とする態度は警戒心を欠くものであろ何がおこるだろうか．システム異常である．

う．
「やがて・・・のようなことが起こりう

非コヒレントシステムでは，このように，るかもしれない」のような懸念を率直に反良かれと思ってやったことが，実は不都合映させる解析が行える理論体系への発展がをもたらすことがある．まさに，現在の複必要である．

雑なシステムで起こっていることそのものといえないだろうか．
システム状態を表す命題変数は，要素状態に対応する命題変数のブール関数として記述することができる．一般のブール関数には否定，論理和，論理積の演算が現れる．
システムリスクを評価するときに限って「否定演算は不要である」と主張してよい
理論的根拠はない．
４．５

ブール論理のかたさ

４．６

ヒューマンマシンシステム

リスクを正当に評価したシステム設計がなされたとしても，そのシステムの運用段階でリスクを過小評価する現象が発生することもある．その背景には，システムの高度自動化がある．現在のヒューマンマシン
シ ス テ ム の 多 く は 監 視 制 御 （ supervisorycontrol）と称する形態を持つ（図２）．ここでの人間の仕事は，「何をなすべきかを決め，それをコンピュータに指示し，その指示にFT や ET が基盤とするブール論理の｢か沿ってコンピュータが適切な制御を実行したさ｣も気になる点である．システム状態をているかどうかを監視すること」である[10]．

表すブール関数を主積和標準形で表現した
とき，基本積 x1x2 が現れたとする．これは，制御対象

ヒューマンインタラクティブ
コンピュータ「要素１と要素２が故障すると必ずシステムは故障する」ことの知識表現である．しかし，複雑なシステムであれば，つねに因果関係を断定的に表現できるほどの知識をタスクインタラクティブ
コンピュータ持ち合わせている保証はない．例えば，｢要素１と要素２が故障すると，直ちにというわけではないにしても，システムが故障す

図２

監視制御形態をもつヒューマンマシンシス
テムるかもしれない｣という不安を抱くこともありうる．現在の PRA の基盤になるブール

実は，監視は人間の得意とするところ論理では，このような知識を表現することではない．
「何らかの不具合が生じたときにはできない．

は迅速に対応する」という任務があるのでどのレベルで「要素」を定義するかにも警戒心を持ちつづけようと努力はするもの

よるが，現在のシステムでは要素がサブシの，信頼性の高い制御対象システムでは異ステムとでもいえるほど複雑な機能を持つ常は稀にしか発生しない．しかも，部下でことがある．そのようなとき，要素間でのあるコンピュータは高い知性を備えている．

インタラクションを正確に把握することは「能力のある部下だから，任せておいても難しい．
「断定的な知識表現のみでこと足れ間違いはないだろう」「問題が生じたら警報知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）

が知らせてくれるはずだ」という気持ちがの意思決定が規範的モデルからいくつかの生じても不思議ではない．こうして，認知・点で逸脱することが見出されている．例え判断の主体がしだいに人から機械へ移ってば，「確実に 800 ドル獲得できる選択肢」といく[10]．

「0.85 の確率で 1000 ドル獲得できるが，コンピュータのもつ高い自律性と行為実まったく賞金を獲得できない確率が 0.15 あ行のための大きな力は，「今何が起こっている選択肢」では，多くの人は「確実な獲得」るのか」をわかりにくくする働きを持つ．

を好んで前者を選ぶ（リスク回避的な認知

例えば，システムに異常が生じても，コンバイアス）[2]．一方，「確実に 800 ドル失ピュータが自動的に対応してしまうため，う選択肢」と「0.85 の確率で 1000 ドル失

結果的には，人は異常に気づきにくくなる

うが，まったく損失を被らない確率が 0.15ことがある[22]．また，システムの安全確ある選択肢」では，「確実な損失」を嫌って保のために設けられた複数の防護機能がた後者を選ぶ人が多いことが知られているがいに思わぬインタラクションを起こすと，（リスク選好的な認知バイアス）[2]．いず

もはや人間がその状況を把握することは難れのケースでも，目的関数（賞金期待値あしい[22]．知的機械の予期しない連携プレるいは損失期待値）の最適化をはかる決定

イは，現在の PRA には十分に反映されていではない．このほかにも規範的意思決定モない．

デルでは説明できないさまざまな現象が知５．リスク環境での意思決定られている[2,3,7]．
そこで，「人は実際にどのように意思決定応用数学やシステム工学などの分野で研しているか」を表現する記述的意思決定モ

究されてきた伝統的な意思決定論の基本形

デルがいくつか提案されている．確率事象

はつぎのようなものである．

についての人間の認知が期待値に基づく「合理的な判断」と一致しないことを反映

minimizef ( x)

subject to x ∈ D ⊂ R n

したプロスペクト理論[23]はその代表的なものである．
記述的モデルのひとつで，最近話題にな

さまざまな制約条件から定められる実行可る の が Naturalistic Decision Making

能領域 D の中から目的関数 f ( x ) を最小にす（NDM）である[24-26]．NDM 研究は，エる「最適な」決定変数 x を選ぶことは，「理キスパートと呼ばれる人々が，表３に示す想的な意思決定はいかにあるべきか」を示

ような「性質の良くない」現実問題に対し，すものでもある．このことから，上に示しどのように意思決定を行うのか，その決定た意思決定問題は「規範的意思決定モデル」過程に見られる特徴を抽出するとともに，とよばれる．規範的意思決定モデルは，シ

それを的確に記述するモデルを構築しよう

ステムの設計，制御，管理計画などに重要とするものである．エキスパートの意思決な役割を演じてきた．

定過程をあるがままに観察・記述しようとしかし，「現実の意思決定はどのように行われているか」を調べた研究からは，人間する基本姿勢が「naturalistic」ということばに込められている[27]．

知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）

NDM が対象とする意思決定問題の特徴[28]列挙しておき，それらを比較して最適解を---------------------------------------------------------

求める」形態の規範的意思決定論にはない（1）時間圧力： 意思決定やそれに基づく行動を新鮮な知見が NDM 研究によって得られて表３取るまでに許される時間は短い（2）動的環境： 状況は一定ではなく，時間とと示す．なお，この表に示されたような「状況認知が意思決定の重要な鍵を握る」といもに変動する（3）高リスク： 決定や行為の誤りは，意思決定者や周囲に多大の損失を与える（4）目標の変動：いる．その代表的なものをまとめて表４に状況が動的に変化するため，それに応じて意思決定者も目標をシフトさうエキスパートの意思決定過程の特徴を表現しようとするのが「認知主導的意思決定（Recognition-Primed Decision：RPD）モデル」[29]である．

せる必要がある（5）フィードバックループ： ある状況のもとで

表４

NDM 研究による代表的な知見取った行動は状況を変化させるため，それ以---------------------------------------------------------

降の目標や行動に多大な影響を及ぼす（Ⅰ）まず「今何が起きているか」，状況を特定す（6）情報の曖昧さ，欠落，不整合性： 状況を正確に把握するに十分かつ正確な情報が入手できるのは稀であり，複数情報間の矛盾，情報欠落，情報の精度不足などが生じるのがふ
つうることが最重要である（Ⅱ）状況が特定できれば，それに対応する行為はほとんど自動的に定まる（Ⅲ）最初に想起された行為代替案が満足できるものであれば，その行為を採用する．それ（7）エキスパート： 意思決定者は素人ではなく，以外の代替案を探索することはない．採用対象とする問題に対してある程度の経験をした代替案が最適であるか否かも検討しな有するエキスパートが意思決定にあたる

い（8）手がかり発見： エキスパートであるがゆえ（Ⅳ）想起された行為代替案が満足できないことに，状況判断の手がかりとなる情報を見出すが判明してから，はじめてつぎの代替案がことができる生成される．すなわち，｛ひとつの行為代替（9）チーム組織： 複数の人間から成るチームが意思決定にあたることがある---------------------------------------------------------

案生成・評価・採否決定｝を単位とし，この操作が逐次的に行われる．複数の代替案を列挙し，それらを同時に比較しようとすることはない

NDM のポイントのひとつは，「意思決定」---------------------------------------------------------

を「状況診断」と「行為選択」の 2 種類に分ける点にある．規範的意思決定モデルがでは，エキスパートの意思決定はすべて行為選択を考察の対象としたのに対し，認知主導的といえるだろうか．おそらく答NDM は，「状況診断に続いて行為選択が行えは否定的であろう．最近出版された[30]われる」という意思決定の一連の流れを明のなかに，つぎのような事例がある．

示的に記述・表現しようというわけである．

フランクフルトを離陸して成田を目指し実際，「可能なすべての代替案をあらかじめて４時間経った頃，心臓が弱った急病人が知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）発生する．このとき機長らは『急病人，即，アプローチによるモデリングが検討されて最寄りの空港に緊急着陸』とせず，着陸でもよい時期である．

きる可能性のある空港（ハバロフスク，千歳，成田）を列挙し，それぞれの気象条件

６．むすびを調べ，「心臓専門の設備が整った病院に入不確実性の存在するところにはリスクが院させるべきである」との医師の意見に基ある．人はリスクを正しく認知できるとはづいて医師および病院に関する情報を集め限らない．しかし，人はそのような中で意ている．そして，各空港への緊急着陸の可思決定を求められている．リスクを伴わな能性の連絡と協力要請を整えた後，いずれい意思決定などありえない．この状況を的の空港に着陸すべきか，機長，ファースト確に表現・解析することはむずかしい．不オフィサー，交代機長，非番で登場してい確実性といえば確率論が当然のように用いた機長の４人が討議する様子が描かれていられてきただけのことはあり，その伝統はる．それぞれの空港に降りた場合の利益，侮りがたく，豊富な道具と知見がそろって不利益を明らかにしたうえで，最終的にハいる．

バロフスクに緊急着陸をすることが決断さ

確率論とは別の観点から不確実性を定量れていく過程は，まさに規範型意思決定に的に表現・解析しようとするものの代表が，他ならない．

ファジィ理論であり証拠理論である．情報筆者（稲垣）は，エンジントラブルで緊や人の知識に含まれる不確実性が確率論で急着陸を余儀なくされる場面を想定し，パ表現できるものばかりではないこと，人のイロットを被験者とした思考実験を行って認知が確率的モデルで予想されるものとはみたことがある[31]．問題設定によっては，乖離していること，などを考えると，非確認知主導的意思決定モデルが主張するよう率論的アプローチのはたす役割は大きく，に即座に解が得られる場合があった．しか期待も大きい．

し，ある問題設定では，想起される行為代システムリスクあるいは安全性を扱う分替案のいずれにも満足できないまま代替案野に限っても，非確率論的手法の整備が求生成を反復していくうちに，もはや他に代められている．本稿で述べた諸問題のほか替案がない状況に至る．最終的に代替案をにも，安全か危険かの判断を下すのがむずひとつ選択する過程は，規範的意思決定とかしいにもかかわらず Go／No Go を選択いえるものであった[31]．このように，ひしなければならない意思決定問題など，研とつの問題でも，時間の経過（状況の変化）究すべき重要課題は多い（例えばこの Goにつれて，意思決定の方式が変わることが／No Go 問題を証拠理論的に解析すると，ある．

不確実情報の統合方策と安全制御方策の適RPD モデルは興味深い点をいくつも持っているが，それに対応する数理モデルは切な組み合わせが重要であることがわかる[32]）．

まだ提案されていない．必ずしも人間の判

ただし，確率論，ファジィ理論，証拠理

断や決定が確率論的ではないことがわかっ

論には，それぞれ得意とするもの，不得意ている以上，ソフトコンピューティング･とするものがある．それらの利点と限界を

知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）

見極めた上で，「適材適所」とする柔軟なア[7]

プローチが必要であろう．いずれかひとつ(Eds.): Judgment under Uncertainty: Heuristics

で十分であると考えるのは，過信というもand Biases, Cambridge University Press, 1982.のである．

[8] Moray, N. & Inagaki, T.: Attention and日本では，確率的リスク評価（PRA）のKahneman, D., Slovic, P., & Tversky, A.

complacency. Theoretical Issues in Ergonomics

こ と を 「 確 率 的 安 全 評 価 （ Probabilistic

Science. 1(4). 354-365, 2000.

Safety Analysis: PSA）」と称する人が多い[9]ようである．
「安全」は何もしなくても手にstrategies and allocation of function in human

入るものではなく，たえまない努力の結果machineとして得られるものである．
「安全が十分に1243-1270, 1992.

確保できていない点を果敢に探し出して対[10] 稲垣：ヒューマンマシン共生のための策を講じる」意気込みを込めて｢安全評価｣

知性と信頼，信頼性（日本信頼性学会誌）と称しているなら良いが，システムが内包

23(2), 167-175, 2001.

する危険性から目を逸らそうと，耳障りの[11] 諸星：航空機事故はなぜ起きる，エー

良い｢安全｣ということばを使いたくて｢安ル出版，1995．

全評価｣と称しているなら，見識が問われる．

[12]

リスクの語源は，「立ち向かう」ことを意味

全日空，1997．

する古代イタリア語 risicare であるとされ[13] 芳賀：ミスをしない人間はいない，飛る[1]．リスクを認識し，それに敢然と立ち

鳥新社，2001．

向かう姿勢を示すには，確率的リスク評価[14] Bedford, T., & Cooke, R.: Probabilisticという表現のほうがふさわしい．

Risk Analysis: Foundations and Methods,

Lee, J.D. & Moray, N.: Trust, controlsystems.

Ergonomics,

岡野（編）：事故のモンタージュⅦ，Cambridge University Press, 2001.

参考文献

[15]

NRC: Reactor Safety Study - AnBernstein, P.L.: Against the Gods, John

Assessment

Wiley, 1996. （青山訳）リスク：神々へのCommercial

反逆，日本経済新聞社，1998．

WASH-1400 (NUREG-75/014), 1975.

[1]

[2]

岡本：リスク心理学入門，サイエンスofAccident
NuclearRisksinUSPowerPlants,[16] 鬼沢：信頼性解析・リスク解析へのの応用の現状と展望，日本ファジィ学会誌，社，1992．
[3]

35(10),

広田，増田，坂上：心理学が描くリス

5(5), 935-948, 1993

クの世界，慶応義塾大学出版会，2002．

[17][4] 清水：設備安全工学，裳華房，1989．

Toguchi, K.: Fault tree analysis by fuzzy[5] Dougherty, E.M. & Fragola, J.R.: Humanprobability, IEEE Trans. Reliability, R-32,

Reliability Analysis, John Wiley, 1988.

453-457, 1983.

[6]

Kumamoto,H.

&Henley,E.J.:[18]

Tanaka, H., Fan, L.T., Lai, F.S., &Leveson, N.G.: Safeware, Addison

Probabilistic Risk Assessment and Management

Wesely, 1995.

for Engineers and Scientists, 2nd ed., IEEE

[19]

Press, 1996.

other people think?”, Bantam Books, 1988.

Feynman, R.P.: “What do you care what知能と情報（日本知能情報ファジイ学会誌）Vol．15，No．1，pp．20-208（2003）[20] 西脇，プライスル：原子力，宇宙環境[27]

Klein, G.: Private communication, 2001.のファジィネス，日本ファジィ学会誌，5(5),[28]Kaempf, G.L., & Klein, G.: Aeronautical

1034-1050, 1993.

decision making: The next generation. In N.

[21]Johnston, et al. (Eds.), Aviation Psychology inInagaki, T. & Henley, E.J.: Probabilistic

evaluation of prime implicants and top-events

Practice, 223-254, Ashgate, 1994.

for[29] Klein, G.: A recognition-primed decision

non-coherentsystems,”

IEEETrans.

Reliability, R-29(5), 361-367, 1980.

(RPD) model of rapid decision making. In G.

[22] 稲垣：ヒューマンマシンシステム－高Klein, et al. (Eds.), Decision Making in Action:

信頼性が損なう安全性，システム／制御／Models and Methods, 138-147, Ablex, 1993.

情報（システム制御情報学会）, 41(10),[30] 桑野，前田，塚原：そのとき機長は403-409, 1997.

死の決断，講談社，2002．
[31] Inagaki, T. & Ishibashi, A.: Decision
making under risk and time-criticality:
Normative or recognition-primed? Proc. 11thInternational
SymposiumonAviation
Psychology, 6 pages, 2001.
[32] Inagaki, T.: Interdependence between[23]

Kahneman, D. & Tversky, A.: Prospect

theory: An analysis of decision under risk.
Econometrica, 47, 263-291, 1979.
[24]

Klein, G., Orasanu, J., Calderwood, R,and Zsambok, C.E. (Eds.), Decision Making inAction: Models and Methods. Ablex, 1993.
[25]

Zsambok, C.E. & Klein, G. (Eds.):

Naturalistic Decision Making, LEA, 1997.
[26]

Flin, R. Salas, E., Strub, M., & Martin,L.: Decision Making Under Stress. Ashgate,
1997.

safety-control

policyand生

multiple-sensor

schemes via Dempster-Shafer theory,” IEEE
Trans. Reliability, R-40(2), 182-188, 1991.