JSRMPM ニュースレター

2008 年 6 月 19 日

ヒューマンファクターと安全戦略--- 医療技術安全教育セミナー2008 夏期(医療機器安全管理研修会)講演資料
村上陽一郎

元東大先端科学技術研究センター長
国際基督教大学教授、東大名誉教授
国際予防医学リスクマネージメント連盟顧問

はじめにヒューマンファクターというのは、人間が関与しているシステムで、人間の判断や動作にエラーや不都合が起こり、事故に繋がることを指す。もともと、自然環境以外のすべてのシステムは、人間が設計し、管理するものだから、そこに起こる不具合や問題事象はすべて、ヒューマンファクターに拠ると考えることは、あながち誤りではない。たとえば阪神淡路大震災では、六千人を超える死者を出したが、その原因は地震という自然現象である。しかし、あの規模の地震が襲ったら必ず六千人の死者が出るとは限らない。あの地域の住居のあり方や、人々の住まい方によっては、もっとずっと少ない死者数で済んだかもしれないのである。その意味では、地震によって死者が出るのさえ、関与する人間のゆえである、と考えることもできる。多くの自然災害が「人災」の性格を帯びるのも、そんなところに理由がある。
あるいは次のような実際にあった例を考えてみよう。Ｘ線照射装置による治療の場面である。この装置は直接照射と間接照射の二つのモードがあり、問題の患者は間接照射を受ける予定だった。X 線技師は、コンピュータに指令を打ち込んだが、直接照射を入力してしまった。画面で誤りに気づいた技師は、入力された文字をデリート・キーで消去して、間接照射と打ち直して入力した。そして、治療室と操作室の戸仕切りを閉めて、照射のキーを押した。ところが、コンピュータ上では、最初の入力指令がメモリーに残っていて、その指令が有効に働いてしまった。おかげで、患者は防護のない状態で強力な X 線を浴び、さらに別の不幸が重なって死亡するに至った。この事例では、いうまでもなく、誤った指令を最初に入力した技師の「エラー」が、すべての原因である。したがって、典型的なヒューマン・エラーによる事故である。しかし、デリート・キーで消去した情報が、回線のメモリーに残っていて（そのこと自体は、逆に誤って消去した情報を回復できる余地を残しておく、という意味では、別のフール・プルーフということになる）、それが、次の照射の指令と繋がってしまうようなソフトの設計そのものにも、問題があったとも考えられる。

ソフトの設計もまた、人間の手になる以上、そうであってもヒューマンファクターであることには違いないが、通常リスク管理におけるヒューマンファクターは、こうしたそもそもの設計上の問題というよりは、現場での判断や操作に関する人間の犯す過ちについて言われるものと考えてよいのではないか。実際設計上の問題は、またそれ自体が、一つの大きな課題であり、後に述べる事故情報とも絡んでくる。

フール・プルーフに関する誤解
ヒューマンファクターの過誤（ヒューマン・エラー）による事故に対して、中心的な制御の手段として考案されたのが、フール・プルーフである。過誤が起こっても、被害を大きくさせないために（理想的には、被害をゼロにするために）、何ができるか、という考え方の下で、様々な対応策を施すのが、その要諦である。しかし、この概念を巡って、厄介な誤解が今でも払拭されていない。
一〇年ほど前、まだ医療の世界に品質管理の考え方や、フール・プルーフの思想が全く入り込めなかったころ、私はそれでも孤軍奮闘の形で、医療機関を廻っては、工学的かつシステム的な安全対策の必要性、なかんずくフール・プルーフの必要性を説いていた。フール・プルーフの大切さを説明し終わって、質疑に入ったとき、一人の医師が立って、こう言ったのである。
「私たちの現場には、フール・プルーフというのは馴染みません。何故なら医療従事者は誰でも高度に職業訓練を受けた職能者で、フールではないからです」。
ここにはフール・プルーフに対する根深い誤解の存在が覗える。たしかに、フール・プルーフには初心者のミスをもカヴァーする、という意味がある。これも古い話になるが、「私にも写せます」というカメラの CM があった。面倒な焦点合わせ、シャッター・スピードと絞りの組み合わせによる露出の計算など一切不要、写真の経験の全くない初心者でも、失敗なく写せることをキャッチ・フレーズにしたこの宣伝は、まさしくフール・プルーフの一つの側面を描いている。
そして、このような発想は、サイバネティックスの中にも見られる。N・ウィーナーが敵機の邀撃システムを設計しているとき、システム内の人間は、高度な訓練を受けて反応速度が引き上げられた「人間」ではなく、平均的な人間であった。人間―機械系としての邀撃システムの要素の一つである「人間」は、一種消耗品と考えられていて、高度な訓練を受けて高い性能を期待されない初心者がそこに配属されても、システ全体の性能は落ちないように設計する、という思想が、サイバネティックスの精神のなかに含まれていたとみることができるだろう。そういう意味でのフール・プルーフは、安全戦略の設計にとって大切であることは間違いがない。
しかし、問題はそこに止まらないのが、より大切な点なのだ。よく知られたことだが、クリントン大統領の時代に諮問を受けたアメリカの「医療の質」検討委員会が出した二つ

の報告書のうち、安全の問題を取り扱ったもののタイトルは、To Err is Human であった
（邦訳は『人は誰でも間違える』日本評論社）。この英語の文言は、もともと 18 世紀のイギリスの詩人アレグザンダー・ポウプの警句＜To err is human, to forgive Divine＞の前半部であって、ポウプの言いたかったことは、「人間は過ちを犯すが、それを許すのは神である」ということだったようだ。しかし、アメリカの報告書のタイトルとして使われたときには、この警句は、「どれほど高度に訓練を受けた職能者であっても、過ちを犯すことがある」というメッセージを伝えている。さらに、そこには、医療の世界では、そういう意味でのリスク管理が遅れている、という訴えが、暗々裏に含まれている。フール・プルーフ
は医療者には馴染まない、と言った先の医師と同じ認識が、アメリカの医療界にも存在すると推測される。
工学系の専門家にはおよそトリヴィアルに聞こえるだろうが、更めて確認しておきたい。
フール・プルーフの「フール」とは、関与者が初心者であると、高度な職能者であるとを問わず、リスク管理においては、十分に対応しなければならない「愚行」なのである。
「愚行」への対応
初心者の「愚行」のなかには、多少ともその分野に理解のあるものなら、とても思いつかないような性格のものがある。しばしば引用される例だが、電子レンジを、シャンプーした猫を乾燥させるために使う、などということは、実際に起こってみないと、事前に可能な想像力の範囲を超えたことがらである。したがって、そのような「思いもつかぬ」愚行が起こったという情報は、当事者の想像力の弱さを補ってくれる貴重なものということができる。実際、推測がつく愚行に対して、対応ができていなかったら、つまりフール・プルーフが施されていなかったら、それは当事者の怠慢と言われても止むを得ないことになろう。起こった事故や不具合に対して、当事者が責任を免れ得るのは、その事故を引き起こす原因となる愚行を、予め予想し、推測することができなかった場合に限られるだろう。その意味では、当事者の責任は日に日に重くなるばかりなのである。
しかしいずれにしても、「思いもつかぬ」ことが起こってみれば、その愚行は、「思いもつかぬ」ことのカテゴリーから、予測しなければならぬことのカテゴリーに移動することになる。そして、それに対しても、当事者は「プルーフ」となる手当てを講じなければならないことになる。それゆえ、こうした出来事に関する情報は、当事者にとっては宝物とも言うべき財産になる。
しかし、初心者でなくとも、「思いもつかぬ」事故は起きる。たとえば、羽田沖着陸寸前300 メートルまで下降した民間航空機が突如墜落した事件を考えてみよう。おそらく当時の航空関係者の誰に訊ねても、それなりに飛行時間を重ねた熟練のパイロットが、着陸寸前に逆噴射のスイッチを押す、ということを予想することはできなかっただろう。
「機長、何をするんですか！」と叫んだ副操縦士の驚愕の声が、それをよく物語っている。しかし、実際には、それが起きた。この事件は、単なる「ミス」というよりは、より深刻な問題が背後にあったのだが、とにかくそれが起きたのである。したがって、以後は、航空機の設計に当たっては、そうしたことが起こることを予想した対応策を講じなければならなくなった。
こうしてシステムは、少しずつ「より安全」な方向に進むことができる。起こってしまった事故は、取り返しがつかないし、犠牲者が出ればもちろんのこと、あるいは出なくても、物質的、あるいは経済的損害は大きいから、不幸なことには違いないが、何もかも予測でき対応できる、全知全能の神とは違う人間は、そのような不幸を素材として、一歩一歩進んでいく以外にはないのである。
フール・プルーフは本当に有効か
フール・プルーフに対する批判の一つとして、安全対策が行き届けば、当事者の注意力が散漫になる、あるいは怠るようになるから、結局長い目で見れば、事故は減らない、という考え方がある。「リスクの恒常性」説などと言われる。その点を巡ってアメリカで行われた調査がある。交通事故に関するもので、自動車のセーフティ・シート・ベルトを装備し着用すれば、ドライヴァーは安心して、それまでより乱暴な運転をするようになるから、結局は事故は減らないのではないか、という問題意識があって、そのために行われた調査だったが、結果は、乱暴な運転をするようなドライヴァーは、もともとシート・ベルトなどに頓着しない（着用もしない）、ということであったようで、この恒常性の考え方を強く支持するようなデータは、集まっていないと言える。つまり、どちらかと言えば否定的な見解が多い。しかし、他方では、リスク管理の立場から見て、事態がこともなく「安全」に推移しているときが、最も「危険」である、という教訓も確かにある。
長い目で見たときに、システムが安全に動いている状態が続けば続くほど、思いもつかぬ事故が起こる確率は高くなる。現場の人々の間でも、あるいは管理者であっても、安全が「当たり前」の状態にあるとき、それ以上の安全を求め、リスクを回避しようとする積極的な努力を積み重ねるインセンティヴが弱まるからである。仮令「シックス・ナインズ」（９９．９９９９パーセントの安全度）が実現していたとしても、人間の関わるシステムに、百パーセント「完全」な安全管理が望めない以上、どこかで必ず事故は起こることを覚悟しておかねばならない。システムのどの部分に問題の発生する可能性が最も高いか、を常に検討し、危険のサインを見落とさないように努力を重ねることは、現在が安全な状態である以上、一般に極めて難しいことに属する。危険が迫っていたり、ある程度予測できる状態にあるとき、関与者は緊張のなかにある。それは、多くの場合（常に、ではないことが残念だが）、普段ならば見過ごされるであろうような「問題」を発見するのに役に立つ。しかし、そのような危険に対する感受性は、安全が実現し、それが日常の状態にある場合には、働き難いものである。安全の日常性に流されること、それこそがリスク管理における最大の問題と言えるかもしれない。その意味では、確かに、フール・プルーフを安易に受け止めることは、むしろリスクを増やすことに繫がる、という考え方にも一理あることになる。
ただ、ここで問題になっているのは、ヒューマン・エラーをフール・プルーフで防ぐことができる、という命題と、ヒューマン・エラーはフール・プルーフによって減らない、という命題との間の、一見矛盾するような事態であるが、中心的な論点を読み替えて、ヒューマン・エラーは注意によって防げる、という命題と、ヒューマン・エラーは注意によって防ぎきることは出来ない、という命題との両立可能性として捉え直してみれば、両者は決して両立不可能なのではなくて、両者ともに成立し得ることである、という点を指摘することで、解決ができると思われる。
コミュニケーションの重要さそういう意味で、結局最後に大事になるのは、コミュニケーションの問題である。リス
ク・コミュニケーションというのは、様々な場面があり得るが、システム内で考えれば、先ずは、リスクの認知度あるいはリスクに対する感受性を、システム内の人間同士が、つねに刺激しあって高めることである。安全が実現されていることに安住して、危機感が麻痺したり、問題が忘れられたりしているときこそ、ある意味では最大の危機なのだから、システム内での色々なコミュニケーションの方法を工夫することによって、そうした麻痺や忘却を防ぐことが大切になる。
もう一つのリスク・コミュニケーションは、システムと、外部の一般社会（パブリック）との間に生じる問題である。これまで論じてきたリスクの問題とは、かなり異なる論点ではあるが、一言しておく価値はあると信じる。科学・技術の立場に立つ研究者である以上、当然今日の科学や技術の限界、つまりよく判らない領域があることは誰もが認めるだろう。
そうした不確定な領域にある問題に対しても、意志決定を迫られるような事例は、環境問題をはじめ多々ある。その「判らない領域」にはリスクが発生する可能性が大きいことも認めるだろう。そこで研究者の立場からすれば、どの程度「判らない」のか、を示すために確率に依存することになる。そしてリスクの生起確率と、リスクが齎す損害の大きさ、そして、もしそれに対応した施策をとったときのコスト、などを比較考量しながら、意志決定をする方向に進むだろう。
しかし、パブリックの側にいる人間にとって、ここには二つの問題があるように思われる。第一に、確率は、明らかに「アンサンブル」を扱って初めて意味があるのであって、単一事象として、自分自身に問題のリスクがふりかかるか、ふりかからないか、は常に二分の一の確率でしかないことは、暗々裏には理解されている。したがって、１０のマイナ
ス６乗の確率でしかリスクは起こらない、と言われたとしても、それで安心が生まれるわけではない、という点が、理解されなければならない。さらにより根源的な問題として、一般社会の人々は、「判らないことが判らない」という点にも不安を抱いている。科学者にとっては、「判らない」ことが「判っている」ことだけが、「判らない」ことであり、それを超えた「判らない」ことは、議論の仕様がないとして受け付けない。しかし、一般社会

の人々にとっては、科学者にとって「判らない」こと以外にも、「判らない」ということさえ「判らない」ような、なんらかの危険があるのではないか、という感覚を持ち続けているものである。
したがって、このようなシステム内部と一般社会、言い換えれば専門家と非専門家との接触面でのリスク・コミュニケーションは、この点が充分に認知されていなければ、成功から遠くなりがちである。往々にして専門家は、そのような非専門家の言説に接したときには、表向きはともかく、内心ではその「無知」を哂うだけになってしまうからである。
そして、そのような内心は、コミュニケーションの場に確実に現れてしまい、非専門家に感知されてしまうものである。それでは明らかにコミュニケーションは成り立たない。ここにも、リスク管理のヒューマン・ファクターが存在することを知るべきである。