質問: 機械の故障や人的ミスが起こることを前提に、二重三重の安全機能を設ける考え方のことを英語で何という?
回答: フェイルセーフ

タイトル: スイスチーズモデル
スイスチーズモデル(英: Swiss cheese model)は、マンチェスター大学のジェームズ・リーズンが提唱したリスクマネジメントおよびリスク分析のモデル。航空や船舶といった交通の安全、エンジニアリングや医療現場の安全に加え、ITセキュリティにおける多層防御に応用されている。失敗や欠陥といった問題点をスイスチーズの穴に見立てる一方、不完全な安全対策を穴の大きさや位置が異なるスイスチーズのスライスに見立て、複数のスライスを重ねることで穴を塞ぐ。すなわち、リスク対策を冗長化することによって安全を確保しようとする考え方である。

タイトル: 設備管理
設備管理には、信頼性確保・省エネルギー・省力化など矛盾する要素を満足させるために科学的に実証された管理標準を定めて行う科学的管理が求められている。また、故障してから整備を行う事後保全、一定周期ごともしくは設備診断結果などにより故障していなくても整備を行う予防保全、機器の仕様・生産過程にまでさかのぼる生産保全が行われるようになっている。設備管理は当該設備の保守作業についての技能や知識 を有する設備員(設備管理員)に行われるが、近年は遠隔計測・自動調整によって省人化が行われるようになっている。したがって、関わる人間により合理的な運用方法や効果的な改修提案を行うことも求められている。

タイトル: ロボット工学三原則
さらに『ロボットと帝国』では、特定の個人に隷従しているロボットが、その主人を守るために他の人間に多少のケガをさせることも辞さないという描写がある。しかしそれはあくまで緊急性を伴うと共にそれらの危害や対象となる人々が明確に示されている場合であって、その結果ロボット自身が三原則とのジレンマによる脳損傷や活動停止に至ることも多い。三原則は陽電子頭脳の設計時から組み込まれているため違反するのが不可能なのに対し、第零法則は2体のロボットの話し合いでまとまったものなので、それが本当に正しいことなのかロボットとして判断するのは困難だった。

タイトル: リスク
工学においては、リスク (risk) とは、一般的に「ある事象生起の確からしさと、それによる負の結果の組合せ」をいう(JIS Z 8115「ディペンダビリティ(信頼性)用語」)。この場合、リスクの対象は限定されない。一例として人体もしくは財産等に対するリスクに危害リスク (risk of harm) といった危害発生の確からしさ、危害の厳しさの1つの組合せなどのリスクがあり、リスクには事象が顕在化することから好ましくない影響ごとが発生されること、その事象がいつ顕在化するかが明らかではない発生不確定性があるという性質が含まれる。情報技術システムにおけるリスクは、経済学と違いより良い結果が出ることはリスクとならない。損失の可能性があるものだけがリスクとみなされる。

タイトル: 信頼性工学
安全工学と信頼性工学は密接な関係にある。システムの信頼性の低下は安全性の低下と影響する。 安全工学と信頼性工学は目的が異なる。おおざっぱに説明すると下記の違いがある。

タイトル: 連動装置
誤った操作ができないようにするために、鎖錠・解錠・連鎖という仕組みがある。最も基本的な安全確保のための論理であり、駅構内では、出発信号機・場内信号機・入換信号機・誘導信号機・入換標識を操作して、列車の出発・到着・入換などを行なうが、それぞれが独立して動くようにしてしまうと、誤った操作をしてしまった場合、列車が分岐器を通過中に転轍機が動作して、車両の脱線や台車の泣き別れを起こしたり、または、同一の線路に2つ以上の列車を運転させたり、他の支障する進路を開通させて列車を運転させることで、列車同士の接触や衝突を起こしてしまう。それを防止するためには、列車が分岐器を通過中には転轍機を動作しないようにするとともに、同一の線路には、1つの進路だけを開通させて、他の支障する進路は開通させないようにする必要が出てくる。

タイトル: ロボット工学三原則
人間とロボットという主従関係で書かれているがという、家電製品に代表される道具一般にもあてはまる法則であることが、日米のファンらによって指摘されている。また、人間の道徳律にも当てはまると、アシモフ自身が作中で述べている。実際のロボットにこの三原則を実装できるかという問題についてはフレーム問題という大きな障害がつきまとう。ロボットは、どんな行動が人間に危害を加える可能性があるかを判断するために周囲の状況とその帰結をすべて予測しなくてはならない。そのためには、人工知能の搭載すべき知識ベースと思考の範囲が際限なく大きくなってしまうのである。

タイトル: フォールトトレラント設計
フォールトトレラントシステム(故障しても動作するシステム)と滅多に故障しないシステムは違う。例えば、ウェスタン・エレクトリック社のクロスバー交換機システムは40年間に2時間という故障発生確率であり、非常に故障しにくい(フォールト・レジスタント)と言える。しかし、ひとたび故障するとシステムは完全に停止するので、フォールトトレラントとは言えない。