第一種過誤と第二種過誤
第一種過誤(だいいっしゅかご、Type I error)または偽陽性(ぎようせい、False positive)と第二種過誤(だいにしゅかご、Type II error)または偽陰性(ぎいんせい、False negative)は、仮説検定において過誤を表す統計学用語である。第一種過誤をα過誤(α error)やあわてものの誤り、第二種過誤をβ過誤(β error)やぼんやりものの誤りとも呼ぶ。なお「過誤」とは、誤差によって二項分類などの分類を間違うことを意味する。
過誤は次の2種類がある。
統計的過誤(Statistical error)
計算や計測で得られた値と真の理論上の値との誤差が、無作為で本質的に予測不可能な変動によって生じている場合。
システム的過誤(Systematic error)
計算や計測で得られた値と真の理論上の値との誤差が、未知のソースによる無作為でない影響であり(不確かさ参照)、そのソースが特定されれば排除できる。
統計学において、証拠を無に帰するような「帰無仮説」を置いて検証を進める。
帰無仮説の例には、「個人は病気ではない」とか、「被告人は無実である」とか、「潜在的なログイン対象が認可されていない」などが挙げられる。
一方で、帰無仮説と全く逆の状況に対応する「対立仮説」がある(こちらが証明したい事象に対応する)。
すなわち、「個人が病気にかかっている」とか、「被告人が有罪である」とか、「ログイン対象が許可されたユーザである」といったことを表す。
目標は、偽である帰無仮説が棄却されて真である対立仮説が採用されることである。ある種のテスト(血液検査、裁判、ログイン試み)を実施し、データを得る。
テストの結果は、陰性かもしれない(つまり、病気でない、有罪でない、ログインが許されない)。
一方、それは陽性かもしれない(つまり、病気、有罪、ログイン成功)。
テストの結果と実際の状態が一致していないなら過誤が発生したことになる。
テストの結果と実際の状態が一致しているなら、判断は正しいことになる。
どちらの仮説を誤って採用してしまったかによって、過誤を「第一種過誤」と「第二種過誤」に分類する。
第一種過誤(α過誤、偽陽性)は、帰無仮説が実際には真であるのに棄却してしまう過誤である。つまり、偽がヒットすることによるエラーである。先ほどの例で言えば「個人は病気ではない」のにもかかわらず「個人が病気である」と判断してしまうことに相当する。
第二種過誤(β過誤、偽陰性)は、対立仮説が実際には真であるのに帰無仮説を採用してしまう過誤である。つまり、真が抜け落ちることによるエラーである。
対立仮説が正しい時に対立仮説を採択しない誤りのこと。先ほどの例で言えば「個人が病気である」のに「個人は病気でない」と判断してしまう事に相当する。
「真犯人を逮捕すること」を「帰無仮説を棄却すること」に例える。
第一種過誤は「一般市民を冤罪で逮捕してしまうこと」である。
第二種過誤は「真犯人を取り逃がすこと」を意味している。
刑事訴訟法336条で、「被告事件が罪とならないとき、又は被告事件について犯罪の証明がないときは、判決で無罪の言渡をしなければならない」と定めている。これは疑わしきは罰せずとも言う。
第一種過誤を避けるような手法を採用することを推奨している。他の分類については後述の過誤種別拡張の提案を参照されたい。
仮説検定は、2つの標本の分布の違いが無作為な偶然性で説明できるかどうかを判定する技法である。2つの分布に有意な差があると結論付ける場合、その差異が無作為な偶然性では説明できないことを十分注意して判断する必要がある。真ではない仮説を採用する可能性をなるべく小さくするよう注意を払わなければならない。一般に第一種過誤となる確率を .05 か .01 に設定する。これはつまり100例のうち5例か1例で過誤が発生することを意味する。これを「有意水準」と呼ぶ。100例のうち5例というのが十分かどうかは一概には言えないため、有意水準の選択には細心の注意が必要である。例えば、シックス・シグマの品質管理を採用する工場では標準偏差の6倍の幅(±6σ)を管理限界とする(これを外れるのは極めて珍しい)。
統計的手法の利点は無作為な標本抽出にある。つまり、2つの分布の差が治療の前後でどう変化するかを無作為抽出で追跡可能である。しかし、現実がそれほど単純でないのは明らかである。無作為標本を取り出したとき、全く同じ分布となる可能性は極めて小さい。たとえ同じ分布であったとしても、それが偶然の産物なのか、それとも常にそうなるのかは判断できない。
1928年、著名な統計学者のイェジ・ネイマン(1894年 - 1981年)とエゴン・ピアソン(1895年 - 1980年)は「特定の標本が、ある個体群から無作為に選ばれたと判断できるかどうかの判定」という問題を議論した。そして、Davidは「'無作為な'という形容詞は標本の抽出方法に対するもので、標本そのものにかかるのではない」と指摘した。
彼らは「過誤の2つの源泉」を次のように表した:
(a) 採択すべき仮説を棄却する過誤
(b) 棄却すべき仮説を採択する過誤
1930年、彼らは「過誤の2つの源泉」の概念を次のように練り直した:
…仮説検定では次の2点を常に考慮しなければならない。(1) 我々は、真の仮説を棄却してしまう可能性を必要に応じて低く抑えることができなければならない。(2) 偽と思われる仮説が棄却されるような検定でなければならない。
1933年、彼らはこれらの「問題は、仮説の真偽が確信を持って断言できるような場合には存在しない」と述べた。彼らはまた、「対立仮説群」から特定の仮説を棄却または採用する決定において、過誤が容易に発生するとした。
…(そして)それらの過誤は以下の2種類に分けられる:
(I) Ho(すなわち検定対象の仮説)が真であるのに棄却する。
(II) 代替の仮説 Hi が真であるのに Ho を採択した。
ネイマンとピアソンの共同執筆論文では、Ho が常に「検定対象仮説」を表。添え字は "O" であってゼロではない(「オリジナル」の意)。
同じ論文で、彼らは「2つの過誤の源泉」を第一種の過誤(errors of type I)および第二種の過誤(errors of type II)と呼んでいる。
ネイマンとピアソンによる過誤の定義は広く採用され、第一種過誤と第二種過誤として知られている。また、分かり易さから、これらをそれぞれ偽陽性と偽陰性とも呼ぶことが多い。これらの用語は本来の定義から拡大解釈され、様々な場面で使われるようになっている。例えば、
第一種過誤(偽陽性): 受諾(受理)されるべき帰無仮説を拒絶(却下)する過誤。例えば、無実の人物を有罪にすること。
第二種過誤(偽陰性): 拒絶(却下)されるべき帰無仮説を受諾(受理)する過誤。例えば、真犯人を無罪にすること。
上の例は、この拡大された定義での曖昧さを示している。ここでは「無罪であること」を中心に考えているが、当然ながら「有罪であること」を中心に考えることもできる。以下の表で条件を示す。
妊娠検査の例を示す。
ここで、検査結果が「真」や「偽」といった場合、2種類の意味があることに注意されたい。実際の状態(条件)では、真 = 有(ある属性が有る)と、偽 = 無(ある属性が無い)であり、検査結果の正確度においては、真陽性/偽陽性/真陰性/偽陰性という使われ方をする。上の表ではこの混同を避けるため、状態については「有/無」で表している。
偽陽性率\alphaとは、陰性の標本集団のうち、誤って陽性と判定された標本の割合である。すなわち、1 から特異度を引いた値と同じである。
\text{false positive rate } \alpha = \frac{\text{FP}{\text{TN} + \text{FP}
特異度が増大すると第一種過誤となる確率が低下するが、第二種過誤となる確率が増大する。
偽陰性率\betaとは、陽性の標本集団のうち、誤って陰性と判定された標本の割合である。すなわち、1 から感度を引いた値と同じである。
\text{false negative rate } \beta = \frac{\text{FN}{\text{TP} + \text{FN}
1 - \betaを検出力と呼ぶ。
ネイマンとピアソンが提唱した第一種過誤(偽陽性)と第二種過誤(偽陰性)は広く採用されているが、それら以外の過誤(「第三種過誤」や「第四種過誤」)を定義しようという試みがいくつかなされてきた。
これらは広く受け入れられるには至っていない。以下では、主なものを紹介する。
ユニヴァーシティ・カレッジ・ロンドンでネイマンやピアソンと同僚だったこともあるフローレンス・ナイチンゲール・デヴィッド (1909年-1993年)は、冗談交じりに 1947年の論文で、自身の研究結果についてネイマンとピアソンの「過誤の2種類の源泉」を三番目に拡張する可能性について触れている。
私は、この理論の基本的考え方を説明するにあたって、私が(第三種の)過誤に陥っているという批判、標本に対して間違った検査法を選んでいるという批判を受けるのではないかと心配してきた 。
1948年にフレデリック・モレスター(1916年 - 2006年) は「第三種過誤」を次のように定義することを提唱した。
第一種過誤: 真である帰無仮説を棄却する
第二種過誤: 偽である帰無仮説を採択する
第三種過誤: 間違った理由で、正しく帰無仮説を棄却する
ヘンリー・F・カイザー(1927年 - 1992年)は1966年の論文でMostellerの分類を拡張し、「第三種過誤」を棄却された仮説に基づいて間違った判断をすることを指すとした。また、Kaiserはこれをγ過誤(γ errors)と呼んでいる。
1957年、アライン・W・キンボール(オークリッジ国立研究所の統計学者)は、第一種過誤と第二種過誤に続く新たな種類の過誤を提案した。Kimballの定義した「第三種過誤」とは「間違った問題に正しい答を与えることによる過誤」である。
数学者リチャード・ハミング(1915年 - 1998年)は「間違った問題に正しい解法を与えるよりも、正しい問題に間違った解法を与える方が望ましい」と述べている。
ハーバード大学の経済学者ハワード・ライファも「間違った問題を解く破目に陥った」経験を述べている。
1974年、Ian MitroffとTom FeatheringhamはKimballの分類を拡張し、「問題の解法を考える際の最重要な要素は、その問題がまずどのように説明され、公式化されているかである」とした。
彼らは、第三種過誤を「正しい問題を解くべきときに間違った問題を解く過誤」あるいは「問題を正しく表現すべきときに間違った表現を選択する過誤」とした。
1969年、ハーバード大学の経済学者Howard Raiffaは冗談として「第四種過誤の候補: 正しい問題を解くのに時間が掛かりすぎること」とした。
1970年、MarascuiloとLevinは第四種過誤を提案した。これはMosteller的な定義であり「正しく棄却された仮説の不適切な解釈」による過誤である。彼らは、この例として「医師の病気の診断が正しいのに、その後の医薬の処方箋が間違っている場合」を挙げている。
統計的検定においては、以下の2つのトレードオフがある。
(a) 偽陽性の容認可能なレベル
(b) 偽陰性の容認可能なレベル
しきい値の設定によって、感度を変えることができる。感度を低くすれば真陽性のものを陰性と判定する危険が大きくなり、感度を高くすれば偽陽性を生む危険が大きくなる。
コンピュータ関連では、「偽陽性」や「偽陰性」という言葉が様々な場面で使われている。
セキュリティ上の脆弱性は、適切なユーザーからのアクセスのみを受け付け、コンピュータのデータを安全に保つ際に考慮すべき重要な概念である(コンピュータセキュリティ参照)。Moulton (1983) では以下のよう点が強調されている(p.125)。
「認証されたユーザー」を「不正アクセス者」と分類してしまう第一種過誤(偽陽性)を防ぐ。
「不正アクセス者」を「認証されたユーザー」と分類してしまう第二種過誤(偽陰性)を防ぐ。
「スパムフィルタリング」で通常の電子メールをスパムと誤って分類することを偽陽性と呼ぶ。この場合、普通の電子メールの配布が阻害される。スパムフィルタリングでは高確率で不要な電子メールをブロックできるが、偽陽性の発生を無視できる程度にまで低下させる努力は今も続いている。
逆にスパムを検出できずにそのまま通してしまうことを偽陰性と呼ぶ。偽陰性の発生率が低いほど、スパムフィルタリングの効率が良いとされる。
アンチウイルスソフトウェアでは、問題のないファイルをウイルスと誤認識することを偽陽性と呼ぶ。その原因はヒューリスティックやデータベース上のウイルスシグネチャの誤りによる。同様の問題はトロイの木馬やスパイウェアの検出でも発生する。
データベース検索では、検索要求に対して得られる適切でない結果を偽陽性と呼ぶ。特に全文検索で発生しやすい。全文検索は格納されている全文書の全内容について、ユーザーが指示した数個の単語が含まれているものを探す。
偽陽性の発生原因は自然言語の曖昧さにあることが多い。例えば「ホーム」という単語は「誰かの住居」という意味もあれば「あるWebサイトのトップレベルのページ」という意味もある。
光学文字認識 (OCR)
一般に検出アルゴリズムは偽陽性に陥り易い。光学文字認識(OCR)ソフトウェアは "a" のように見えるドットの集まりを "a" であると認識してしまう可能性がある。
偽陽性は空港でのセキュリティチェックなどでよく発生している。警報は武器が持ち込まれようとしていると判定されたときに鳴るよう設計されているが、その感度は高めに設定されているため、実際には武器ではない場合でも、鍵やバックルや小銭や携帯電話などで頻繁にひっかかるようになっている(金属探知機参照)。
この場合、真陽性(本物の武器を検出する場合)よりも偽陽性の場合が遥かに多く、陽性予測値は非常に低くなる。
虹彩認識、網膜スキャン、顔認識システムなどの生体認証スキャンでは、偽陰性が問題となる。この種のシステムでは、ある人物がデータベース上の既知の人物と誤って一致することがある。この場合、その人物は通行を許可される人物と判断されるか、手配中の犯罪者と判断される可能性がある。
医療において、「スクリーニング」と「臨床検査」には大きな違いがある。
比較的簡易な検査であり、多人数に対していっせいに行うことが多い。症状が現れていない人を対象にすることが多い。
比較的高価な検査であり、血液を採取するなどの手段が用いられることが多い。このため何らかの病気ではないかと疑われる患者に対して、それを確認するために行うことが多い。
例えば、米国の多くの州では、新生児に対してフェニルケトン尿症と甲状腺機能低下症のような先天性疾患のスクリーニングを行う。この場合、「偽陽性」の確率が非常に高いが、非常に早い段階でそれらの疾患を検出できるという利点がある。
輸血の際にHIVや肝炎のスクリーニングを行うが、この場合も「偽陽性」の確率は高い。実際にそれらの病気にかかっているかの検査はもっと正確な結果が得られる。
スクリーニングで最も「偽陽性」が話題となるのは、マンモグラフィーによる乳癌の検査であろう。米国におけるマンモグラフィー検診での偽陽性率は 15% にもなっており、世界的に見ても非常に高い。オランダでは偽陽性率が最も低く、1% である。
妊娠検査薬、健康診断では「偽陰性」が大きな問題となる。「偽陰性」の場合、患者に対して本当は病気にかかっているのにかかっていないという誤ったメッセージを伝えてしまう。このため、その後の治療方針が誤った前提の下に立てられてしまう。例えば、冠動脈の動脈硬化症を検出する心臓ストレステストで偽陰性があることが知られている。
特に症状がありきたりの病気の場合に「偽陰性」は深刻な問題を生じる。集団の中の患者数が非常に少ない場合には「偽陽性」が問題となる。詳しくはベイズ推定を参照されたい。
偽陽性という用語は超常現象や心霊の調査において、誤って証拠として採用される写真などを意味する。つまり、証明されていないが霊などが写っているとされる媒体(画像、動画、音声録音など)を指す。