代入法 (統計学)

統計学において、 代入法とは欠測データを代入値で置き換えるプロセスを指す。 データポイントを置き換える場合はユニット代入、データポイントの構成要素を置き換える場合はアイテム代入と呼ばれる。

欠測データが引き起こす主な問題として、「相当量の偏りをもたらす」「データの処理と分析を困難にする」「効率を低下させる」の 3 つがある 。

欠測データはデータの分析に問題を引き起こす可能性があり、代入は欠測データを持つケースのリストワイズ削除に伴う落とし穴を回避する方法と見なされる。つまり、ほとんどの統計パッケージでは、欠測データのあるケースをデフォルトで破棄するが、それによりバイアスが増えたり、結果の代表性に影響を及ぼしたりする可能性がある。代入法では、欠測データを他の利用可能な情報に基づいた推定値で置き換えることにより、すべてのケースを保持する。 すべての欠測データを代入すると、欠測のないデータを前提とした標準的な手法を使用してデータセットを分析することができる 。 欠測データを説明するための理論が科学者によっていろいろと採用されてきたが、それらの大部分ではバイアスが増える。

欠測データを処理するための試みとして、ホットデッキ代入法、コールドデッキ代入法、リストワイズ削除、ペアワイズ削除、平均値代入法、非負行列因子分解、回帰代入法、LOCF 、確率的代入法、多重代入法などがある。

1. リストワイズ削除とペアワイズ削除
-------------------

欠測データを処理する最も一般的な方法は、リストワイズ削除である。リストワイズ削除では、欠測データのあるすべてのケースが削除される。

リストワイズ削除では、有効なサンプルサイズを減らすことで分析における検出力が低下する。例えば、1000のケースが収集され、80のケースに欠損値があった場合、リストワイズ削除後のサンプルサイズは 920 である。

欠測が完全には無作為でない場合、リストワイズ削除後に残った標本は元の標本とは異なる、偏ったものになるため、母集団を代表するものではなくなる。

欠測が完全に無作為である場合、リストワイズ削除を用いてもバイアスは増えないが、検出力の低下はまぬがれないし、そのような場合はそもそも稀である 。

ペアワイズ削除では、個々の分析において、その分析に必要な変数が欠測しているケースのみを削除する。欠測データがあるケースであっても、その分析に必要な変数が欠測していなければそのケースを含めて分析する。ペアワイズ削除を使用すると、個々の分析の標本数は一致しなくなる。 ペアワイズ削除では用いる変数によって標本数が減ったり減らなかったりするので、100％を超える相関などの数学的にありえない状況を招く可能性がある。

リストワイズ削除には多くの欠点があるものの、簡単に実装できることから、欠測データを処理する手法としてリストワイズ削除が最も広く用いられている。

2. 単一代入法
--------

2.1. ホットデッキ代入法
--------------

かつてはホットデッキ代入法が一般的な代入法だった。ホットデッキ代入法では、無作為に抽出された類似の記録から欠測データを代入する。「ホットデッキ」という用語は、 パンチカードにデータを保存した時代に由来する。処理中のパンチカードの山、すなわち同じデータセットのケースを使って代入する。

ホットデッキ代入法の 1 種である「最後の観測値の繰り越し」last observation carried forwardでは、ソートして順序づけられたデータセットを準備して、欠測データの直前の値を欠測データに代入する操作を順に進めていく。

ヒトやモノにおける繰り返しの測定値がケースとなる状況で考えると、「データが欠測している場合は最後の測定値のまま変わらないと推定するのが最も妥当だろう」と考えることに対応する。 バイアスが増えて誤った結論に至る可能性があるため、LOCFの使用は推奨されていない 。

2.2. コールドデッキ代入法
---------------

対照的に、コールドデッキ代入法では、別のデータセットのケースを使って代入する。コンピュータの性能向上に伴い、この洗練された代入法がホットデッキ代入法に取って代わった。コールドデッキ代入法は、過去の調査における類似した項目の回答値で置き換える方法であり、時間間隔を測定する調査で用いられる。

2.3. 平均値置換
----------

平均値代入法は欠測データ以外のケースにおける平均値を用いて欠測データを置き換えるもので、その変数の標本平均を変更しないという利点がある。 しかし、平均値代入法では変数に代入される値が一定であって他の変数の影響を受けず、相関が減弱することが多変量分析において問題になる。

平均代入法は、クラス内で実行でき、 として表すことができる。 一般化すると：

ここで、 は代入前のデータを用いて を で回帰することによって求められる。 はクラスのダミー変数である。 はデータあり、 はデータなしを示す 。

2.4. 非負行列因子分解
-------------

非負行列因子分解では、これらの欠測データを偏りをもたらす可能性のあるゼロとして扱うのではなく、コスト関数を最小化しながら欠測データを扱うことができる 。NMF は数学的に証明された代入法である 。Ren ら は天文学の分野で「欠測データがコスト関数で無視されること」「欠測データによる影響が2次効果と同じくらい小さい可能性があること」を証明するアプローチを研究し適用した。彼らの研究は、2次元行列を対象としている。具体的には、数学的に導出し、シミュレートされたデータ代入を行い、天文学データに適用した。

NMF コンポーネントを取得する方法に応じて、NMF を使用した代入手順は 2 つに分けることができる。Ren らは、データ代入中の欠測データによる影響が、NMF コンポーネントが知られている場合は 2 次のオーダーであること、NMFコンポーネントが不明な場合は 1 次から 2 次のオーダーであることを証明した。

NMFコンポーネントを取得する方法に応じて、上記の前者の手順は、後者から独立することも、依存することもできる。さらに、より多くのNMF コンポーネントを使用すると、代入の品質を向上させることができる。

2.5. 回帰代入法
----------

回帰代入法では、他の変数に基づいて変数の観測値を予測するために回帰モデルを作成し、その回帰モデルを使って、その変数の欠測データに代入する。言い換えると、完全なケースもあれば不完全なケースもある中で、利用可能な情報を駆使して特定の変数の値を予測する。次に、回帰モデルからの適合値を使用して、欠測データに代入する。

問題は、代入されたデータの推定に誤差項が含まれていないため、推定が残差分散なしで回帰直線に完全に一致することである。これにより、平均値代入法とは逆に関係が過剰に識別されるし、入力された値のバラツキを過小評価する。回帰モデルは、欠測データの最も可能性の高い値を予測するが、その値に関する不確実性は提示しない。

確率的回帰は、平均回帰分散を回帰代入に追加してエラーを導入することにより、回帰代入における誤差項の欠如を修正することにある程度成功した。確率的回帰では、上記の手法よりも偏りを減らすことができるが、単純な残差分散よりも多くのノイズが導入されるべきではないかという問題がある 。

3. 多重代入法
--------

代入によるノイズの増加の問題に対処するために、ドナルド・ルービンは、複数の代入したデータセット間の結果を平均化する方法を開発した 。 多重代入法は次の 3 つのステップに従う。

代入 – 単一代入法と同様、欠測データが代入される。 ただし、代入値は、1回だけではなく、分布から 回抽出される。 このステップの終了時には、 個の代入済みデータセットが存在する。
分析 – 個の代入済みデータセットのそれぞれが独立に分析される。 このステップの終了時には、 個の分析が存在する。
プーリング – 関心のある変数の平均、分散、信頼区間を計算する 、すなわち各のモデルからのシミュレーションを組み合わせることにより、 個の結果が1つの結果に統合される。 単一代入法の手法が複数あるのと同様に、多重代入法の手法も複数ある。多重代入法が単一代入法およびリストワイズ削除よりも優れている1つの利点は、複数の代入が柔軟であり、さまざまなシナリオで使用できることである。欠測が完全に無作為である場合や欠測が無作為である場合だけでなく、欠測が無作為ではない場合であっても、多重代入法を用いることができる。マルコフ連鎖モンテカルロ法 multiple imputation by chained equationsが多重代入法ではよく用いられる手法で、fully conditional specificationや逐次回帰多重代入とも呼ばれる 。MICEは、欠測が無作為であるデータセットに非常にうまく機能することが示されているが、シミュレーション研究を通じて、十分な数の補助変数または潜在変数を用いることで、欠測が無作為ではないデータセットでも機能することが示唆されている 。

単一代入法では代入の不確実性を考慮しておらず、代入後にはデータが実際の値であるかのように扱われる。代入の不確実性を無視することで、結果のバラツキを過小評価したり、誤った結論に至る可能性がある 。多重代入法では、複数回代入することによって、不確実性と真の値がとったであろう範囲とを記述することができる。

さらに、単一代入法とリストワイズ削除の実装が簡単な場合もあるが、多重代入法の実装もそれほど難しくはない。多重代入法を簡単に実行できるような多様な統計パッケージが多様な統計ソフトウェアに実装されている。たとえば、MICEパッケージを使用すると、RのユーザーはMICEメソッドを使用して多重代入を実行できる。

4. 関連項目
-------

ブートストラップ
打ち切り
ジオインピュテーション
補間
期待値最大化アルゴリズム

5. 参考文献
-------

6. 外部リンク
--------

[1]
[2]
[3]
フィンランド統計局によるホットデッキ補完の[4]。
Rao-Shaoアプローチを拡張し、多重代入の問題について議論している[5]。
実際の心血管データでのK-Meanクラスタリングの欠測値代入法として使用されるファジー無秩序規則誘導アルゴリズムの[6]
[7]英国国家統計局による代入の実際の適用