多重共線性
多項式の項( x 1 {\displaystyle x_{1}} 、 x 1 2 {\displaystyle x_{1}^{2}} 、 x 1 3 {\displaystyle x_{1}^{3}} など)や交互作用の項( x 1 × x 2 {\displaystyle x_{1}\times x_{2}} など)を生成すると、問題の変数が限られた範囲(例えば、[2,4])にある場合、多重共線性を引き起こすことがある。一般的には何の効果も得られないが、平均化はこの特殊な多重共線性を解消する。慎重に設計されたコンピュータプログラムを使用しない場合は、丸めなどの計算上のステップから生じる問題を克服するのに有効である。
独立変数を標準化する。 これにより、条件指数が 30 を超えた場合の誤判定を減らせる可能性がある。
また、ゲーム理論のツールであるシャプレー値を用いることで、モデルが多重共線性の影響を説明できることが示唆されている。 シャプレー値は、各予測変数に値を割り当て、重要性のすべての可能な組み合わせを評価する。
リッジ回帰や主成分回帰(英語版)、部分的最小二乗回帰などが使用できる。
相関関係にある説明因子が、同じ基礎的説明因子の異なるラグ値である場合、推定されるべき係数の相対的な値に一般的な構造を課すことで、分布ラグ(英語版)手法を用いることができる。