部分的最小二乗回帰

部分的最小二乗回帰（ぶぶんてきさいしょうじじょうかいき、partial least squares regression、略称: PLS回帰）は、principal component regressionといくらかの関係を持つ統計的手法の一つである。偏最小二乗回帰または部分最小二乗回帰とも呼ばれる。PLS回帰は、応答変数と説明変数との間の最大分散の超平面を探す代わりに、予測変数とObservable variableを新たな空間に射影することによって線形回帰モデルを探る。XおよびYのデータが共に新たな空間に射影されるため、PLSに分類される手法群は双線形因子モデルとも呼ばれる。部分的最小二乗判別分析（PLS-DA）は、Yが分類である時の派生法である。
PLSは2つの行列（XおよびY）間の基本的関係を探すために用いられる。すなわち、これら2つの空間における共分散構造をモデル化するための潜在変数アプローチである。PLSモデルはY空間における最大多次元分散方向を説明するX空間における多次元方向を探そうと試みる。PLS回帰は予測因子の行列が観測因子よりも変数の数が多い時、そしてXの値の間に多重共線性が存在する時に特に適している。対照的に、標準的な回帰手法はこれらの場合（label=正則化されていない限り）失敗する。
部分的最小二乗法は、スウェーデンの統計学者Herman Woldによって発表された。ウォルドはその後息子のSvante Woldと共にこの手法を発展させた。PLSの（スヴァンテ・ウォルドによればより正確な）別称は、「projection to latent structures」（潜在構造への射影）であるが、多くの分野において「部分的最小二乗法」という用語が未だに優勢である。PLS回帰の最初の応用は社会科学分野でのものだったが、今日、PLS回帰は計量化学（ケモメトリクス）と関連領域において最も広く使われている。また、バイオインフォマティクス、感覚計量学、神経科学、人類学でも使われている。

**基礎的モデル**
多変量PLSの一般的基礎的モデルは以下の式で表わされる。


上式において、は予測変数の、は応答変数の行列; ならびにはそれぞれの射影（Xスコアまたは成分または因子行列）ならびにの射影（Yスコア）;  ならびにはそれぞれならびに直交「負荷量（ローディング）」行列; 行列およびは誤差項であり、互いに独立で同一の分布に従う確率正規変数であると仮定される。およびの分解は、ととの間の共分散を最大化するように行われる。

**アルゴリズム**
因子ならびに負荷量行列であるならびにを推定するための多くのPLSの変法が存在する。それらの多くは、としてととの間の線形回帰の推定量を構築する。一部のPLSアルゴリズムは、が列ベクトルである場合に対してのみ適切であるが、その他は行列の一般的な場合を扱う。アルゴリズムはまた、因子行列を直交行列もしくは正規直交行列として推定するか、あるいは条件を付けないかという点で異なる。最終的な予測値はこれら全ての変法で同じであるが、成分が異なっている。

**PLS1**
PLS1は、Yがベクトルの場合について適切で広く用いられているアルゴリズムである。PLS1はTを正規直交行列として推定する。以下に疑似コードを示す（大文字は行列、小文字は上に添字がある場合ベクトル、下に添字がある場合スカラーである）。
#  function PLS1()
#  
#  
#  
#  
#      
#      
#      
#      
#      if 
#          , ループから脱出
#      if 
#          
#          
#          
#  end for
#  
#* Do the same to form the P matrix and q vector.
# 
#  
#  return 
このアルゴリズム形式は、入力する XおよびYのセンタリングを必要としない。これはセンタリングがアルゴリズムによって暗黙的に実行されるためである。このアルゴリズムは行列Xの減次（の減算）を行うが、ベクトルyの減次は必要でないため行われない。ユーザ指定の変数lは回帰における潜在因子の数の上限である。この数が行列Xの階数に等しければ、アルゴリズムはBおよびに対する最小二乗回帰推定法に等しい。

**拡張**
2002年、潜在構造に対する直交射影（orthogonal projections to latent structures、OPLS）と呼ばれる新手法が発表された。OPLSでは、連続的変数データが予測情報と無相関の情報に分離される。これによって診断が改善され、解釈のための視覚化がより容易となる。しかしながら、これらの変更はPLSモデルの解釈可能性を改善するだけであり、予測性は改善しない。L-PLS法は、PLS回帰を3つの連結したデータブロックに拡張する 。同様に、OPLS-DA（Discriminant Analysis; 判別分析）法は、分類やバイオマーカーの研究のように離散変数を扱う時に適用できる。
2015年、部分的最小二乗法はthree-pass regression filter (3PRF) と呼ばれる手順と関連付けられた。もし観察と変数の数が大きいならば、3PRF（とゆえにPLS）は線形潜在因子モデルによって暗示される「最良の」予測について漸近的に正規である。株式市場モデルでは、PLSは運用益とキャッシュフローの成長の正確なサンプル外予測を与えることが示されている。

**ソフトウェア実装**
ほとんどの主要な統計ソフトウェアパッケージがPLS回帰を用意しているdate=June 2012。

**脚注**

**推薦文献**
isbn=0-8247-0198-4 
*url=http://amstat.tandfonline.com/doi/full/10.1080/00401706.1993.10485033
*cite journal |last1=Haenlein |first1=Michael |first2=Andreas M. |last2=Kaplan | title=A Beginner's Guide to Partial Least Squares Analysis |journal=Understanding Statistics |volume=3 |issue=4 |pages=283–297| year=2004 |doi=10.1207/s15328031us0304_4 - year=2005 
*doi=10.1111/1467-9469.00201 - year=1998- year=2006
*jstor=4616159
*pages=391–420 
*year=1981 
*volume=6
*issue=3 
*cite journal |last=Garthwaite |first=Paul H. |title=An Interpretation of Partial Least Squares |journal=Journal of the American Statistical Association |volume=89 |pages=122–7 |year=1994 |jstor=2291207 |doi=10.1080/01621459.1994.10476452 |issue=425
*isbn=978-3-540-32825-4 
*cite journal |last1=Stone |first1=M. |last2=Brooks |first2=R.J. |title=Continuum Regression: Cross-Validated Sequentially Constructed Prediction embracing Ordinary Least Squares, Partial Least Squares and Principal Components Regression |journal=Journal of the Royal Statistical Society, Series B |volume=52 |issue=2 |pages=237–269 |year=1990 |jstor=2345437
*Wan Mohamad Asyraf  Bin Wan Afthanorhan. (2013). A Comparison Of Partial Least Square Structural Equation Modeling (PLS-SEM) and Covariance Based Structural EquationModeling (CB-SEM) for Confirmatory Factor Analysis International Journal of Engineering Science and Innovative Technology (IJESIT), 2(5), 9.

**関連項目**
特徴抽出
*データマイニング
*機械学習
*回帰分析
*カノニカル相関
*デミング回帰
*Multilinear subspace learning
*主成分分析
*Total sum of squares

**外部リンク**
 imDEV free Excel add-in for PLS and PLS-DA- PLS in Brain Imaging- on-line PLS regression (PLSR) at Virtual Computational Chemistry Laboratory- Uncertainty estimation for PLS- A short introduction to PLS regression and its history