オートエンコーダ
オートエンコーダ(自己符号化器、英: autoencoder)とは、機械学習において、ニューラルネットワークを使用した次元圧縮のためのアルゴリズム。2006年にジェフリー・ヒントンらが提案した。
「分散が固定された正規分布 N ( X | μ θ , σ ) {\displaystyle N(X|\mu _{\theta },\sigma )} 」を考えると負の対数尤度 L n ( θ ) {\displaystyle L_{n}(\theta )} は以下になる:
L n ( θ ) = ‖ x − μ θ ‖ 2 2 σ 2 − log  ( 2 π σ 2 ) ∝ ‖ x − μ θ ‖ 2 {\displaystyle L_{n}(\theta )={\frac {\|x-\mu _{\theta }\|^{2}}{2\sigma ^{2}}}-\log({\sqrt {2\pi \sigma ^{2}}})\propto \|x-\mu _{\theta }\|^{2}}
これは x {\displaystyle x} と μ θ {\displaystyle \mu _{\theta }} の二乗誤差と解釈できる。