ニューラルネットワーク
s e r i e s ∼ p ( x t , x t − 1 , . . . , t 0 ) = ∏ i = 0 N p ( x t | x < t ) = ∏ i = 0 N N e u r a l N e t w o r k ( x t | x < t ) {\displaystyle series\sim p(x_{t},x_{t-1},...,t_{0})=\prod _{i=0}^{N}p(x_{t}|x_{<t})=\prod _{i=0}^{N}NeuralNetwork(x_{t}|x_{<t})}
自己回帰型生成ネット(Autoregressive Generative Network)とは、系列データの生成過程(同時確率分布)を系列の過去データに対する条件付分布の積と考え条件付分布をニューラルネットワークで表現するモデルである。非線形自己回帰生成モデルの一種、詳しくは自己回帰モデル § 非線形自己回帰生成モデル。画像生成におけるPixelCNN、音声生成におけるWaveNet・WaveRNNがその例である。学習時は学習データを条件付け(=入力)にできるため、ニューラルネットワーク自体が再帰性を持っていなければ並列学習が容易である(CNN型のWaveNetなど)。ニューラルネットワーク自体に再帰性がある場合は学習時も系列に沿った逐次計算が必要となる(RNN型のWaveRNNなど)。
誤差逆伝播法に用いられる活性化関数に放射基底関数を用いたニューラルネットワーク
RBFネットワーク(英語版)
一般回帰ニューラルネットワーク(英語版)(GRNN、General Regression Neural Network)- 正規化したRBFネットワーク
自己組織化写像はコホネンが1982年に提案した教師なし学習モデルであり、多次元データのクラスタリング、可視化などに用いられる。自己組織化マップ、コホネンマップとも呼ばれる。
自己組織化写像
学習ベクトル量子化(英語版)