极限学习机

极限学习机（英文：Extreme Learning Machines，縮寫ELM），又名超限学习机，為人工智能機器學習領域中的一種人工神經網路模型，是一种求解单隐层前馈神经网路的学习演算法。极限学习机是用于分类、回归、聚类、稀疏逼近、压缩和特征学习的前馈神经网络，具有单层或多层隐层节点，其中隐层节点的参数（不仅仅是将输入连接到隐层节点的权重）不需要被调整。这些隐层节点可以随机分配并且不必再更新（即它们是随机投影但具有非线性变换），或者可以从其祖先继承下来而不被更改。在大多数情况下，隐层节点的输出权重通常是一步学习的，这本质上相当于学习一个线性模型。“超限学习机”（ELM）的名称是由其主要发明者黄广斌教授及其他学者共同商议后赋予此类模型的。 据其发明者称，这些模型能够产生良好的泛化性能，并且比使用反向传播训练的网络快数千倍。研究表明这些模型在分类和回归应用中一般都可以胜过Support Vector Machines (SVM, 支持向量机)。 2001-2010年，ELM研究主要集中在“广义”单隐层前馈神经网路（Single-Hidden-Layer Feedforward Networks, SLFNs）的统一学习框架，包括但不限于Sigmoid网路、Radial Basis Function (RBF)网路、阈值网路、三角网路、模糊推理系统、傅里叶级数 、 拉普拉斯变换、小波网路等。这些年取得的主要成果之一是在理论上成功地证明了 ELM 的通用逼近和分类能力 从 2010 年到 2015 年，ELM 研究扩展到统一的学习框架，统一了核学习（Kernel Learning）的、SVM 和一些典型的特征学习方法，如主成分分析 (Principal Component Analysis, PCA) 和非负矩阵分解 (Non-Matrix Factorization, NMF)。研究表明，与 ELM 相比，SVM 实际上提供了次优解决方案。ELM可以提供白盒（White-Box）内核映射，这是通过 ELM 随机特征映射实现的，而不是 SVM 中使用的黑盒（Black-Box）内核。 PCA 和 NMF 可以被视为ELM的隐层使用线性节点的特殊情况。 从 2015 年到 2017 年，越来越多的ELM研究开始聚焦于多层实现 。此外，自 2011 年以来，ELM理论得到越来越多的生物学研究发现的验证。 从2017年开始，为了克服训练LU分解过程中的低收敛问题，基于Hessenberg分解和QR分解的正则化方法开始受到关注 2017年，Google Scholar在其“经典论文：过去10年时间考验的文章”，有两篇 ELM 论文被列入“2006 年人工智能前 10 名”，分别排名第 2 和第 7 位。 传统的前馈神经网络（如BP神经网络）需要人为设置大量的网络训练参数，此算法卻只需要设定网络的结构，而不需设置其他参数，因此具有简单易用的特点。其输入层到隐藏层的权值是一次随机确定的，算法执行过程中不需要再调整，而隐藏层到输出层的权值只需解一个线性方程组来确定，因此可以提升计算速度。 极限学习机的名稱來自新加坡南洋理工大學黃廣斌教授所建立的模型。黃教授指出，此算法的泛化性能良好，且其學習速度比運用反向传播算法訓練的速度要快上1000倍。 给定一个单隐层的ELM，假设第 i {\displaystyle i} 个隐层节点的输出函数是： h i ( x ) = G ( a i , b i , x ) {\displaystyle h_{i}(\mathbf {x} )=G(\mathbf {a} _{i},b_{i},\mathbf {x} )} , 其中 a i {\displaystyle \mathbf {a} _{i}} 和 b i {\displaystyle b_{i}} 是第 i {\displaystyle i} 个隐层节点的参数。有 L {\displaystyle L} 个隐层节点的单隐层ELM的输出函数是: f L ( x ) = ∑ i = 1 L β i h i ( x ) {\displaystyle f_{L}({\bf {x}})=\sum _{i=1}^{L}{\boldsymbol {\beta }}_{i}h_{i}({\bf {x}})} , 其中 β i {\displaystyle {\boldsymbol {\beta }}_{i}} 是第 i {\displaystyle i} 个隐层节点的输出权值。 h ( x ) = [ h i ( x ) , . . . , h L ( x ) ] {\displaystyle \mathbf {h} (\mathbf {x} )=[h_{i}(\mathbf {x} ),...,h_{L}(\mathbf {x} )]} 是ELM的隐层输出映射向量。给定 N {\displaystyle N} 个训练样本，ELM的隐层输出映射矩阵 H {\displaystyle \mathbf {H} } 是： H = [ h ( x 1 ) ⋮ h ( x N ) ] = [ G ( a 1 , b 1 , x 1 ) ⋯ G ( a L , b L , x 1 ) ⋮ ⋮ ⋮ G ( a 1 , b 1 , x N ) ⋯ G ( a L , b L , x N ) ] {\displaystyle {\bf {H}}=\left[{\begin{matrix}{\bf {h}}({\bf {x}}_{1})\\\vdots \\{\bf {h}}({\bf {x}}_{N})\end{matrix}}\right]=\left[{\begin{matrix}G({\bf {a}}_{1},b_{1},{\bf {x}}_{1})&\cdots &G({\bf {a}}_{L},b_{L},{\bf {x}}_{1})\\\vdots &\vdots &\vdots \\G({\bf {a}}_{1},b_{1},{\bf {x}}_{N})&\cdots &G({\bf {a}}_{L},b_{L},{\bf {x}}_{N})\end{matrix}}\right]} 期望的训练数据目标矩阵 T {\displaystyle \mathbf {T} } 是: T = [ t 1 ⋮ t N ] {\displaystyle {\bf {T}}=\left[{\begin{matrix}{\bf {t}}_{1}\\\vdots \\{\bf {t}}_{N}\end{matrix}}\right]} 一般而言，ELM是一种正则化神经网络，但其具有未调整的隐层映射（由随机隐层节点、内核或其它实现形成），其目标函数为： Minimize:  ‖ β ‖ p σ 1 + C ‖ H β − T ‖ q σ 2 {\displaystyle {\text{Minimize: }}\|{\boldsymbol {\beta }}\|_{p}^{\sigma _{1}}+C\|{\bf {H}}{\boldsymbol {\beta }}-{\bf {T}}\|_{q}^{\sigma _{2}}} 其中 σ 1 > 0 , σ 2 > 0 , p , q = 0 , 1 2 , 1 , 2 , ⋯ , + ∞ {\displaystyle \sigma _{1}>0,\sigma _{2}>0,p,q=0,{\frac {1}{2}},1,2,\cdots ,+\infty } . 在ELM中，可以使用 σ 1 {\displaystyle \sigma _{1}} 、 σ 2 {\displaystyle \sigma _{2}} 、 p {\displaystyle p} 和 q {\displaystyle q} 的不同组合，并由此产生对应于回归、分类、稀疏编码、压缩、特征学习和聚类等的不同学习算法。 作为一个特例，最简单的ELM训练算法学习模型可以简化为（对于单隐层 Sigmoid 神经网络）： T ^ = W 2 σ ( W 1 x ) {\displaystyle \mathbf {\hat {T}} =\mathbf {W} _{2}\sigma (\mathbf {W} _{1}x)} 其中 W1是输入层到隐层的权值（包括隐层节点的参数）， σ {\displaystyle \sigma } 是隐层节点的输出函数（或者常称为激励函数，或基函数），W2是隐层到输出层的权值（隐层的输出权值）。ELM算法可以表达为： 随机产生W1（比如高斯噪声）； 基于最小二乘法估算W2 ： W 2 = σ ( W 1 X ) + T {\displaystyle \mathbf {W} _{2}=\sigma (\mathbf {W} _{1}\mathbf {X} )^{+}\mathbf {T} } 在大多数情况下，ELM 用于单隐层前馈网络 (SLFN)，包括但不限于Sigmoid网络、RBF网络、阈值网络、模糊推理网络、复杂神经网络、小波网络、傅里叶变换、拉普拉斯变换等。 由于ELM可以有对应于回归、分类、稀疏编码、压缩、特征学习和聚类的不同算法实现，多个 ELM组合可以用于形成多隐层网络、分层网络或深度学习。 和传统神经网络不一样的是ELM 中的隐节点是一个计算元素（computing element），不需要将其视为经典神经网络中的神经元。ELM 中的隐节点可以是经典的人工神经元、数学和信号系统中的基函数，也可以是一些隐节点形成的子网络。 发表研究证明了 ELM 的通用逼近和分类能力。特别是，黄广斌和他的团队使用了将近七年时间（2001-2008）对ELM的通用逼近能力理论的严格证明 理论上，任何非常量分段连续函数都可以用作 ELM 隐层节点的激活函数，这样的激活函数不必是可微分的。如果调整隐层节点的参数可以使单隐层前馈网络逼近任何目标函数 f ( x ) {\displaystyle f(\mathbf {x} )} ，那么隐层节点参数可以根据任何连续分布概率随机生成，并且有适当的输出权重 β {\displaystyle {\boldsymbol {\beta }}} 使得   l i m L → ∞ ‖ ∑ i = 1 L β i h i ( x ) − f ( x ) ‖ = 0 {\displaystyle \ lim_{L\rightarrow \infty }\left\|\sum _{i=1}^{L}{\boldsymbol {\beta }}_{i}h_{i}({\bf {x}})-f({\bf {x}})\right\|=0} 成立的概率为 1。 给定任何非常量分段连续函数作为 SLFNs 中的激活函数，如果调整隐层节点的参数可以使 SLFNs 逼近任何目标函数 f ( x ) {\displaystyle f(\mathbf {x} )} ，那么具有随机隐层映射的 SLFNs h ( x ) {\displaystyle \mathbf {h} (\mathbf {x} )} 可以分开任意形状的任意不相交区域。 ELM隐层节点可以使用广泛的非常量分段连续函数 G ( a , b , x ) {\displaystyle G(\mathbf {a} ,b,\mathbf {x} )} 做为输出函数（从数值分析上讲，基函数）： Sigmoid function: G ( a , b , x ) = 1 1 + exp ⁡ ( − ( a ⋅ x + b ) ) {\displaystyle G(\mathbf {a} ,b,\mathbf {x} )={\frac {1}{1+\exp(-(\mathbf {a} \cdot \mathbf {x} +b))}}} Fourier function: G ( a , b , x ) = sin ⁡ ( a ⋅ x + b ) {\displaystyle G(\mathbf {a} ,b,\mathbf {x} )=\sin(\mathbf {a} \cdot \mathbf {x} +b)} Hardlimit function: G ( a , b , x ) = { 1 , if  a ⋅ x − b ≥ 0 0 , otherwise {\displaystyle G(\mathbf {a} ,b,\mathbf {x} )={\begin{cases}1,&{\text{if }}{\bf {a}}\cdot {\bf {x}}-b\geq 0\\0,&{\text{otherwise}}\end{cases}}} Gaussian function: G ( a , b , x ) = exp ⁡ ( − b ‖ x − a ‖ 2 ) {\displaystyle G(\mathbf {a} ,b,\mathbf {x} )=\exp(-b\|\mathbf {x} -\mathbf {a} \|^{2})} Multiquadrics function: G ( a , b , x ) = ( ‖ x − a ‖ 2 + b 2 ) 1 / 2 {\displaystyle G(\mathbf {a} ,b,\mathbf {x} )=(\|\mathbf {x} -\mathbf {a} \|^{2}+b^{2})^{1/2}} Wavelet: G ( a , b , x ) = ‖ a ‖ − 1 / 2 Ψ ( x − a b ) {\displaystyle G(\mathbf {a} ,b,\mathbf {x} )=\|a\|^{-1/2}\Psi \left({\frac {\mathbf {x} -\mathbf {a} }{b}}\right)} ，其中 Ψ {\displaystyle \Psi } 是单母小波函数. Circular functions: tan ⁡ ( z ) = e i z − e − i z i ( e i z + e − i z ) {\displaystyle \tan(z)={\frac {e^{iz}-e^{-iz}}{i(e^{iz}+e^{-iz})}}} sin ⁡ ( z ) = e i z − e − i z 2 i {\displaystyle \sin(z)={\frac {e^{iz}-e^{-iz}}{2i}}} Inverse circular functions: arctan ⁡ ( z ) = ∫ 0 z d t 1 + t 2 {\displaystyle \arctan(z)=\int _{0}^{z}{\frac {dt}{1+t^{2}}}} arccos ⁡ ( z ) = ∫ 0 z d t ( 1 − t 2 ) 1 / 2 {\displaystyle \arccos(z)=\int _{0}^{z}{\frac {dt}{(1-t^{2})^{1/2}}}} Hyperbolic functions: tanh ⁡ ( z ) = e z − e − z e z + e − z {\displaystyle \tanh(z)={\frac {e^{z}-e^{-z}}{e^{z}+e^{-z}}}} sinh ⁡ ( z ) = e z − e − z 2 {\displaystyle \sinh(z)={\frac {e^{z}-e^{-z}}{2}}} Inverse hyperbolic functions: arctanh ( z ) = ∫ 0 z d t 1 − t 2 {\displaystyle {\text{arctanh}}(z)=\int _{0}^{z}{\frac {dt}{1-t^{2}}}} arcsinh ( z ) = ∫ 0 z d t ( 1 + t 2 ) 1 / 2 {\displaystyle {\text{arcsinh}}(z)=\int _{0}^{z}{\frac {dt}{(1+t^{2})^{1/2}}}} 機器學習 前馈神经网络 人工神經網絡 Huang, Guang-Bin; Zhu, Qin-Yu; Siew, Chee-Kheong. Extreme learning machine: theory and applications. Neurocomputing. 2006, 70 (1): 489–501. doi:10.1016/j.neucom.2005.12.126.  Huang, Guang-Bin; Zhou, Hongming; Ding, Xiaojian; Zhang, Rui. Extreme Learning Machine for Regression and Multiclass Classification. IEEE Transactions on Systems, Man, and Cybernetics - Part B: Cybernetics. 2012, 42 (2): 513–529. PMID 21984515. doi:10.1109/tsmcb.2011.2168604.  Huang, Guang-Bin. What are Extreme Learning Machines? Filling the Gap Between Frank Rosenblatt's Dream and John von Neumann's Puzzle. Cognitive Computation. 2015, 7 (3): 263–278. doi:10.1007/s12559-015-9333-0.  Huang, Guang-Bin. An Insight into Extreme Learning Machines: Random Neurons, Random Features and Kernels. Cognitive Computation. 2014, 6 (3): 376–390. doi:10.1007/s12559-014-9255-2.  Huang, Guang-Bin; Zhu, Qin-Yu; Mao, K. Z.; Siew, Chee-Kheong; Saratchandran, P.; Sundararajan, N. Can Threshold Networks Be Trained Directly?. IEEE Transactions on Circuits and Systems-II: Express Briefs. 2006, 53 (3): 187–191. doi:10.1109/tcsii.2005.857540.  Huang, Guang-Bin; Chen, Lei; Siew, Chee-Kheong. Universal Approximation Using Incremental Constructive Feedforward Networks with Random Hidden Nodes. IEEE Transactions on Neural Networks. 2006, 17 (4): 879–892. PMID 16856652. doi:10.1109/tnn.2006.875977.  Rahimi, Ali; Benjamin Recht. Weighted Sums of Random Kitchen Sinks: Replacing Minimization with Randomization in Learning. Advances in Neural Information Processing Systems. 2008.  引文使用过时参数coauthors (帮助) Cao, Jiuwen; Lin, Zhiping; Huang, Guang-Bin. Composite Function Wavelet Neural Networks with Extreme Learning Machine. Neurocomputing. 2010, 73 (7): 1405–1416. doi:10.1016/j.neucom.2009.12.007.  Huang, Guang-Bin; Chen, Lei; Siew, Chee-Kheong. Universal Approximation Using Incremental Constructive Feedforward Networks with Random Hidden Nodes. IEEE Transactions on Neural Networks. 2006, 17 (4): 879–892. PMID 16856652. doi:10.1109/tnn.2006.875977.  Huang, Guang-Bin; Chen, Lei. Convex Incremental Extreme Learning Machine. Neurocomputing. 2007, 70 (16): 3056–3062. doi:10.1016/j.neucom.2007.02.009.  Huang, Guang-Bin; Chen, Lei. "Enhanced Random Search Based Incremental Extreme Learning Machine. Neurocomputing. 2008, 71 (16): 3460–3468. doi:10.1016/j.neucom.2007.10.008.  He, Qing; Jin, Xin; Du, Changying; Zhuang, Fuzhen; Shi, Zhongzhi. "Clustering in Extreme Learning Machine Feature Space. Neurocomputing. 2014, 128: 88–95. doi:10.1016/j.neucom.2012.12.063.  Kasun, Liyanaarachchi Lekamalage Chamara; Yang, Yan; Huang, Guang-Bin; Zhang, Zhengyou. Dimension Reduction With Extreme Learning Machine. IEEE Transactions on Image Processing. 2016, 25 (8): 3906–3918. PMID 27214902. doi:10.1109/tip.2016.2570569.  Huang, Guang-Bin; Bai, Zuo; Kasun, Liyanaarachchi Lekamalage Chamara; Vong, Chi Man. Local Receptive Fields Based Extreme Learning Machine. IEEE Computational Intelligence Magazine. 2015, 10 (2): 18–29. doi:10.1109/mci.2015.2405316.  Tang, Jiexiong; Deng, Chenwei; Huang, Guang-Bin. Extreme Learning Machine for Multilayer Perceptron. IEEE Transactions on Neural Networks and Learning Systems. 2016, 27 (4): 809–821. PMID 25966483. doi:10.1109/tnnls.2015.2424995.  Barak, Omri; Rigotti, Mattia; Fusi, Stefano. The Sparseness of Mixed Selectivity Neurons Controls the Generalization-Discrimination Trade-off. Journal of Neuroscience. 2013, 33 (9): 3844–3856. PMID 6119179. doi:10.1523/jneurosci.2753-12.2013.  Rigotti, Mattia; Barak, Omri; Warden, Melissa R.; Wang, Xiao-Jing; Daw, Nathaniel D.; Miller, Earl K.; Fusi, Stefano. "The Importance of Mixed Selectivity in Complex Cognitive Tasks. Nature. 2013, 497 (7451): 585–590. PMID 4412347. doi:10.1038/nature12160.  Fusi, Stefano; Miller, Earl K; Rigotti, Mattia. "Why Neurons Mix: High Dimensionality for Higher Cognition. Current Opinion in Neurobiology. 2015, 37: 66–74. doi:10.1016/j.conb.2016.01.010.  Kutlu, Yakup Kutlu; Yayik, Apdullah; Yıldırım, Esen; Yıldırım, Serdar. LU triangularization extreme learning machine in EEG cognitive task classification. Neural Computation and Applications. 2017, 31 (4): 1117–1126. doi:10.1007/s00521-017-3142-1.  Yayık, Apdullah Yayık; Kutlu, Yakup; Altan,Gökhan. Regularized HessELM and Inclined Entropy Measurement for Congestive Heart Failure Prediction (PDF). arXiv.org. [2019]. （原始内容存档 (PDF)于2021-11-19）.  ELM入口网站附源代码、未决难题、ELM会议、教程、参考资料等 （页面存档备份，存于互联网档案馆） ELM的R程序包 （页面存档备份，存于互联网档案馆） GitHub上的ELM开源程序（Python） GitHub上的ELM开源程序（C++） GitHub上的ELM开源程序（Matlab）