线性整流函数 整流線性單位函数Rectified Linear Unit ReLU又称修正线性单元是一种人工神经网络中常用的激勵函数activation function通常指代以斜坡函数及其变种为代表的非线性函数 比较常用的线性整流函数有斜坡函数 f  x   max    x  displaystyle fxmaxx 以及带泄露整流函数Leaky ReLU其中 x displaystyle x 为神经元Neuron的输入线性整流被认为有一定的生物学原理并且由于在实践中通常有着比其他常用激勵函数譬如逻辑函数更好的效果而被如今的深度神经网络广泛使用于诸如图像识别等计算机视觉人工智能领域