激活函数

在计算网络中，一个节点的激活函数定义了该节点在给定的输入或输入的集合下的输出。标准的计算机芯片电路可以看作是根据输入得到开（1）或关（0）输出的数位电路激活函数。这与神经网络中的线性感知机的行为类似。然而，只有非线性激活函数才允许这种网络仅使用少量节点来计算非平凡问题。在人工神经网络中，这个功能也被称为传递函数。

## 单变量输入激活函数

名称｜函数图形｜方程式｜导数｜区间｜连续性｜单调｜一阶导数单调｜原点近似恒等

恒等函数｜

<image>

｜$f(x)=x$｜$f'(x)=1$｜$(-\infty,\infty)$｜$C^\infty$｜是｜是｜是

单位阶跃函数｜

<image>

｜$f(x) = \begin{cases} 0 & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$f'(x) = \begin{cases} 0 & \text{for } x \ne 0\\ \text{不 存 在} & \text{for } x = 0\end{cases}$｜$\{0,1\}$｜$C^{-1}$｜是｜否｜否

逻辑函数 (S函数的一种)｜

<image>

｜$f(x)=\sigma(x)=\frac{1}{1+e^{-x}}$｜$f'(x)=f(x)(1-f(x))$｜$(0,1)$｜$C^\infty$｜是｜否｜否

双曲正切函数｜

<image>

｜$f(x)=\tanh(x)=\frac{(e^{x} - e^{-x})}{(e^{x} + e^{-x})}$｜$f'(x)=1-f(x)^2$｜$(-1,1)$｜$C^\infty$｜是｜否｜是

反正切函数｜

<image>

｜$f(x)=\tan^{-1}(x)$｜$f'(x)=\frac{1}{x^2+1}$｜$\left(-\frac{\pi}{2},\frac{\pi}{2}\right)$｜$C^\infty$｜是｜否｜是

Softsign 函数｜

<image>

｜$f(x)=\frac{x}{1+|x|}$｜$f'(x)=\frac{1}{(1+|x|)^2}$｜$(-1,1)$｜$C^1$｜是｜否｜是

反平方根函数 (ISRU)｜

<image>

｜$f(x) = \frac{x}{\sqrt{1 + \alpha x^2}}$｜$f'(x) = \left(\frac{1}{\sqrt{1 + \alpha x^2}}\right)^3$｜$\left(-\frac{1}{\sqrt{\alpha}},\frac{1}{\sqrt{\alpha}}\right)$｜$C^\infty$｜是｜否｜是

线性整流函数 (ReLU)｜

<image>

｜$f(x) = \begin{cases} 0 & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(x) = \begin{cases} 0 & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$[0,\infty)$｜$C^0$｜是｜是｜否

带泄露线性整流函数 (Leaky ReLU)｜

<image>

｜$f(x) = \begin{cases} 0.01x & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(x) = \begin{cases} 0.01 & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$(-\infty,\infty)$｜$C^0$｜是｜是｜否

参数化线性整流函数 (PReLU)｜

<image>

｜$f(\alpha,x) = \begin{cases} \alpha x & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(\alpha,x) = \begin{cases} \alpha & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$(-\infty,\infty)$｜$C^0$｜Yes iff $\alpha \geq 0$｜是｜Yes iff $\alpha = 1$

带泄露随机线性整流函数 (RReLU)｜

<image>

｜$f(\alpha, x) = \begin{cases} \alpha x & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(\alpha, x) = \begin{cases} \alpha & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$(-\infty,\infty)$｜$C^0$｜是｜是｜否

指数线性函数 (ELU)｜

<image>

｜$f(\alpha,x) = \begin{cases} \alpha(e^x - 1) & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(\alpha,x) = \begin{cases} f(\alpha,x) + \alpha & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$(-\alpha,\infty)$｜$\begin{cases} C_ 1 & \text{when } \alpha=1 \\ C_0 & \text{otherwise } \end{cases}$｜Yes iff $\alpha \geq 0$｜Yes iff $0 \leq \alpha \leq 1$｜Yes iff $\alpha = 1$

扩展指数线性函数 (SELU)｜$f(\alpha,x) = \lambda \begin{cases} \alpha(e^x - 1) & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$ with $\lambda = 1.0507$ and $\alpha = 1.67326$｜$f'(\alpha,x) = \lambda \begin{cases} \alpha(e^x) & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$(-\lambda\alpha,\infty)$｜$C^0$｜是｜否｜否

S 型线性整流激活函数 (SReLU)｜$f_{t_l,a_l,t_r,a_r}(x) = \begin{cases} t_l + a_l (x - t_l) & \text{for } x \le t_l\\ x & \text{for } t_l < x < t_r\\ t_r + a_r (x - t_r) & \text{for } x \ge t_r\end{cases}$ $t_l, a_l, t_r, a_r$ are parameters.｜$f'_{t_l,a_l,t_r,a_r}(x) = \begin{cases} a_l & \text{for } x \le t_l\\ 1 & \text{for } t_l < x < t_r\\ a_r & \text{for } x \ge t_r\end{cases}$｜$(-\infty,\infty)$｜$C^0$｜否｜否｜否

反平方根线性函数 (ISRLU)｜

<image>

｜$f(x) = \begin{cases} \frac{x}{\sqrt{1 + \alpha x^2}} & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(x) = \begin{cases} \left(\frac{1}{\sqrt{1 + \alpha x^2}}\right)^3 & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$\left(-\frac{1}{\sqrt{\alpha}},\infty\right)$｜$C^2$｜是｜是｜是

自适应分段线性函数 (APL)｜$f(x) = \max(0,x) + \sum_{s=1}^{S}a_i^s \max(0, -x + b_i^s)$｜$f'(x) = H(x) - \sum_{s=1}^{S}a_i^s H(-x + b_i^s)$｜$(-\infty,\infty)$｜$C^0$｜否｜否｜否

SoftPlus 函数｜

<image>

｜$f(x)=\ln(1+e^x)$｜$f'(x)=\frac{1}{1+e^{-x}}$｜$(0,\infty)$｜$C^\infty$｜是｜是｜否

弯曲恒等函数｜

<image>

｜$f(x)=\frac{\sqrt{x^2 + 1} - 1}{2} + x$｜$f'(x)=\frac{x}{2\sqrt{x^2 + 1}} + 1$｜$(-\infty,\infty)$｜$C^\infty$｜是｜是｜是

S 型线性加权函数 (SiLU) (也被称为Swish)｜$f(x)=x\cdot\sigma(x)$｜$f'(x)=f(x)+\sigma(x)(1-f(x))$｜$[\approx-0.28,\infty)$｜$C^\infty$｜否｜否｜否

软指数函数｜

<image>

｜$f(\alpha,x) = \begin{cases} -\frac{\ln(1-\alpha (x + \alpha))}{\alpha} & \text{for } \alpha < 0\\ x & \text{for } \alpha = 0\\ \frac{e^{\alpha x} - 1}{\alpha} + \alpha & \text{for } \alpha > 0\end{cases}$｜$f'(\alpha,x) = \begin{cases} \frac{1}{1-\alpha (\alpha + x)} & \text{for } \alpha < 0\\ e^{\alpha x} & \text{for } \alpha \ge 0\end{cases}$｜$(-\infty,\infty)$｜$C^\infty$｜是｜是｜Yes iff $\alpha = 0$

正弦函数｜

<image>

｜$f(x)=\sin(x)$｜$f'(x)=\cos(x)$｜$[-1,1]$｜$C^\infty$｜否｜否｜是

Sinc 函数｜

<image>

｜$f(x)=\begin{cases} 1 & \text{for } x = 0\\ \frac{\sin(x)}{x} & \text{for } x \ne 0\end{cases}$｜$f'(x)=\begin{cases} 0 & \text{for } x = 0\\ \frac{\cos(x)}{x} - \frac{\sin(x)}{x^2} & \text{for } x \ne 0\end{cases}$｜$[\approx-0.217234,1]$｜$C^\infty$｜否｜否｜否

高斯函数｜

<image>

｜$f(x)=e^{-x^2}$｜$f'(x)=-2xe^{-x^2}$｜$(0,1]$｜$C^\infty$｜否｜否｜否

说明

C若一函数是连续的，则称其为$C^0$函数；若一函数$n$阶可导，并且其$n$阶导函数连续，则为$C^n$函数（$n\geq 1$）；若一函数对于所有$n$都属于$C^n$函数，则称其为$C^\infty$函数，也称光滑函数。

heaviside此处H是单位阶跃函数。

alpha_randomα是在训练时间从均匀分布中抽取的随机变量，并且在测试时间固定为分布的期望值。

logistic1logistic2logistic3此处$\sigma$是逻辑函数。

## 多变量输入激活函数

名称｜方程式｜导数｜区间｜光滑性

Softmax函数｜$f_i(\vec{x}) = \frac{e^{x_i}}{\sum_{j=1}^J e^{x_j}}$ for i = 1, …, J｜$\frac{\partial f_i(\vec{x})}{\partial x_j} = f_i(\vec{x})(\delta_{ij} - f_j(\vec{x}))$｜$(0,1)$｜$C^\infty$

Maxout函数｜$f(\vec{x}) = \max_i x_i$｜$\frac{\partial f}{\partial x_j} = \begin{cases} 1 & \text{for } j = \underset{i}{\operatorname{argmax}} \, x_i\\ 0 & \text{for } j \ne\underset{i}{\operatorname{argmax}} \, x_i\end{cases}$｜$(-\infty,\infty)$｜$C^0$

说明

```
此處&delta;是[[克罗内克δ函数|克羅內克δ函數]]。
```