激活函數

在計算網路中，一個節點的激活函數定義了該節點在給定的輸入或輸入的集合下的輸出。標準的電腦晶片電路可以看作是根據輸入得到開（1）或關（0）輸出的數位電路激活函數。這與神經網路中的線性感知機的行為類似。然而，只有非線性激活函數才允許這種網路僅使用少量節點來計算非平凡問題。在人工神經網絡中，這個功能也被稱為傳遞函數。

## 單變量輸入激活函數

名稱｜函數圖形｜方程式｜導數｜區間｜連續性｜單調｜一階導數單調｜原點近似恆等

恆等函數｜

<image>

｜$f(x)=x$｜$f'(x)=1$｜$(-\infty,\infty)$｜$C^\infty$｜是｜是｜是

單位階躍函數｜

<image>

｜$f(x) = \begin{cases} 0 & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$f'(x) = \begin{cases} 0 & \text{for } x \ne 0\\ \text{不 存 在} & \text{for } x = 0\end{cases}$｜$\{0,1\}$｜$C^{-1}$｜是｜否｜否

邏輯函數 (S函數的一種)｜

<image>

｜$f(x)=\sigma(x)=\frac{1}{1+e^{-x}}$｜$f'(x)=f(x)(1-f(x))$｜$(0,1)$｜$C^\infty$｜是｜否｜否

雙曲正切函數｜

<image>

｜$f(x)=\tanh(x)=\frac{(e^{x} - e^{-x})}{(e^{x} + e^{-x})}$｜$f'(x)=1-f(x)^2$｜$(-1,1)$｜$C^\infty$｜是｜否｜是

反正切函數｜

<image>

｜$f(x)=\tan^{-1}(x)$｜$f'(x)=\frac{1}{x^2+1}$｜$\left(-\frac{\pi}{2},\frac{\pi}{2}\right)$｜$C^\infty$｜是｜否｜是

Softsign 函數｜

<image>

｜$f(x)=\frac{x}{1+|x|}$｜$f'(x)=\frac{1}{(1+|x|)^2}$｜$(-1,1)$｜$C^1$｜是｜否｜是

反平方根函數 (ISRU)｜

<image>

｜$f(x) = \frac{x}{\sqrt{1 + \alpha x^2}}$｜$f'(x) = \left(\frac{1}{\sqrt{1 + \alpha x^2}}\right)^3$｜$\left(-\frac{1}{\sqrt{\alpha}},\frac{1}{\sqrt{\alpha}}\right)$｜$C^\infty$｜是｜否｜是

線性整流函數 (ReLU)｜

<image>

｜$f(x) = \begin{cases} 0 & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(x) = \begin{cases} 0 & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$[0,\infty)$｜$C^0$｜是｜是｜否

帶洩露線性整流函數 (Leaky ReLU)｜

<image>

｜$f(x) = \begin{cases} 0.01x & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(x) = \begin{cases} 0.01 & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$(-\infty,\infty)$｜$C^0$｜是｜是｜否

參數化線性整流函數 (PReLU)｜

<image>

｜$f(\alpha,x) = \begin{cases} \alpha x & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(\alpha,x) = \begin{cases} \alpha & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$(-\infty,\infty)$｜$C^0$｜Yes iff $\alpha \geq 0$｜是｜Yes iff $\alpha = 1$

帶洩露隨機線性整流函數 (RReLU)｜

<image>

｜$f(\alpha, x) = \begin{cases} \alpha x & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(\alpha, x) = \begin{cases} \alpha & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$(-\infty,\infty)$｜$C^0$｜是｜是｜否

指數線性函數 (ELU)｜

<image>

｜$f(\alpha,x) = \begin{cases} \alpha(e^x - 1) & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(\alpha,x) = \begin{cases} f(\alpha,x) + \alpha & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$(-\alpha,\infty)$｜$\begin{cases} C_ 1 & \text{when } \alpha=1 \\ C_0 & \text{otherwise } \end{cases}$｜Yes iff $\alpha \geq 0$｜Yes iff $0 \leq \alpha \leq 1$｜Yes iff $\alpha = 1$

擴展指數線性函數 (SELU)｜$f(\alpha,x) = \lambda \begin{cases} \alpha(e^x - 1) & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$ with $\lambda = 1.0507$ and $\alpha = 1.67326$｜$f'(\alpha,x) = \lambda \begin{cases} \alpha(e^x) & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$(-\lambda\alpha,\infty)$｜$C^0$｜是｜否｜否

S 型線性整流激活函數 (SReLU)｜$f_{t_l,a_l,t_r,a_r}(x) = \begin{cases} t_l + a_l (x - t_l) & \text{for } x \le t_l\\ x & \text{for } t_l < x < t_r\\ t_r + a_r (x - t_r) & \text{for } x \ge t_r\end{cases}$ $t_l, a_l, t_r, a_r$ are parameters.｜$f'_{t_l,a_l,t_r,a_r}(x) = \begin{cases} a_l & \text{for } x \le t_l\\ 1 & \text{for } t_l < x < t_r\\ a_r & \text{for } x \ge t_r\end{cases}$｜$(-\infty,\infty)$｜$C^0$｜否｜否｜否

反平方根線性函數 (ISRLU)｜

<image>

｜$f(x) = \begin{cases} \frac{x}{\sqrt{1 + \alpha x^2}} & \text{for } x < 0\\ x & \text{for } x \ge 0\end{cases}$｜$f'(x) = \begin{cases} \left(\frac{1}{\sqrt{1 + \alpha x^2}}\right)^3 & \text{for } x < 0\\ 1 & \text{for } x \ge 0\end{cases}$｜$\left(-\frac{1}{\sqrt{\alpha}},\infty\right)$｜$C^2$｜是｜是｜是

自適應分段線性函數 (APL)｜$f(x) = \max(0,x) + \sum_{s=1}^{S}a_i^s \max(0, -x + b_i^s)$｜$f'(x) = H(x) - \sum_{s=1}^{S}a_i^s H(-x + b_i^s)$｜$(-\infty,\infty)$｜$C^0$｜否｜否｜否

SoftPlus 函數｜

<image>

｜$f(x)=\ln(1+e^x)$｜$f'(x)=\frac{1}{1+e^{-x}}$｜$(0,\infty)$｜$C^\infty$｜是｜是｜否

彎曲恆等函數｜

<image>

｜$f(x)=\frac{\sqrt{x^2 + 1} - 1}{2} + x$｜$f'(x)=\frac{x}{2\sqrt{x^2 + 1}} + 1$｜$(-\infty,\infty)$｜$C^\infty$｜是｜是｜是

S 型線性加權函數 (SiLU) (也被稱為Swish)｜$f(x)=x\cdot\sigma(x)$｜$f'(x)=f(x)+\sigma(x)(1-f(x))$｜$[\approx-0.28,\infty)$｜$C^\infty$｜否｜否｜否

軟指數函數｜

<image>

｜$f(\alpha,x) = \begin{cases} -\frac{\ln(1-\alpha (x + \alpha))}{\alpha} & \text{for } \alpha < 0\\ x & \text{for } \alpha = 0\\ \frac{e^{\alpha x} - 1}{\alpha} + \alpha & \text{for } \alpha > 0\end{cases}$｜$f'(\alpha,x) = \begin{cases} \frac{1}{1-\alpha (\alpha + x)} & \text{for } \alpha < 0\\ e^{\alpha x} & \text{for } \alpha \ge 0\end{cases}$｜$(-\infty,\infty)$｜$C^\infty$｜是｜是｜Yes iff $\alpha = 0$

正弦函數｜

<image>

｜$f(x)=\sin(x)$｜$f'(x)=\cos(x)$｜$[-1,1]$｜$C^\infty$｜否｜否｜是

Sinc 函數｜

<image>

｜$f(x)=\begin{cases} 1 & \text{for } x = 0\\ \frac{\sin(x)}{x} & \text{for } x \ne 0\end{cases}$｜$f'(x)=\begin{cases} 0 & \text{for } x = 0\\ \frac{\cos(x)}{x} - \frac{\sin(x)}{x^2} & \text{for } x \ne 0\end{cases}$｜$[\approx-0.217234,1]$｜$C^\infty$｜否｜否｜否

高斯函數｜

<image>

｜$f(x)=e^{-x^2}$｜$f'(x)=-2xe^{-x^2}$｜$(0,1]$｜$C^\infty$｜否｜否｜否

說明

C若一函數是連續的，則稱其為$C^0$函數；若一函數$n$階可導，並且其$n$階導函數連續，則為$C^n$函數（$n\geq 1$）；若一函數對於所有$n$都屬於$C^n$函數，則稱其為$C^\infty$函數，也稱光滑函數。

heaviside此處H是單位階躍函數。

alpha_randomα是在訓練時間從均勻分佈中抽取的隨機變量，並且在測試時間固定為分佈的期望值。

logistic1logistic2logistic3此處$\sigma$是邏輯函數。

## 多變量輸入激活函數

名稱｜方程式｜導數｜區間｜光滑性

Softmax函數｜$f_i(\vec{x}) = \frac{e^{x_i}}{\sum_{j=1}^J e^{x_j}}$ for i = 1, …, J｜$\frac{\partial f_i(\vec{x})}{\partial x_j} = f_i(\vec{x})(\delta_{ij} - f_j(\vec{x}))$｜$(0,1)$｜$C^\infty$

Maxout函數｜$f(\vec{x}) = \max_i x_i$｜$\frac{\partial f}{\partial x_j} = \begin{cases} 1 & \text{for } j = \underset{i}{\operatorname{argmax}} \, x_i\\ 0 & \text{for } j \ne\underset{i}{\operatorname{argmax}} \, x_i\end{cases}$｜$(-\infty,\infty)$｜$C^0$

說明

```
此處&delta;是[[克罗内克δ函数|克羅內克δ函數]]。
```