線性整流函數

整流線性單位函數 （ Rectified Linear Unit, ReLU ） ， 又稱修正線性單元 ， 是一種人工神經網絡中常用的激勵函數 （ activation function ） ， 通常指代以斜坡函數及其變種爲代表的非線性函數 。 比較常用的線性整流函數有斜坡函數 ， 以及帶泄露整流函數 （ Leaky ReLU ） ， 其中 爲神經元 （ Neuron ） 的輸入 。 線性整流被認爲有一定的生物學原理 ， 並且由於在實踐中通常有着比其他常用激勵函數 （ 譬如邏輯函數 ） 更好的效果 ， 而被如今的深度神經網絡廣泛使用於諸如圖像識別等計算機視覺人工智能領域 。