線性整流函數係喺 2000 年始創嘅，目的係要為咗令人工神經網絡更加似生物神經網絡，而且喺 2010 年代初，研究證實咗線性整流函數（比起當時泛用嘅啟動函數）能夠提升人工神經網絡嘅表現，所以到咗 2017 年為止經已成為咗深度神經網絡最常用嘅啟動函數。