S型函式

S型函式

S型函式(Sigmoid function)是BP神經網路中常用的非線性作用函式,即sigmoid函式,公式是f(x)=1/(1+e^-x)(-x是冪數)。Sigmoid函式又分為Log-Sigmoid函式和Tan-Sigmoid函式。

由於BP神經網路的傳遞函式必須可微,所以感知器的傳遞函式--二值函式在這裡不可用,故BP神經網路一般使用Sigmoid函式或者線性函式作為傳遞函式。而Sigmoid函式又分為Log-Sigmoid函式(一般所說的S型函式就是這個的簡稱)和Tan-Sigmoid函式(又稱為雙曲正切S型函式),前者的值域為(0,1),後者的值域為(-1,1)。

Log-Sigmoid函式的表達式:

S型函式 S型函式

Log-Sigmoid函式的導數:

S型函式 S型函式

Tan-Sigmoid函式的表達式:

S型函式 S型函式

Tan-Sigmoid函式的導數:

S型函式 S型函式

這兩個函式都是連續的、單調遞增的數值函式,常被套用於基於BP(誤差反向傳播)算法的神經網路中。一般情況下,BP神經網路隱含層的傳遞函式是S形函式,輸出層是線性函式。當然,輸出層也可採用S型函式,若輸出層為S型函式,則輸出值的範圍為該S型函式的值域。利用S形函式或其導數可以求得BP神經網路里某個神經元的總和、目標值和誤差值等。

相關詞條

相關搜尋

熱門詞條

聯絡我們