Elman神經網路

Elman神經網路是 J. L. Elman於1990年首先針對語音處理問題而提出來的，是一種典型的局部回歸網路( global feed forward local recurrent)。Elman網路可以看作是一個具有局部記憶單元和局部反饋連線的遞歸神經網路。 Elman網路具有與多層前向網路相似的多層結構。

它的主要結構是前饋連線, 包括輸入層、 隱含層、 輸出層, 其連線權可以進行學習修正;反饋連線由一組“結構 ” 單元構成,用來記憶前一時刻的輸出值, 其連線權值是固定的。在這種網路中, 除了普通的隱含層外, 還有一個特別的隱含層,稱為關聯層 (或聯繫單元層 ) ;該層從隱含層接收反饋信號, 每一個隱含層節點都有一個與之對應的關聯層節點連線。關聯層的作用是通過聯接記憶將上一個時刻的隱層狀態連同當前時刻的網路輸入一起作為隱層的輸入, 相當於狀態反饋。隱層的傳遞函式仍為某種非線性函式, 一般為 Sigmoid函式, 輸出層為線性函式, 關聯層也為線性函式。