MLP[多層神經網路]

MLP（Multi-Layer Perception），即多層感知器，是一種趨向結構的人工神經網路，映射一組輸入向量到一組輸出向量。MLP可以被看做是一個有向圖，由多個節點層組成，每一層全連線到下一層。除了輸入節點，每個節點都是一個帶有非線性激活函式的神經元（或稱處理單元）。一種被稱為反向傳播算法的監督學習方法常被用來訓練MLP。MLP是感知器的推廣，克服了感知器無法實現對線性不可分數據識別的缺點。

激活函式

若每個神經元的激活函式都是線性函式，那么，任意層數的MLP都可被約簡化成一個等價的單層感知器。
實際上，MLP本身可以使用任何形式的激活函式，譬如階梯函式或邏輯乙形函式（logistic sigmoid function），但為了使用反向傳播算法進行有效學習，激活函式必須限制為可微函式。由於具有良好可微性，很多乙形函式，尤其是雙曲正切函式（Hyperbolic tangent）及邏輯乙形函式，被採用為激活函式。

套用

常被MLP用來進行學習的反向傳播算法，在模式識別的領域中算是標準監督學習算法，並在計算神經學及並行分散式處理領域中，持續成為被研究的課題。MLP已被證明是一種通用的函式近似方法，可以被用來擬合複雜的函式，或解決分類問題。
MLP在80年代的時候曾是相當流行的機器學習方法，擁有廣泛的套用場景，譬如語音識別、圖像識別、機器翻譯等等，但自90年代以來，MLP遇到來自更為簡單的支持向量機的強勁競爭。近來，由於深層學習的成功，MLP又重新得到了關注。