3.3　前饋神經(jīng)網(wǎng)絡(luò)

前饋神經(jīng)網(wǎng)絡(luò)（Feedforward Neural Network）是一種最簡單的神經(jīng)網(wǎng)絡(luò)，如圖3-4所示，各神經(jīng)元分層排列，從網(wǎng)絡(luò)的第一層輸入層開始直至最后層輸出層，每個神經(jīng)元只與前一層的神經(jīng)元相連，接收前一層的輸出，并輸出給下一層，各層之間沒有反饋。

圖3-4　前饋神經(jīng)網(wǎng)絡(luò)

在前饋神經(jīng)網(wǎng)絡(luò)中，輸入層節(jié)點(diǎn)負(fù)責(zé)接收輸入向量中的各個元素值，隱藏層節(jié)點(diǎn)是核心，負(fù)責(zé)接收前一層傳來的數(shù)據(jù)后進(jìn)行計(jì)算，產(chǎn)生一個輸出值，繼續(xù)向前傳遞給下一層各節(jié)點(diǎn)。輸出層負(fù)責(zé)向外界輸出最終處理結(jié)果。

前饋神經(jīng)網(wǎng)絡(luò)有兩種，一種是使用十分廣泛的反向傳播網(wǎng)絡(luò)（Back Propagation Networks，BP），另一種是徑向基函數(shù)（Radial Basis Function，RBF）神經(jīng)網(wǎng)絡(luò)。

徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)是一種以徑向基函數(shù)為激活函數(shù)的神經(jīng)網(wǎng)絡(luò)，具有近似模擬能力強(qiáng)、分類能力強(qiáng)和學(xué)習(xí)速度快等優(yōu)勢，徑向基函數(shù)是一個取值僅僅依賴于離原點(diǎn)距離的實(shí)值函數(shù)。

反向傳播網(wǎng)絡(luò)在按層向前傳遞計(jì)算結(jié)果之后，將最后的輸出結(jié)果與期望結(jié)果進(jìn)行比較，得到網(wǎng)絡(luò)的誤差值。為了修正縮小誤差，從最后的輸出層開始，將誤差值反向傳遞給前一層，讓前一層根據(jù)誤差值調(diào)整網(wǎng)絡(luò)參數(shù)，以縮小誤差值，如此逐層反向傳遞，直至輸入層。這樣的算法稱為誤差反向傳播算法。

3.4節(jié)中的感知器就屬于反向傳播網(wǎng)絡(luò)。