第二部分　經典神經網絡

第3章　感知機

在人工智能這個大的范疇內，其學術思想基本可以分為兩大派別——一類是主張模仿人類（或最起碼是一些高等動物）的行為模式進行研究，例如專家系統、蟻群算法等；而另一類則是從數學的邏輯和符號系統進行嚴格推證，以保證方法的數學嚴密性，例如統計學習方法等。毫無疑問，神經網絡方法的基本思想是屬于仿生智能的。神經網絡方法的先行者們意識到仿生智能的優越性，受到人類神經元工作模式的啟發首先提出了M-P模型。之所以稱為M-P模型是用來紀念兩位神經網絡方法的開拓者Warren Sturgis McCulloch和Walter Harry Pitts，Jr.，取他們姓氏的首個英文字母組成的。在第1章中介紹了M-P模型的基本結構，在M-P模型中，其激活（活化）函數取為符號函數，也稱為開關特性函數，即

式中，x_i——神經元的輸入激勵；

w_i——與輸入激勵相對應的權值；

θ——神經元的閾值；

sgn（·）——符號函數。

從這個模型中可以看出，這種模型具有以下特點：

（1）每個神經元都是一個多輸入單輸出的系統。這表明了單個神經元可以接收多種信息的輸入（激勵），在一定程度上保留了生物神經元的特點。

（2）神經元對于多個輸入激勵并不是等量齊觀的，而是有所側重的，這主要表現在對于各輸入的權值w_i的不同上。對于神經元來講，比較“重要的”的輸入信息作為興奮性輸入，其權值設置得較大；而不太重要的輸入信息作為抑制性輸入，將其權值設置得較小，甚至為0。在M-P模型中，這些權值一般都預先由人指定，而且在運行過程中不會對這些權值進行更改。

（3）神經元的輸出狀態有兩種（根據符號函數的特點可以得出）：一類是符號函數的正向性輸出，此時表明神經元被激活（興奮），另一類是符號函數的負向性輸出，表明神經元被抑制。這也可以看作是激活函數的名稱由來。

（4）神經元的激活運算中具有整合和閾值特性。在各種輸入信息經過一定的加權運算后，首先要經過求和整合，然后將這些經過整合的數據信息與閾值進行比較，再交由激活函數（符號函數）進行運算，得到輸出的狀態。

在基本M-P模型的基礎上，還可以衍生出一些改進型的M-P模型，例如帶有延時特性的M-P模型等。M-P模型是神經網絡方法的一個萌芽性的模型，雖然它能夠解決的問題非常有限（連簡單非線性分類的“異或”問題都無能為力），但畢竟開啟了仿生智能算法的時代。究其原因，是由于M-P模型中的各輸入激勵權值w_i為人為指定，而且一旦指定就不能進行調整，這大大限制了其應用的范圍。為了解決這個問題，就必須讓輸入激勵的權值能夠進行調整，這樣就誕生了具有一定學習功能的神經網絡——感知機。