3.2　M-P模型

M-P模型是首個模仿生物神經元的人工神經網絡模型，由美國心理學家麥卡洛克（Warren McCulloch）和數學家皮茨（Walter Pitts）于1943年共同提出。

一個神經網絡模型通常包括網絡結構、連接權重和學習能力這三個部分。如圖3-2所示，在M-P模型中，有多個輸入{xi|i=1, 2, …, n}，經過運算，產生一個輸出y。如圖3-2（a）所示，運算部分包括加權累加和閾值判別兩部分。M-P模型規定，輸入輸出信號都是二進制信號，即0或1。

每個輸入乘以相應的連接權重，然后相加得到激活值。每個輸入信號都有一個連接權重，表示該輸入信號與其他輸入信號相比較的重要程度，權重越大，表示輸入值越重要。

與生物神經元類似，如果輸入的激活值足夠大，神經元就會被激活而處于興奮狀態，否則神經元就處于抑制狀態。用數學表示就是，如果激活值大于閾值，即，神經元處于興奮狀態，此時的輸出應該是“1”；如果激活值小于等于閾值，即，神經元處于抑制狀態，此時的輸出應該是“0”。

但是，由于可能是一個任意值，而不是M-P模型限定的0或1，因此，還需要一個被稱為激活函數的函數對這個任意值作一個變換，使其輸出值為0或1。由此可見，激活函數既是閾值的判別器，又是輸出值的規范器。

M-P模型使用的激活函數是一個階梯函數，如圖3-2（b）所示，如果激活值大于閾值h，輸出1，否則輸出0。歸納起來的數學表示為：。

總結一下，整個模型用數學公式表示：

函數f()是激活函數，M-P模型選用的是階梯函數，也稱閾值型激活函數。

從這個模型中可以看出，閾值判別器是一個邊界決策超平面，如果取值位于這個邊界決策超平面之上，輸出值為1，如果在邊界決策超平面之下，輸出值為0。

M-P模型可以實現NOT、AND和OR三種邏輯運算。下面來看M-P模型是如何完成NOT、AND和OR三種邏輯運算的。

如圖3-3（a）所示，取w=?1, h=?0.5，

模型就實現了NOT運算。

如圖3-3（b）所示，取w1=w2=1, h=0.5，

模型就實現了OR運算；

取w1=w2=1, h=1.5，

模型就實現了AND運算。

但是，M-P模型無法實現異或XOR運算，即如果兩個值不同，則結果為1，如果兩個值相同，結果為0。

注意，在M-P模型中，參數wi, h只能事先人為設定，因此這個模型是沒有學習能力的，也就是模型參數無法在運行過程中自動修正。