- 神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí):基于MATLAB的仿真與實(shí)現(xiàn)
- 姚舜才 李大威編著
- 1016字
- 2023-08-25 11:44:57
第二部分 經(jīng)典神經(jīng)網(wǎng)絡(luò)
第3章 感知機(jī)
在人工智能這個(gè)大的范疇內(nèi),其學(xué)術(shù)思想基本可以分為兩大派別——一類(lèi)是主張模仿人類(lèi)(或最起碼是一些高等動(dòng)物)的行為模式進(jìn)行研究,例如專(zhuān)家系統(tǒng)、蟻群算法等;而另一類(lèi)則是從數(shù)學(xué)的邏輯和符號(hào)系統(tǒng)進(jìn)行嚴(yán)格推證,以保證方法的數(shù)學(xué)嚴(yán)密性,例如統(tǒng)計(jì)學(xué)習(xí)方法等。毫無(wú)疑問(wèn),神經(jīng)網(wǎng)絡(luò)方法的基本思想是屬于仿生智能的。神經(jīng)網(wǎng)絡(luò)方法的先行者們意識(shí)到仿生智能的優(yōu)越性,受到人類(lèi)神經(jīng)元工作模式的啟發(fā)首先提出了M-P模型。之所以稱(chēng)為M-P模型是用來(lái)紀(jì)念兩位神經(jīng)網(wǎng)絡(luò)方法的開(kāi)拓者Warren Sturgis McCulloch和Walter Harry Pitts,Jr.,取他們姓氏的首個(gè)英文字母組成的。在第1章中介紹了M-P模型的基本結(jié)構(gòu),在M-P模型中,其激活(活化)函數(shù)取為符號(hào)函數(shù),也稱(chēng)為開(kāi)關(guān)特性函數(shù),即

式中,xi——神經(jīng)元的輸入激勵(lì);
wi——與輸入激勵(lì)相對(duì)應(yīng)的權(quán)值;
θ——神經(jīng)元的閾值;
sgn(·)——符號(hào)函數(shù)。
從這個(gè)模型中可以看出,這種模型具有以下特點(diǎn):
(1)每個(gè)神經(jīng)元都是一個(gè)多輸入單輸出的系統(tǒng)。這表明了單個(gè)神經(jīng)元可以接收多種信息的輸入(激勵(lì)),在一定程度上保留了生物神經(jīng)元的特點(diǎn)。
(2)神經(jīng)元對(duì)于多個(gè)輸入激勵(lì)并不是等量齊觀的,而是有所側(cè)重的,這主要表現(xiàn)在對(duì)于各輸入的權(quán)值wi的不同上。對(duì)于神經(jīng)元來(lái)講,比較“重要的”的輸入信息作為興奮性輸入,其權(quán)值設(shè)置得較大;而不太重要的輸入信息作為抑制性輸入,將其權(quán)值設(shè)置得較小,甚至為0。在M-P模型中,這些權(quán)值一般都預(yù)先由人指定,而且在運(yùn)行過(guò)程中不會(huì)對(duì)這些權(quán)值進(jìn)行更改。
(3)神經(jīng)元的輸出狀態(tài)有兩種(根據(jù)符號(hào)函數(shù)的特點(diǎn)可以得出):一類(lèi)是符號(hào)函數(shù)的正向性輸出,此時(shí)表明神經(jīng)元被激活(興奮),另一類(lèi)是符號(hào)函數(shù)的負(fù)向性輸出,表明神經(jīng)元被抑制。這也可以看作是激活函數(shù)的名稱(chēng)由來(lái)。
(4)神經(jīng)元的激活運(yùn)算中具有整合和閾值特性。在各種輸入信息經(jīng)過(guò)一定的加權(quán)運(yùn)算后,首先要經(jīng)過(guò)求和整合,然后將這些經(jīng)過(guò)整合的數(shù)據(jù)信息與閾值進(jìn)行比較,再交由激活函數(shù)(符號(hào)函數(shù))進(jìn)行運(yùn)算,得到輸出的狀態(tài)。
在基本M-P模型的基礎(chǔ)上,還可以衍生出一些改進(jìn)型的M-P模型,例如帶有延時(shí)特性的M-P模型等。M-P模型是神經(jīng)網(wǎng)絡(luò)方法的一個(gè)萌芽性的模型,雖然它能夠解決的問(wèn)題非常有限(連簡(jiǎn)單非線(xiàn)性分類(lèi)的“異或”問(wèn)題都無(wú)能為力),但畢竟開(kāi)啟了仿生智能算法的時(shí)代。究其原因,是由于M-P模型中的各輸入激勵(lì)權(quán)值wi為人為指定,而且一旦指定就不能進(jìn)行調(diào)整,這大大限制了其應(yīng)用的范圍。為了解決這個(gè)問(wèn)題,就必須讓輸入激勵(lì)的權(quán)值能夠進(jìn)行調(diào)整,這樣就誕生了具有一定學(xué)習(xí)功能的神經(jīng)網(wǎng)絡(luò)——感知機(jī)。
- 人工智能開(kāi)發(fā)語(yǔ)言:Python
- 知識(shí)圖譜從0到1:原理與Python實(shí)戰(zhàn)
- 你好中小學(xué)人工智能
- AI數(shù)字人原理與實(shí)現(xiàn)
- 人工智能安全
- 人工智能會(huì)搶哪些工作
- 小創(chuàng)客學(xué)AI
- 深度學(xué)習(xí)及加速技術(shù):入門(mén)與實(shí)踐
- 腦機(jī)穿越:腦機(jī)接口改變?nèi)祟?lèi)未來(lái)
- 一本書(shū)讀懂大模型:技術(shù)創(chuàng)新、商業(yè)應(yīng)用與產(chǎn)業(yè)變革
- 計(jì)算機(jī)視覺(jué)的對(duì)象級(jí)場(chǎng)景理解及其應(yīng)用
- 中國(guó)人工智能創(chuàng)新鏈產(chǎn)業(yè)鏈技術(shù)專(zhuān)利發(fā)展研究
- 深度學(xué)習(xí)與信號(hào)處理:原理與實(shí)踐
- 工業(yè)控制計(jì)算機(jī)典型應(yīng)用系統(tǒng)編程實(shí)踐
- AI到來(lái)