ChatGPT的黑箱屬性

閣下能讀這些文字，本身就是一件神奇的事情。人腦神經(jīng)元的結(jié)構(gòu)很簡單，單個(gè)神經(jīng)元不能閱讀，亦不能思考。

但是，當(dāng)足夠多的這種簡單的神經(jīng)元連接一起，組成一個(gè)神經(jīng)網(wǎng)絡(luò)時(shí)，它就不僅能閱讀，甚至還能創(chuàng)作。

人腦究竟是如何產(chǎn)生智能的？這仍然是一個(gè)尚未被完全解開的謎團(tuán)，但可以確認(rèn)的是，人類智能是伴隨著人類腦容量的大幅增加而產(chǎn)生的。

腦神經(jīng)科學(xué)家已經(jīng)發(fā)現(xiàn)，人腦由大約860億個(gè)神經(jīng)元細(xì)胞及超過100萬億個(gè)神經(jīng)突觸組成，這些神經(jīng)元及其突觸共同構(gòu)成了一個(gè)龐大的神經(jīng)網(wǎng)絡(luò)。

每個(gè)神經(jīng)元通過突觸與其他神經(jīng)元進(jìn)行連接與通信。當(dāng)通過突觸所接收到的信號強(qiáng)度超過某個(gè)閾值時(shí)，神經(jīng)元便會被激活，并通過突觸向上層神經(jīng)元發(fā)送激活信號。作為一個(gè)復(fù)雜的多級系統(tǒng)，大腦的思維活動來源于功能的逐級整合。神經(jīng)元的功能被整合為神經(jīng)網(wǎng)絡(luò)的功能，神經(jīng)網(wǎng)絡(luò)的功能又被整合為神經(jīng)回路的功能，神經(jīng)回路的功能最終被整合為大腦的思維功能。

人腦由神經(jīng)元構(gòu)成，本質(zhì)就是一個(gè)神經(jīng)網(wǎng)絡(luò)。然而，其神妙之處在于，在逐級整合的過程中，每個(gè)層次上實(shí)現(xiàn)的都是“1+1＞2”的效果，在較高層次上產(chǎn)生了較低層次的每個(gè)子系統(tǒng)都不具備的“涌現(xiàn)能力”。

僅僅憑著這些大腦神經(jīng)元的連接，就可以產(chǎn)生知識、技術(shù)，甚至征服星辰大海，破譯宇宙奧秘。因此，人工智能的仿生學(xué)研究者，也被稱為聯(lián)結(jié)主義者，他們并不熱衷于計(jì)算機(jī)編程，而是渴望研究神經(jīng)元相互連接后的涌現(xiàn)能力。

聯(lián)結(jié)主義者希望通過對人腦的“逆向工程”，復(fù)制神經(jīng)元群之間的正確連接，進(jìn)而研究神經(jīng)元之間的相互作用，了解智能的特性。這就意味著，所謂“智能”問題不一定要以還原論的方法來解釋。從神經(jīng)生理學(xué)角度出發(fā)，模擬人腦的工作原理建立學(xué)習(xí)算法，這一學(xué)派被后世稱為聯(lián)結(jié)主義或仿生學(xué)派。

今時(shí)今日，人工智能的突破，ChatGPT的爆火，亦是拜人工神經(jīng)網(wǎng)絡(luò)的擴(kuò)展所賜。當(dāng)“簡單的連接”規(guī)模達(dá)到某個(gè)臨界點(diǎn)，“復(fù)雜的智能”可能就涌現(xiàn)出來了。

2023年3月底，美國未來生命研究所（Future of Life Institute）公布了一封由圖靈獎(jiǎng)得主約書亞·本吉奧、Stability AI公司的CEO莫斯塔克、特斯拉的CEO馬斯克等人簽署的公開信，呼吁在6個(gè)月內(nèi)暫停高級人工智能的開發(fā)，呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。信中寫道：廣泛的研究表明，具有與人類競爭智能的人工智能系統(tǒng)可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。這一觀點(diǎn)得到了頂級人工智能實(shí)驗(yàn)室的承認(rèn)。

信件也指出，這并不意味著暫停AI發(fā)展，而只是從危險(xiǎn)的競賽中退一步，避免發(fā)展出具有涌現(xiàn)能力的，更大、更不可預(yù)測的“黑箱模型”（Black Box）。

“黑箱模型”或稱經(jīng)驗(yàn)?zāi)Ｐ停敢恍┢鋬?nèi)部規(guī)律還很少為人們所知的現(xiàn)象。許多機(jī)器學(xué)習(xí)模型都存在黑箱問題。人工智能模型的復(fù)雜性可能會引發(fā)法律、倫理等方面的問題。

ChatGPT是基于深度神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)預(yù)訓(xùn)練模型，不再遵循數(shù)據(jù)的輸入、特征提取、特征選擇、邏輯推理、預(yù)測這種過程，它是人工神經(jīng)網(wǎng)絡(luò)從事物特征出發(fā)，自動學(xué)習(xí)，進(jìn)而生成認(rèn)知。

預(yù)訓(xùn)練模型之所以被稱為“黑箱模型”，是因?yàn)樯窠?jīng)網(wǎng)絡(luò)有輸入層、輸出層和隱藏層（又稱“隱層”），輸入通過非線性函數(shù)的加權(quán)后得到了最終的輸出，而我們要做的就是根據(jù)誤差準(zhǔn)則調(diào)整權(quán)重參數(shù)，不需要，也不可能完全知道這些參數(shù)選擇的具體原因。

在輸入的數(shù)據(jù)和其輸出的結(jié)論之間，還存在著“隱藏層”，人類無從得知中間過程，不能觀察，也無法理解。

預(yù)訓(xùn)練模型可以成為分析海量數(shù)據(jù)，發(fā)現(xiàn)關(guān)聯(lián)性的強(qiáng)大工具。然而，與人類解決問題的過程不同，許多人工智能模型無法給出解決步驟。相較于完全由人工規(guī)則控制的“專家系統(tǒng)”人工智能來說，預(yù)訓(xùn)練模型就像一個(gè)“黑箱”，沒有人能夠保證預(yù)訓(xùn)練模型不會涌現(xiàn)一些危險(xiǎn)的東西。