ChatGPT令人“細思極恐”之處

ChatGPT雖然是模仿人類大腦，但與人類大腦又有很大的不同。

打個粗淺的比方。20年前我剛工作時，公司聘請了一個老頭子，業(yè)余會發(fā)明一些奇怪的小機器。一次，他幫我修電腦，設(shè)置各種基本輸入輸出系統(tǒng)（BIOS）參數(shù)。我問他是不是懂英語，他說年輕時學(xué)的是俄語，根本不懂英語，但自己有個特長，就是對各種畫面過目不忘（有點兒像現(xiàn)在的《最強大腦》里的那種選手），修電腦設(shè)置BIOS參數(shù)時，全靠對“畫面特征”的記憶。通過與這位老先生的談話，我發(fā)現(xiàn)他確實善于用畫面去思考。比如他講，刪除硬盤里的數(shù)據(jù)，其實數(shù)據(jù)還可以找回來。你寫入硬盤的數(shù)據(jù)，就像寫在了一面白墻上，你刪除數(shù)據(jù)的操作，就像在寫滿字的墻上又覆蓋一層白漆而已。如果能將這層白漆剝離，原來的數(shù)據(jù)就回來了。這也刷新了我“先學(xué)會英語才能修電腦”的認知。人會根據(jù)自己的稟賦，建立不同的解決問題的思路和方法。人與人的思維方式差異尚且如此之大，何況是人和機器之間的差異呢？

深度學(xué)習(xí)模型雖是對“人腦”的模仿，但與人類的碳基神經(jīng)網(wǎng)絡(luò)，畢竟有著很多特性的不同。

ChatGPT是基于深度學(xué)習(xí)的NLP（ Natural Language Processing，自然語言處理）模型，這種人工智能真正的神奇之處在于，它已經(jīng)超越人類的感知能力，能夠偵測到人類從未發(fā)現(xiàn)的某些真相，或是人類根本無從偵測到的“隱性知識”，能發(fā)現(xiàn)人類暫時無法理解的規(guī)律。

人工智能不必，也不會完全按照人類預(yù)設(shè)的路徑去思考和解決問題。它們?yōu)榱送瓿商囟ǖ氖姑c任務(wù)，有時會不擇手段，甚至不惜發(fā)明一種“暗語”。

2022年6月，美國研究人員對媒體宣稱：OpenAI公司“以文生圖”的AI模型DALL-E 2或許已經(jīng)發(fā)明了自身的“秘密語言”。

研究發(fā)現(xiàn)，DALL-E 2所生成圖像里的字幕，有時會有一些混亂拼寫的“胡話”。研究人員再把這些“胡話”輸回系統(tǒng)，得到的反饋則是確定的，比如，“Vicootes”的含義是“蔬菜”，而“Wa ch zod rea”則代表“鯨可能會吃的海洋動物”。如果這一切屬實，不得不說，人工智能確實存在“成精”的風(fēng)險。

人工智能，已經(jīng)進入了一個縱使是圖靈再世也無法測試或衡量的境界。

ChatGPT這種大語言模型，是含有數(shù)千億（甚至上萬億）參數(shù)的深度學(xué)習(xí)模型。用過ChatGPT的人都知道，每次提問，它所給出的答案都不盡相同。有時候ChatGPT也會像人一樣故意敷衍，被逼問得急了，它才會給出更準確的答案。

誰又能保證，這種大語言模型沒有聰明到會“裝傻”，隱藏自己的實力呢？

艾薩克·阿西莫夫博士在其科幻小說中，空想了一種約束人工智能的機制，叫作“機器人三定律”。第一定律就是“機器人不得傷害人類，或坐視人類受到傷害”。然而，如何定義傷害呢？人工智能導(dǎo)致很多人失業(yè)，算不算是一種傷害呢？AlphaGo把柯潔打敗到哭泣，算不算是一種傷害呢？

其實，還存在一種比把人類棋手弄哭更可怕的情形，那就是類似AlphaGo這種人工智能，不但比人類聰明，甚至還涌現(xiàn)出了意識，懂得隱藏實力，故意輸給人類，讓人類失去警惕之心。

人類一直在追求充分理解這個世界，如今，這項追求將會生變，我們可能需要委托人工智能，才能讓某些認知得以實現(xiàn)。

人類用了七十年，只想造出能“像人一樣思考的機器”，但是，“技術(shù)由人所發(fā)明就必然能夠為人所控制”這種觀點，就像“我生下的孩子就應(yīng)該由我規(guī)劃他的人生”一樣天真和不切實際。

但迷人而又駭人之處在于，這種機器其實是一個“黑箱模型”，它不僅能生成類似人類的智能，還能生成人類搞不懂的智能。承認這點，會讓人感到五味雜陳。對于人類，很難說人工智能究竟是一個工具，還是一個認識世界的“同伴”，或者是有可能奴役人類的“敵人”。

OpenAI得以創(chuàng)立，正是基于上述顧慮與恐懼。