七、ChatGPT的局限性

從自然語言生成領域的問答來看，盡管ChatGPT表現出超強的優勢和能力，但是其技術仍然存在局限性。這些局限性主要表現在：

1.在沒有經過大量語料訓練的領域，當用戶尋求答案時，ChatGPT極有可能給出錯誤或誤導性的答案，甚至會因為缺乏“人類常識”和引申能力，導致一本正經地“胡說八道”。由此，ChatGPT在很多未經訓練的領域可以創造答案，編撰小說也是它的長項，比如它對蘇軾詞《定風波》的演繹，如圖1-4所示。

圖1-4　ChatGPT對蘇軾詞《定風波》“胡說八道”的演繹

2.對于自然科學、金融或醫學等專業領域的問題，如果沒有進行足夠的語料訓練，ChatGPT無法生成準確的回答。由此可知，它無法處理非常專業或復雜的語言結構。

3.由于ChatGPT是一個大語言模型，目前還并不具備網絡搜索功能，因此它只能基于2021年所擁有的數據集進行回答。例如，它不會像蘋果語音助手Siri那樣幫你搜索信息，回答明天是否會下雨，也不知道北京冬奧會、俄烏沖突、安倍遇刺等2022年發生的事件。當然，如果ChatGPT能自己上網尋找學習語料和搜索知識，估計又將是個智能的飛躍與里程碑。

4.ChatGPT還無法把在線的新知識納入進去。一方面，如果對于新知識采取在線訓練的模式，看上去成本低且方案可行，但是很容易由于新數據的引入而導致對原有知識災難性的遺忘；另一方面，如果一旦出現一些新知識就去重新預訓練GPT模型，無論是時間成本還是經濟成本，都是普通訓練者難以接受的，根本不現實，這也是它與人的重大差別之一。

5.目前，人們還沒有能力對ChatGPT內在的算法邏輯進行分解與認知，即它仍然是個黑箱模型，因此并不能保證ChatGPT不會產生偏見、誤導乃至攻擊、傷害用戶的表述。

雖然ChatGPT存在如上局限性，但是瑕不掩瑜，這些都不能掩蓋ChatGPT巨大的優勢和出類拔萃的“通用能力”。