前路幾何

在本書接下來的篇章里，我們將一起探索有著人工智能相伴的生命的未來。讓我們用一種組織有序的方式來探討這個豐富而又包羅萬象的話題。首先，我們將在概念和時間維度上探索生命的完整故事，接著，我們會探索目標和意義，以及要如何采取行動才能創造出我們想要的未來。

在第2章中，我們會探索智能的基礎，以及看似愚鈍的物質如何組合出能夠記憶、計算和學習的形式。隨著我們對未來的探討變得越來越深入，我們的故事將出現許多不同的分支，每個分支則會對應著各不相同的情景。會出現哪種情景，取決于我們如何回答某些關鍵問題。圖1-6總結了我們在人工智能越來越發達的過程中將會遇到的關鍵問題。

如今，我們面臨的問題是：應不應該進行人工智能軍備競賽，以及如何才能讓明天的人工智能系統不出故障和保持穩定。如果人工智能的經濟影響日益增長，我們還需要考慮如何修改法律，以及我們應該為孩子們提供什么樣的就業建議，以免他們選擇那些很快會被自動化取代的工作。我們將在第3章中討論這些短期問題。

如果人工智能發展到人類水平，我們還需要想一想如何保證它對人類有益，以及我們能不能或者應不應該創造出一個不需要工作就能保持繁榮的休閑社會。這也提出了另一個問題：智能爆炸或者緩慢但穩定的增長會不會創造出遠超過人類水平的通用人工智能？我們會在第4章對許多這樣的情景進行探討，并在第5章討論在這之后可能會發生什么事情，范圍從可能的烏托邦情景一直延伸到反烏托邦情景。誰會處在統治地位？是人類、人工智能，還是賽博格？人類會得到溫和還是殘暴的對待？我們是否會被取代？如果被取代，我們會把取代我們的東西視為征服者，還是后裔？我很好奇你會喜歡第5章中的哪一種情景，因此，我建了一個網站（http://AgeOfAi.org），你可以在這里分享自己的看法，參與討論。

在第6章，我們會穿越到幾十億年后的未來。具有諷刺意味的是，我們在那里會得出一些比前幾章更強的結論：因為我們宇宙中的生命的最終極限取決于物理定律，而不取決于智能。

對智能歷史的探索終結之后，我們將用本書余下的部分來探討我們應該朝著什么樣的未來前進，以及如何實現它。為了將冷冰冰的事實與意志和意義聯系起來，我們將在第7章和第8章分別探討目標和意識的物理基礎。最后，在尾聲部分，我們將討論當下應該做些什么，才能創造出我們想要的未來。

如果你讀書時喜歡跳過一些章節，那么你需要知道的是，只要你理解了第1章和下一章開頭部分給出的名詞解釋及定義，后面的大部分章節都是相對獨立的。如果你是一個人工智能研究者，你完全可以跳過第2章，除了最開始對智能進行定義的部分。如果你是最近才燃起對人工智能的興趣，那第2章和第3章會讓你明白，為什么第4～6章的內容不容忽視，更不能被視為不可能發生的科幻故事。圖1-7列舉了每一章的推測程度的高低。

一段精彩的旅程正在等待著我們，讓我們出發吧！

本章要點

○　生命的定義是，一個能保持自身復雜性，并進行復制的過程。生命的發展會經歷三個階段：硬件和軟件都來自進化的生物階段，即生命1.0；能夠通過學習自己設計軟件的文化階段，即生命2.0；自己設計硬件和軟件，并主宰自我命運的科技階段，即生命3.0。

○　人工智能或許能讓我們在21世紀內進入生命3.0階段。我們應該朝著什么樣的未來前進，以及如何才能實現這個未來？這個問題引發了一場精彩的對話。這場辯論中有三個主要的陣營：技術懷疑主義者、數字烏托邦主義者和人工智能有益運動支持者。

○　技術懷疑主義者認為，建造超人類水平的通用人工智能相當困難，沒有幾百年的時間根本無法實現。因此，現在就開始擔心這個問題和生命3.0是杞人憂天。

○　數字烏托邦主義者認為，21世紀就有可能實現生命3.0。并且，他們全心全意地歡迎生命3.0的到來，把它視為宇宙進化自然而然、令人期待的下一步。

○　人工智能有益運動支持者也認為，生命3.0有可能會在21世紀內實現，不過他們不認為它一定會帶來好結果。他們認為，若想保證好的結果，就必須進行艱苦的人工智能安全性研究。

○　除了這些連世界頂級專家都無法達成共識的合理爭議，還有一些無聊的“偽爭議”，是由誤解所導致的。比如，如果你不能保證和自己的辯論對手在談及“生命”“智能”“意識”這些詞時，表達的意思是相同的，那么千萬不要浪費時間爭論這些話題。本書對這些詞的定義參見表1-1。

○　請一定注意圖1-5中的誤區：超級智能到2100年必將實現或不可能實現。只有“盧德分子”才會擔心人工智能；我們應該擔憂人工智能變得邪惡或擁有意識，而這一定會在幾年內發生；機器人是最大的威脅；人工智能不可能控制人類，也不可能擁有目標。

○　在第2～6章，我們將探索關于智能的故事，從幾十億年前卑微的開端，一直到幾十億年后在宇宙范圍內的可能未來。首先，我們將探討一些短期的挑戰，比如就業、人工智能武器和對人類水平的通用人工智能的開發；接著，我們將討論關于智能機器和人類未來的一系列迷人的可能性。我很想知道你青睞哪一種未來！

○　在第7章和第8章，我們將不再描述冷冰冰的事實，而是轉而探索關于目標、意識和意義的話題，并討論我們現在可以做些什么來實現我們想要的未來。

○　我認為，有人工智能相伴的生命未來是我們這個時代最重要的對話。請加入這場對話吧！