推薦序一
如何正確地關心人類命運

萬維鋼

科學作家，“得到”App《精英日課》專欄作者

每個人都關心自己的命運，也有很多人關心國家的命運，但除此之外，你還應該關心人類的命運。人類命運是個大尺度的問題，雖然對你我的生活沒有直接影響，但我們總有一點兒好奇心，想知道未來究竟會怎樣。

你肯定對未來有過各種推測和想象。雖然我沒見過未來，但我敢打賭，你自己的推測和想象有很多不合理之處。

一般人在預測短期的未來時往往過分樂觀。20世紀六七十年代，很多人相信21世紀將是一個宇航的時代，人類很快就能殖民火星。結果，我們今天所謂的高科技只不過是——智能手機。想象一件事總比做成一件事容易，我們容易高估技術進步的速度。

如果要預測長期的未來，人的想象力往往又不太夠用。一兩百年前的人想象21世紀的生活時，根本就想不到會有智能手機和計算機這些東西，他們能想象的大概是一個蒸汽朋克的世界，天空中飄著巨大的飛艇。

所以，如果你要嚴肅地關心人類命運，就需要科學推測。邁克斯·泰格馬克新作《生命3.0》就是這樣一本書。

泰格馬克可能是當今物理領域活躍著的最有意思的一位物理學家。他在量子力學和宇宙學這些最正宗的物理領域里獲得過很了不起的成就，而且還涉獵廣泛，跨界搞過人工智能方面的理論研究；他也很有思想，提出了“數學宇宙”這個哲學的世界觀；他還熱衷于社會活動，跟物理學和人工智能界的很多大佬經常互動。此外，他還很會寫書。

李鴻章年輕時寫過這樣一句詩“一萬年來誰著史”，泰格馬克這本《生命3.0》的氣魄比這個還大，研究的是人類的終極命運。

這個問題本來是交給哲學家和科幻作家去解決的，物理學家能干什么呢？答案是物理學家的推導更精確，而且更富有想象力。

比如一想到未來，我們就關心地球環境會不會被破壞，能源夠不夠用，哲學家可能深表憂慮。但物理學家知道，我們人類目前的能源汲取水平遠遠沒達到極限，跟將來可以使用的聚變核能和太陽能相比，連九牛一毛都算不上。但只要考慮物理定律的限制，宇宙就是你的大舞臺，能源根本不是問題。

再比如人工智能。科幻作家在暢想未來時，經常會犯兩種跟人工智能有關的錯誤。一種錯誤是他沒有充分考慮人工智能，還是認為是人類在主導一切；另一種錯誤是他誤判了人工智能。在有些作品里，機器人動不動就活了，具有了人類的意識，但智力水平居然并不明顯高于人類，有時候還挺笨的！而科學家會告訴你，讓人工智能獲得意識非常非常困難，但是，讓人工智能的智能超過人則相當容易。

《生命3.0》這本書給我的感悟是，決定人類終極命運的只有這一個問題最重要——人工智能到底能不能擁有人的意識。

在我們的流行文化中，經常會談論人工智能，但很少涉及“意識”。可能大多數人都沒有意識到，人有一個“意識”的問題。

簡單地說，意識是我們對世界的主觀體驗。我們的喜怒哀樂，一切感情都是因為我們有意識。一輛自動駕駛汽車也許可以出色地完成運輸任務，但當遇到紅燈時它不會暴躁，有危險時它不會害怕，撞了車時它不會疼，沒油時它不會餓，完成任務時它也不會高興，它只是機械地做事而已。

實際上，現在生物學家認為，人在做事的時候，本質上也是機械的。我們的各種感情只是附帶產生的多余的情緒。就算沒有任何主觀感受，你還是一樣能做好各種事情。

但是主觀體驗賦予了我們生活的意義。你工作之余，偶爾抬頭看看星空，感慨一下宇宙多么美好，那是因為你有意識。如果人沒有意識，那就跟一堆沙子沒有本質區別，人生就沒有意義，整個宇宙的存在就沒有價值。

泰格馬克把生命分成三個階段，人類只能算第二階段，叫“生命2.0”。我們能學習新知識，但不能隨便升級自己的身體，因而受到了很大的限制。而人工智能則是“生命3.0”，它們將可以隨意升級軟件和硬件，它們終將超過我們。

那將來的人工智能是否具有意識？

科幻作家會說，既然世界上并沒有“靈魂”這種東西，人類純粹是由原子組成的，那么人工智能當然可以有意識。按理說是這樣的，但科學家會給人工智能的意識做出一些限制。比如這本書中介紹了一種叫作“信息整合理論”的意識理論，這個理論要求有意識的物體必須是信息高速整合的，而物理定律要求信息的傳播速度有限，人工智能大腦的大小就必須限制在一個不太大的范圍之內。人工智能的聰明程度將是有限的。

但再有限也比人類厲害得多，那么，將來的結局就是，人工智能將會淘汰人類。如果雙方和平交接，人工智能將作為人類文明的代表去征服宇宙的各個角落，人類將是人工智能的寵物。

如果人工智能一直都沒有意識，事情就更麻煩了。據泰格馬克推演，人工智能就算沒有意識也可能會有自己的目的，它們可能會不自覺地發展壯大，并且最終拋棄人類。那將是人類文明最壞的結局，我們可能會被沒有意識的僵尸人工智能取代，留下一個空洞的、毫無意義的宇宙。

鑒于這些結局好像都不怎么理想，我們迫切地需要知道意識到底是怎么一回事兒，將來的人工智能到底會怎樣。

這并不是泰格馬克自己在杞人憂天。我看美國上上下下，從學者到企業家和老百姓，現在對意識和人工智能的思考非常深入，主流媒體上也經常討論，新研究、新思想層出不窮。

雖然中國人對人工智能的各種應用非常關心，也很了解，但對人的意識、人工智能的原理這些問題關心不夠。我們有太多面向過去的思想家，他們總想用過去指導未來，但是未來世界的邏輯很可能跟過去很不一樣。

到底什么是意識？人到底是一種什么樣的機器？就算你覺得未來太遙遠，只要你關心人，這些問題就會讓你寢食難安。這就是現在世界上最聰明的大腦都在想的問題。而《生命3.0》這本書告訴你的大約就是目前已知最好的答案了。