論點

浪潮在人類生活中無處不在，而我們討論的是最新的技術浪潮。人們常常覺得它仍然遙不可及，仿佛只是關于未來的幻想，聽起來甚至有些荒謬。人們認為這場浪潮僅僅是少數書呆子和邊緣思想家頭腦里的東西，充滿了夸張、術語和噱頭。這種認識是錯誤的。相反，這場浪潮是真實存在的，就像從寬闊的藍色海洋中襲來的海嘯一樣真實。

這并非幻想或純粹的理論探討。即使你不同意我的觀點，認為這一切都不太可能發生，我也希望你能繼續閱讀下去。的確，我有人工智能的背景，習慣于從技術的視角審視世界。在探討這場技術浪潮是否真的具有重大影響這一問題時，我難免帶有一定的偏見。但是，在過去15年里，在近距離親眼看見了這場不斷深化的技術革命之后，我確信我們正站在一生中最為重要的變革的風口浪尖。

作為這些技術的一個構建者，我相信它們能帶來眾多的好處，改善無數人的生活，解決一系列根本性挑戰，無論是助力開發下一代清潔能源，還是為我們最棘手的疾病提供廉價而有效的治療方法。技術可以也應該豐富我們的生活。有必要強調的是，歷史上，這些技術背后的發明者和企業家一直是推動社會進步的強大動力，改善了數十億人的生活。

但是，如果沒有遏制，技術的所有其他方面，包括每一個關于其倫理缺陷或可能帶來的好處的討論，就都將變得沒有意義。如何控制和遏制這場即將到來的技術浪潮？如何在這場浪潮中維護民族國家的保障和供給？我們迫切需要為這些問題找到完美答案。但目前，還沒有人能回答這樣的問題。我們正面臨著一個沒有人希望看到的未來，但我擔心它出現的可能性越來越大。我會在接下來的章節中解釋原因。

在本書第一部分，我們將回顧技術發展的漫長歷史，以及技術是如何像浪潮一樣在幾千年的時間里傳播的。這些技術浪潮背后的驅動力是什么？是什么使它們在人類社會普及？我們還將討論，是否有人類社會有意識地回避一項新技術的先例。過去，人們通常不會談論回避技術，技術的擴散模式十分明顯，而那導致了一系列有意和無意的后果。

我把這個問題稱作“遏制問題”。如今，我們擁有人類發明出來的最具價值的技術，它們比以往任何技術都更加經濟實惠，傳播速度更快。我們該如何把控這些技術呢？

本書的第二部分詳細闡述了即將到來的技術浪潮的特征。其核心是兩項通用技術，即人工智能和合成生物學，它們都具有巨大的前景和力量，也伴隨著巨大的風險。盡管這兩者長期以來都已備受關注，但我認為它們的影響范圍仍然常被低估。圍繞這兩項技術，已經發展出了一系列相關技術，如機器人和量子計算，這些技術的發展將以復雜而動蕩的方式相互影響。

在這一部分中，我們不僅要探討這些技術的出現模式以及它們具有的力量，還要深入剖析它們如此難以遏制的原因。這些技術都具有4個關鍵特征，這些特征使得這一次的技術浪潮與以往不同：它們本質上具有通用性，因此可以得到多元應用；它們具有超級進化性；它們的影響具有非對稱性；在某些方面，它們還呈現出日益提升的自主性。

這些技術產生的背后有強大的驅動力：地緣政治競爭、巨額經濟回報，以及開放、分布式的研究文化。無論我們能否有效監管和控制即將到來的風險，無數的國家與非國家實體都將爭先恐后地開發這些技術，它們的行為將影響所有人，無論我們是否喜歡這一點。

本書的第三部分探討了難以遏制的技術浪潮引發的大規模權力再分配所帶來的政治影響。我們目前的政治秩序基礎，也是技術遏制的最重要參與者，是民族國家。民族國家已經受到各種危機的沖擊，而這一浪潮將進一步放大這些沖擊，帶來一系列的新挑戰和威脅，包括潛在的新型暴力形式、錯誤信息的泛濫、工作崗位的流失，以及災難性事故發生的可能性。

此外，這一浪潮將迫使權力發生一系列結構性轉移，同時呈現出權力集中化和分散化的趨勢。這將創造出龐大的新企業，鞏固威權主義，同時將賦予某些群體和運動在傳統社會結構之外的生存能力。浪潮到來時，將是我們最需要民族國家這樣的機制的時候，而那時民族國家的內在微妙平衡也將面臨前所未有的壓力。這也正是我們陷入困境的原因。

在本書第四部分，我們將討論如何應對即將到來的技術浪潮。我們是否還有一線希望，能夠擺脫上述困境？如果存在這樣的希望，應該如何實現它？在這一部分，我們提出了10個步驟，其涵蓋代碼編程和DNA技術的微觀層面以及國際條約的宏觀層面，旨在構建一套相互銜接的有力的遏制機制，作為我們實現技術遏制的基本計劃。

這是一本關于應對技術失敗的書。技術失敗可以指普通意義上的技術故障，如發動機不工作、橋梁坍塌。但這一失敗還可以從更廣泛的意義上理解。如果技術損害了人類生命，催生了傷害人類的社會，或者讓一些惡意（或無意中具有危險性的）行為者掌握了權力，社會就會無法管控和治理……總之，如果技術總體上造成了破壞，那么我們就可以說技術在一個更深的層次上失敗了，它背離了其初衷和承諾。這種意義上的技術失敗并不是技術本身固有的問題，而是與技術所處的環境、治理結構及其所服務的權力網絡和用途有關。

人類身上令人驚嘆的創造力為我們帶來了無數成就，這種創造力使得我們擅長避免前一種類型的技術失敗。正因如此，飛機失事事故變得越來越少，汽車變得更加清潔和安全，計算機變得功能更強大且更加安全。然而，我們面臨的巨大挑戰是，我們還未認真考慮后一種失敗。

幾個世紀以來，技術極大地提高了數十億人的福祉。現代醫學極大地改善了我們的健康狀況，世界上大多數人能夠享受到食物充足的生活，人們的受教育水平從未如此之高，和平程度也達到了前所未有的水平，物質生活比以往都更加豐富。這些都是人類的重大成就，其中一部分這樣的成就正是由科學和技術創造的偉大引擎促成的。這也是我一生致力于安全地開發這些技術工具的原因。

但是，在我們從這段非凡的歷史中汲取任何樂觀情緒的同時，我們也必須坦誠面對現實。要防范技術失敗，我們就必須理解并最終正視可能出現的問題。我們必須將理性的思考延伸到其邏輯終點，不能畏懼它指向的潛在結果。在我們認識到不好的結果可能出現時，我們必須采取行動。即將到來的技術浪潮帶來了比以往任何時候都更加緊迫和巨大的威脅，這需要全球范圍內的共同關注和應對。它急需答案，而目前還沒有人能夠回答。

技術遏制看起來不可能實現。但為了所有人的利益，我們必須讓遏制成為可能。