困境

在深入思考人類智慧的深刻力量之后，我萌生了一個簡單的問題，這個問題自此縈繞著我的生活：如果我們能夠提煉出賦予人類生產力和創(chuàng)造力的核心要素，并將其轉化為軟件和算法，那么未來會怎樣？這個問題的答案或許能為我們解鎖一些極其強大的工具，幫助我們應對最棘手的問題。一種超乎想象的、非凡的工具可能將應運而生，它能幫助我們在未來幾十年里應對從氣候變化、人口老齡化到可持續(xù)食品開發(fā)等一系列艱巨的挑戰(zhàn)。

懷著這個想法，2010年夏，我與兩位朋友——戴密斯·哈薩比斯和謝恩·萊格在倫敦羅素廣場旁一間建于英國攝政時代的古色古香的辦公室里，共同創(chuàng)建了DeepMind公司。如今回想起來，我仍深感我們的目標宏大、瘋狂而振奮人心。我們的目標就是復制那個讓人類獨一無二的特質，即人類的智能。

為實現這一目標，我們需要創(chuàng)建一個能夠模仿并最終在各個方面（從視覺和語音能力到規(guī)劃和想象力，甚至包括共情力和創(chuàng)造力）超越人類認知能力的系統。考慮到這一系統將充分利用超級計算機的大規(guī)模并行處理技術以及全球互聯網日益豐富的新數據源，我們深知，即便是朝向這一目標邁出的微小步伐，都將對社會產生深遠的影響。

這個目標當時看起來遙不可及。那時，人工智能的廣泛應用還只是天方夜譚，更多地存在于人們的幻想中，僅為少數紙上談兵的學者和狂熱的科幻小說迷所津津樂道。然而，在我寫下這些文字時，回顧過去的10多年，人工智能的發(fā)展可謂突飛猛進。DeepMind已崛起為世界頂尖的人工智能公司之一，取得了一系列重大突破。這場新技術革命的發(fā)展速度和力量，讓我們這些身處領域前沿的人都震驚不已。在本書的寫作過程中，人工智能的發(fā)展速度令人瞠目結舌：每周，有時甚至每天，都會有新的模型和產品問世。顯然，這場浪潮正在不斷加速。

如今，人工智能系統已經能夠近乎完美地識別人臉和物體。我們已習慣于使用語音轉文字和即時語言翻譯功能。在道路和交通導航方面，人工智能的表現已相當出色，甚至在某些情境下足以支持自動駕駛。新一代的人工智能模型能夠根據簡單的提示生成新穎的圖像，并能以出色的細節(jié)和連貫性撰寫文本。人工智能系統還能以驚人的逼真度生成合成聲音，并創(chuàng)作出令人贊嘆的音樂。即使在更具挑戰(zhàn)性的領域，如長期規(guī)劃、想象力以及復雜思維的模擬方面，人工智能也取得了長足進步，盡管這些領域曾被視為人類獨有的能力范疇。

在過去幾十年里，人工智能在認知能力上不斷取得突破。現在看來，它似乎有望在未來3年內，在各類任務中達到與人類相當的表現水平。這是一個大膽的論斷，但如果這個論斷不算太偏頗，那么其意義無疑是深遠的。許多在DeepMind創(chuàng)立之初看起來不切實際的想法，如今不僅變得合理可行，而且似乎已經成為必然趨勢。

從一開始，我就清楚地認識到，盡管人工智能這一強大的工具能帶來巨大的利益，但它也會像其他大多數形式的強大力量一樣，引發(fā)重大的危險和道德困境。我擔憂的不僅僅是人工智能發(fā)展所帶來的后果，還有整個技術生態(tài)系統的演變方向。在人工智能之外，一場更為廣泛的技術革命已然興起。在這場革命中，人工智能正推動新興的、強大的基因技術和機器人技術突飛猛進。在這個錯綜復雜、多種技術相互交織的局面下，一個領域的進步會加速其他領域的發(fā)展，而這種相互強化的局面已經超出了任何人的直接掌控。顯然，如果任何人能夠成功地復制人類智慧，那就不僅僅意味著一個有利可圖的商機，更預示著人類歷史的一次重大變革。它將開啟一個新的紀元，帶來前所未有的機遇，同時也伴隨著前所未有的風險。

這些年來，隨著技術的不斷進步，我的擔憂也與日俱增。如果這股技術浪潮實際上是一場無法阻擋的海嘯，那么我們該怎么辦？

2010年時，幾乎無人認真探討人工智能。如今，這個曾被視為僅屬于少數研究人員和企業(yè)家的研究任務，已經演變?yōu)橐粋€吸引全球廣泛參與的宏大領域。人工智能無處不在。無論是在新聞報道中，還是在智能手機中，甚至在股票交易和網站建設的過程中，我們都能見到它的身影。全球眾多頂尖企業(yè)和國家都在競相研發(fā)尖端的人工智能模型和基因工程技術，這些技術的研發(fā)背后有著數百億美元的龐大投資。

這些新興技術一旦成熟，將會迅速普及，價格將變得更便宜、獲取將變得更便捷，其將廣泛滲入社會的各個領域。它們將帶來卓越的醫(yī)學進步和清潔能源的突破，不僅能催生新的商業(yè)機會，還將在幾乎所有我們可以想象的領域中促進產業(yè)多樣化和生活質量的提升。

然而，除了帶來眾多利益，人工智能、合成生物學以及其他尖端技術也將引發(fā)令人憂慮的尾部風險。這些風險可能對民族國家的生存安全構成威脅，其影響之深遠，足以動搖甚至顛覆現有的地緣政治格局。設想一下，由人工智能助力的網絡攻擊、可能引發(fā)國家毀滅的自動化戰(zhàn)爭、人為制造的流行病，以及一個由看似強大但充滿未知力量的技術所主導的世界，這些極端情況在技術的推動下都有可能成為現實。盡管每種情況的發(fā)生概率都不大，但其潛在后果都是災難性的。因此，即便這些后果出現的可能性較小，我們也必須保持高度警惕。

面對這些潛在的災難性風險，一些國家可能會采取高度技術化的威權主義手段來應對，以減緩這些新力量的擴散。這很可能導致對個人隱私的嚴密監(jiān)控和大規(guī)模侵犯。技術的嚴格控制可能會催生一個反烏托邦式的全球監(jiān)控體系，在這個體系下，一切事物和個體都將受到無間斷的監(jiān)視。人們對預防最極端的潛在后果的渴望為這個監(jiān)控體系提供了合理化的借口。

同樣可能出現的是盧德主義式抵抗。一系列針對新技術的抗議、抵制和要求暫停的聲音可能出現。然而，放棄新技術的研發(fā)并全面暫停其應用，這可能嗎？答案似乎是否定的。考慮到新技術所帶來的巨大地緣戰(zhàn)略和商業(yè)價值，我們很難想象有誰能輕易說服國家或企業(yè)單方面放棄這些技術所帶來的變革力量。此外，試圖阻止新技術的發(fā)展本身就是一種危險。歷史上，技術停滯的社會往往不穩(wěn)定，容易崩潰。這樣的社會最終會喪失解決問題和實現進步的能力。

從當前的視角來看，無論是追求還是避免新技術都存在著巨大的風險。隨著技術變得更加便宜、強大，普及度更高，風險也在逐漸累積。在這些風險中尋找一條安全的“狹窄小道”，以避免陷入技術專制主義的反烏托邦或陷入技術開放可能帶來的災難，變得越來越困難。然而，放任自流也非明智之舉。盡管我們對技術風險深感擔憂，但我們前所未有地需要即將到來的技術浪潮所帶來的巨大好處。這正是我們面臨的核心困境：新一代的強大技術遲早可能將人類引向災難性或反烏托邦式的局面。我堅信這是21世紀人類必須面對的一個重大元問題。

本書闡述了該困境逐漸變得無法回避的原因，并探討了可能的應對策略。我們需要充分利用技術的優(yōu)勢，這對于我們應對一系列嚴峻的全球性挑戰(zhàn)以及擺脫當前的困境至關重要。然而，目前關于科技倫理和安全的討論還遠遠不夠。盡管有大量關于技術的圖書、辯論、博客文章以及社交媒體熱議，但關于如何遏制技術的討論鮮有耳聞。在我看來，遏制技術的關鍵在于構建一個融合技術、社會和法律機制的綜合體系，以在各個可能的層面上對技術進行約束和控制。從理論上講，這是避免陷入困境的途徑。但令人感到遺憾的是，即使一些對技術持最嚴厲批評態(tài)度的人，也常常回避討論應如何嚴格遏制技術。

這種情況需要改變。我希望本書能闡明為什么，并指出應如何改變。