巨浪時代的關鍵詞

人工智能（AI）、通用人工智能（AGI）與人工能力智能（ACI）：人工智能是引導機器學習類人能力的科學。通用人工智能是人工智能發展的高級階段，那時人工智能系統將能夠使用所有的人類認知技能，且其表現將超越最聰明的人。人工能力智能是人工智能通向通用人工智能的重要中間節點，這一節點正迅速向我們逼近；人工能力智能將廣泛應對各種復雜的任務，但距離完全通用的智能水平仍有很長的路要走。

即將到來的技術浪潮：

一系列以人工智能和合成生物學技術為核心的相關新興技術的集群，它們的變革性應用將賦予人類巨大的能力，也將帶來前所未有的風險。

遏制：

對技術進行監測、限制、控制，甚至在必要時予以關閉的能力。

遏制問題：

技術傾向于如浪潮一般廣泛擴散，可能會產生無法預測或難以控制的涌現效應，包括負面的、無法預見的后果。

困境：

新技術的出現或缺失，都日益增加了引發災難性或反烏托邦式后果的可能性。

4個特征：

即將到來的技術浪潮所具有的幾個關鍵特征加劇了遏制的難度。這些特征分別是非對稱性、超級進化性、通用性以及自主性。

脆弱性放大器：

即將到來的技術浪潮所帶來的廣泛應用和影響，將進一步沖擊和動搖民族國家本就脆弱的根基。

大契約：

作為賦予國家集中掌控武力使用權的交換條件，公民希望國家維護社會秩序，提供公共服務，并在采納和應用新技術時將其負面影響降至最低。

狹窄小道：

人類在努力遏制浪潮的過程中，在開放與封閉之間找到一種微妙平衡的可能性。只有達到這種平衡，人類才能避免災難性或反烏托邦式的結果。

悲觀規避：

人們，尤其是精英階層，傾向于忽視、淡化或排斥他們認為過于負面的觀點。這是樂觀偏差的一種變體，它在很大程度上影響我們關于未來的討論，特別是在技術領域中。

合成生物學：

設計和改造新的生物體，或重新設計現有生物系統的能力。

技術：

為了制造工具或實現實用目標而對（最廣義的）科學知識進行的應用和實踐。

浪潮：

以一項新的通用技術為基礎的新一代技術在全球范圍內的廣泛傳播或擴散。