在你的顱腔里，有個器官能夠閱讀。這個器官就是人的大腦，它具有其他動物大腦沒有的一些能力，而我們在地球上的主宰地位便歸功于這些獨特的能力。

其他動物有更強壯的肌肉或更銳利的爪子，但是我們有更聰明的大腦。我們在一般智能方面的些許優勢使我們創造了語言，發展了科技，并建立了復雜的社會組織。這種優勢隨著時間的延續而不斷提高，因為每一代人的成就都建立在前人的成就之上。

如果有一天我們發明了超越人類大腦一般智能的機器大腦，那么這種超級智能將會非常強大。并且，正如現在大猩猩的命運更多地取決于人類而不是它們自身一樣，人類的命運將取決于超級智能機器。

然而我們擁有一項優勢：我們清楚地知道如何制造超級智能機器。原則上，我們能夠制造一種保護人類價值的超級智能，當然，我們也有足夠的理由這么做。實際上，控制問題—也就是如何控制超級智能，似乎非常困難，而且我們似乎也只有一次機會。一旦不友好的超級智能出現，它就會阻止我們將其替換或者更改其偏好設置，而我們的命運就因此被鎖定了。

在本書中，我將努力詮釋可能出現的超級智能帶來的挑戰，以及我們如何更好地應對。這很可能是人類面對的最重要和最可怕的挑戰。而且，不管我們成功還是失敗，這大概都是我們將要面對的最后一個挑戰。

本書并不認為，我們即將在人工智能方面取得重大突破，或者能夠準確預測突破會在何時發生。突破有可能會在21世紀的某些時候實現，但是我們并不能確定。本書的前幾章討論了取得突破的可能途徑，并談論了何時能夠突破的問題。然而，本書的主要部分討論的是智能爆發以后會發生什么。我們會研究智能大爆發的動力學，超級智能的形式和能量，以及具有決定性優勢的超級智能體有哪些戰略選擇。然后，我們探討的重點轉向控制問題，并提出為了讓我們生存并且獲得有利的結果，我們如何選擇初始數據的問題。在本書的結尾，我們將畫面拉遠，思考我們的研究所呈現的更大的圖景。最后提出了一些建議，指出為了增加避免存在性災難的概率，我們現在可以做些什么。

我希望本書可以開辟出一條道路，以使其他研究者能夠更加快速和便捷地到達這個領域的前沿，從而以全新的視角加入這項研究，進一步擴展我們的認識。

（如果我鋪的這條道路有點崎嶇不平，那么我希望評論家們在評判結果時，不要低估原來地勢的險惡情況！）

這本書寫起來并不容易。我努力使其讀起來容易，但是我覺得可能并沒有做到。寫作時，我把早前時間切片（time-slice）里的自己當作目標讀者，并盡量把書寫成自己喜歡閱讀的類型。雖然這可能會導致讀者群較窄，但我還是認為書中的內容對很多人來說都是能夠理解的，前提是他們對書中的內容進行一些思考，同時拒絕盲目地將任何一個新觀點誤解為他們文化中相似而陳舊的觀點。非科技專業的讀者不必因為書中偶爾出現的數學知識或專業術語感到氣餒，因為往往可以通過上下文的解釋看懂主要觀點。

本書提出的很多觀點可能是不恰當的，而有些非常重要的觀點我可能也沒有考慮到，從而削弱了我的某些或者所有結論的有效性。我已經盡可能地在全書中指明細微差別和不確定性—書中遍布著太多的“可能”、“或許”、“也許”、“也有可能”、“看起來”、“大概”、“非常可能”、“幾乎肯定”這樣的詞。每個限定詞的使用都是經過深思熟慮的。然而，這些字眼所體現出的認識方面的謙虛謹慎依然是不夠的，還必須要補充對不確定性和易錯性的整體說明。這不是虛偽的謙虛，因為雖然我相信我的書中可能有一些較嚴重的問題和誤導性，但是我認為目前書中提到的其他觀點更加糟糕，包括默認觀點或者所謂的“零假設”，這些觀點認為我們可以暫時安全地或合理地忽略超級智能出現的可能性。