我們已經發現，智能與最終價值觀之間的關聯非常弱。我們還發現，工具性目標存在可怕的趨同性。對于較弱的智能體來說，這些并沒有太大關系。

因為它們容易控制，而且幾乎不能造成什么破壞。但是在第六章中，我們已經論述過，第一個出現的超級智能很有可能獲得決定性戰略優勢，它的目標將決定人類的宇宙資源如何被使用。現在，我們可以開始了解這個前景會有多么可怕了。

存在性災難是智能大爆發的默認后果嗎？...