第29章 控制問題(1)
- 超級智能
- (英)尼克·波斯特洛姆
- 4715字
- 2016-03-11 15:55:09
如果智能爆發的默認后果是導致存在性災難的發生,那么面對這樣的威脅,我們的思路必須立刻轉向尋求應對方法。有沒有辦法可以避免這樣的默認結局?有沒有可能設計出受控制的智能爆發?在本章中,我們開始分析控制問題,即建造人工超級智能代理時出現的獨特的委托代理問題。我們把解決這個問題的可能方法分為兩大類—能力控制和動機選擇,對于每一個類別我們都會闡述具體的方法。我們還會順便提到深奧的“人擇捕獲”的可能性。
...
上QQ閱讀APP看后續精彩內容
登錄訂閱本章 >