第40章 獲取價值觀(1)
- 超級智能
- (英)尼克·波斯特洛姆
- 4882字
- 2016-03-11 15:55:09
對能力的控制最多是一個暫時、輔助的手段。除非要永久地限制超級智能,否則我們都需要掌握動機選擇機制。但是怎樣才能將一些價值觀加載到人工代理內部,使該價值觀成為其追求的最終目標呢?如果這個代理不是智能的,那么它就會缺乏理解和再現那些對人類有意義的價值觀的能力。但是如果我們推遲進程,直到代理變成超級智能之后才行動,就可以抑制住我們在其動機系統中插手的企圖,正如第七章所顯示的,這樣做存在著工具性趨同理由。...
上QQ閱讀APP看后續精彩內容
登錄訂閱本章 >