對能力的控制最多是一個暫時、輔助的手段。除非要永久地限制超級智能，否則我們都需要掌握動機選擇機制。但是怎樣才能將一些價值觀加載到人工代理內(nèi)部，使該價值觀成為其追求的最終目標呢？如果這個代理不是智能的，那么它就會缺乏理解和再現(xiàn)那些對人類有意義的價值觀的能力。但是如果我們推遲進程，直到代理變成超級智能之后才行動，就可以抑制住我們在其動機系統(tǒng)中插手的企圖，正如第七章所顯示的，這樣做存在著工具性趨同理由。...