但是，這種從人類范式的偏離要想稱得上是進步，必須被引向特定的方向，而非隨機發展；而且它們應該繼續以一個很大程度上以人類為中心、不被打擾的參考框架來提供一種人性的、有意義的、可評估的普遍標準作為前提（這樣才能避免我們在第八章討論過的表面可行的反常目標實現方式）。而這是否可行，還有待討論。

一個未來的與聯合累積的價值觀有關的問題，是人工智能可能會破壞增值機制。正如我們在第七章中看到的，目標–...