有人說：“只要建造一個回答問題的系統(tǒng)就好了！”或者“那就建造一個更像是工具而不是代理的人工智能！”但是這些建議并不能打消所有的安全顧慮。實(shí)際上，哪種類型的系統(tǒng)安全性最高并不是一個小問題。我們將研究4種類型或者說“種姓”—神諭、精靈、主權(quán)、工具，并且解釋它們之間的聯(lián)系。

對于解決控制問題，每個類型都有不同的優(yōu)勢和劣勢。

神諭

神諭是指一個回答問題的系統(tǒng)。神諭可能能夠接受...