有人說：“只要建造一個(gè)回答問題的系統(tǒng)就好了！”或者“那就建造一個(gè)更像是工具而不是代理的人工智能！”但是這些建議并不能打消所有的安全顧慮。實(shí)際上，哪種類型的系統(tǒng)安全性最高并不是一個(gè)小問題。我們將研究4種類型或者說“種姓”—神諭、精靈、主權(quán)、工具，并且解釋它們之間的聯(lián)系。

對(duì)于解決控制問題，每個(gè)類型都有不同的優(yōu)勢(shì)和劣勢(shì)。

神諭

神諭是指一個(gè)回答問題的系統(tǒng)。神諭可能能夠接受...