有人說(shuō)：“只要建造一個(gè)回答問(wèn)題的系統(tǒng)就好了！”或者“那就建造一個(gè)更像是工具而不是代理的人工智能！”但是這些建議并不能打消所有的安全顧慮。實(shí)際上，哪種類(lèi)型的系統(tǒng)安全性最高并不是一個(gè)小問(wèn)題。我們將研究4種類(lèi)型或者說(shuō)“種姓”—神諭、精靈、主權(quán)、工具，并且解釋它們之間的聯(lián)系。

對(duì)于解決控制問(wèn)題，每個(gè)類(lèi)型都有不同的優(yōu)勢(shì)和劣勢(shì)。

神諭

神諭是指一個(gè)回答問(wèn)題的系統(tǒng)。神諭可能能夠接受...