有人說：“只要建造一個回答問題的系統就好了！”或者“那就建造一個更像是工具而不是代理的人工智能！”但是這些建議并不能打消所有的安全顧慮。實際上，哪種類型的系統安全性最高并不是一個小問題。我們將研究4種類型或者說“種姓”—神諭、精靈、主權、工具，并且解釋它們之間的聯系。

對于解決控制問題，每個類型都有不同的優勢和劣勢。

神諭

神諭是指一個回答問題的系統。神諭可能能夠接受...