如果智能爆發的默認后果是導致存在性災難的發生，那么面對這樣的威脅，我們的思路必須立刻轉向尋求應對方法。有沒有辦法可以避免這樣的默認結局？有沒有可能設計出受控制的智能爆發？在本章中，我們開始分析控制問題，即建造人工超級智能代理時出現的獨特的委托代理問題。我們把解決這個問題的可能方法分為兩大類—能力控制和動機選擇，對于每一個類別我們都會闡述具體的方法。我們還會順便提到深奧的“人擇捕獲”的可能性。

...