在第一個例子中，人工智能得出的對黎曼猜想的證據(jù)或反證就是我們想要的結果，并且其本身也是無害的；危害來自于為了得到結果而建造的硬件和基礎設施。在第二個例子中，生產出來的曲別針中的一部分是我們想要的結果；危害要么來自于用來生產曲別針的工廠（基礎設施過量），要么來自于曲別針過量（反常目標實現(xiàn)方式）。

你可能會想，基礎設施過量的惡性失敗模式只會出現(xiàn)在人工智能被給予了某種沒有限制的最終目標時，比如...