在第一個例子中，人工智能得出的對黎曼猜想的證據或反證就是我們想要的結果，并且其本身也是無害的；危害來自于為了得到結果而建造的硬件和基礎設施。在第二個例子中，生產出來的曲別針中的一部分是我們想要的結果；危害要么來自于用來生產曲別針的工廠（基礎設施過量），要么來自于曲別針過量（反常目標實現方式）。

你可能會想，基礎設施過量的惡性失敗模式只會出現在人工智能被給予了某種沒有限制的最終目標時，比如...