有（至少）兩個地方可能會出現問題。首先，具有超級智能特征的搜索過程找到的解決方案可能不僅是預料之外的，而且是極度違背設計意圖的。這可能會導致我們之前討論過的一些失敗類型（反常目標實現方式、基礎設施過量，或者意識犯罪）。如果超級智能的類型是主權或者精靈，這時候我們最容易看到這種失敗模式的產生，因為主權或精靈會直接將它發現的解決方案付諸實踐。如果主權或精靈發現的第一個能夠符合標準的答案是，制造分子笑臉...