決策論

另一個重要的設計選擇是，應該使用哪種決策論來建造人工智能。這個選擇可以影響人工智能在某些具有戰略性影響的情景中如何行動。例如，它能夠決定人工智能是否有可能與它假定存在的其他超級智能文明進行交易（或被其勒索）。決策論的細節也可能會在下列困境或情景中發揮影響：無限支付的有限概率（“帕斯卡的賭注”），或者極大的有限支付的極小概率（“帕斯卡的搶劫”），或者人工智能面臨根本性的規范不確定性...