通過社會融合和力量均衡來實現能力控制，需要依靠社會各種力量來對人工智能進行獎賞和懲罰。另一種激勵方法涉及設立一種機制：建造人工智能的項目能夠對人工智能進行獎賞和懲罰，這樣人工智能就會按照符合委托人利益的方式行為。為了實現這一點，人工智能將會受到監視，我們會以人工或者某種自動化的方式對人工智能的行為進行監控和評價。人工智能知道，積極的評價結果將有利于帶來它想要的結果，負面的評價就不會。理論上，獎勵可...