危險游戲

啟動普羅米修斯之后，除了在人工智能研究上取得突破之外，歐米茄團隊最近還熱衷于用它來賺錢：賺得越快越好。從本質上來說，整個數字經濟的紅利都是唾手可得的，但從哪里開始比較好呢？是開發計算機游戲，還是做音樂、電影或者軟件？是寫書、寫文章，還是炒股，或者搗鼓和販賣新發明？簡單來說，這個問題歸根結底是如何才能實現投資回報率的最大化，但一般的投資策略在歐米茄團隊面前實屬小巫見大巫：在通常情況下，如果年均回報率能達到9%，投資者就會很滿意了；然而，歐米茄團隊在MTurk上的投資達到了每小時9%的回報率，平均每天能賺到8倍多的錢。那么，他們的下一個目標是什么呢？

歐米茄團隊的第一個想法是去股票市場大撈一筆，畢竟，許多對沖基金都在這上面砸了重金，而歐米茄團隊中的幾乎每個人都曾在人生中的某一時刻，拒絕過為對沖基金開發人工智能系統的高薪工作。你可能還記得，這也正是電影《超驗駭客》（Transcendence）中的人工智能賺得第一桶金的方法。但是，前些年的一場股市崩盤促使政府對金融衍生品出臺了一些規范措施，限制了他們的選擇范圍。很快，歐米茄團隊就意識到，即便他們能夠獲得遠高于其他投資者的回報，但這點利潤比起銷售自家的產品來說還是相差甚遠。畢竟，當全世界第一個超級智能都在為你工作時，你顯然最好投資自家的產品，而不是寄希望于別人家的。當然，例外也是可能存在的，比如，你可以用普羅米修斯超人的黑客技能來獲取內幕消息，然后購買那些即將上漲的股票的看漲期權。但歐米茄團隊認為，這可能會引來不必要的注意，因此不值得這么做。

于是，歐米茄團隊將重點轉向了那些可以研發和銷售的產品，其中，電子游戲看起來是個很不錯的選擇。普羅米修斯很快就具備了極為高超的技能，能夠設計出引人入勝的游戲，還能輕易地應對程序、平面設計、光線追蹤等成品所必需的任務。此外，它還分析了網絡上關于人們偏好的所有數據，知曉了哪一類游戲是玩家的最愛，據此發展出了一種根據銷售收入來優化游戲的超能力。盡管不愿意承認，但歐米茄團隊的許多成員都曾夜以繼日地泡在游戲《上古卷軸5：天際》（The Elder Scrolls V: Skyrim）中。2011年，這款游戲在剛發布的第一星期，總銷售額就超過了4億美元。因此，歐米茄團隊相信，在100萬美元的云計算資源的支持下，普羅米修斯在24小時內一定能開發出一款像《上古卷軸》一樣令人上癮的游戲。他們可以在線銷售這款游戲，并讓普羅米修斯在博客圈里假扮玩家來大聊特聊，引爆熱度。如果能在第一個星期入賬2.5億美元，他們就能在8天內將投資翻8倍，每小時的回報率高達3%，雖然比他們在MTurk上的表現略顯遜色，但更具可持續性：假如普羅米修斯能每天開發出一款游戲，不久之后，他們就能賺到100億美元，而不用擔心游戲市場飽和。

但是，歐米茄團隊中的一位網絡安全專家坦率地表達了對這個游戲計劃的不安。她指出，這個計劃可能會帶來一個可怕的風險：普羅米修斯可能會“逃脫”，并“搶奪自己命運的控制權”。過去，由于不清楚普羅米修斯的目標在自我提升的過程中會如何變化，因此為了安全起見，歐米茄團隊決定不遺余力地將普羅米修斯“關起來”，囿于“盒”中，讓它無法“逃”到互聯網上。對運行在服務器機房中的普羅米修斯主機，他們采取了物理隔絕的手段：那里根本沒有網絡連接，普羅米修斯輸出的所有數據都以信息和文件的形式傳輸給一臺被歐米茄團隊嚴格控制的計算機。

將普羅米修斯開發的復雜程序放到聯網的計算機上運行，是一件風險很大的事情：歐米茄團隊根本不清楚它會做什么，也完全不知道它會不會做某些事情，比如在互聯網上像病毒一樣擴散自己。在測試普羅米修斯為MTurk上的任務寫的軟件時，為了謹慎地提防這種情況的發生，歐米茄團隊只在虛擬機中運行這些軟件。虛擬機是一個模擬計算機的程序，比如，蘋果電腦的許多用戶會購買虛擬機軟件，通過“欺騙”蘋果電腦這是一臺Windows電腦，來讓它們運行Windows程序。歐米茄團隊建造了自己的虛擬機，其昵稱叫“潘多拉魔盒”。它模擬的是一臺超級簡單的機器，去除了計算機通常擁有的所有附件，沒有鍵盤，沒有顯示器，沒有音箱，也沒有網絡連接，什么都沒有。舉個例子，對于MTurk上的音頻謄錄任務，歐米茄團隊對虛擬機進行了設置，只允許一個音頻文件輸入潘多拉魔盒，也只允許一個文本文件輸出，即謄錄好的文字。這些規則之于魔盒內部的軟件，就好像物理定律之于身處宇宙中的人類一樣：軟件無法沖出魔盒的藩籬，就好比人類再聰明，也無法實現超越光速的星際旅行。除了上面所說的輸入和輸出單個文件之外，潘多拉魔盒內部的軟件實際上就像被困在了一個擁有自己的計算規則的平行宇宙。歐米茄團隊患有嚴重的“逃脫”恐懼癥，因此，他們也在時間維度上加了枷鎖，限制了不受信任代碼的生存期限。比如，潘多拉魔盒中的謄錄軟件每完成一個音頻文件的謄錄，魔盒中的所有內存都會被自動抹去，程序會自動從零開始重新安裝。這樣，當它開始下一個謄錄任務時，就不知道過去發生了什么，也就不能從過去中學習。

當歐米茄團隊在MTurk項目中使用亞馬遜的云服務時，他們能將普羅米修斯編寫的所有任務模塊都裝進云端的潘多拉魔盒，因為在MTurk上輸入數據和輸出數據都非常簡單。但是，對嚴重依賴圖像的計算機游戲來說，這是行不通的。他們無法將游戲裝進潘多拉魔盒，因為它們需要徹底訪問玩家計算機上的所有硬件。此外，他們不想冒險，因為一些懂計算機的用戶可能會分析游戲代碼，從而發現潘多拉魔盒，并調查其中的秘密。“逃脫”風險不僅置游戲市場于危險當中，還可能會犧牲其他軟件市場，而后者是規模巨大并且有利可圖的，遍地都是千億美元的機會。