常言說，人算不如天算。

如果將來計算機的計算能力超過人的計算能力，那么人算不如天算，人被計算機所算計，這會成為一個關系人類命運的頭號問題。

尼克·波斯特洛姆的《超級智能》討論的就是怎么解決“人算不如天算”的問題。所以我稱之為天算論。

你為什么應該關注這本書呢？

如果說天演論告訴人們的是，物競天擇，適者生存，至少人還是贏家；那么天算論就沒那么簡單了，將來人與計算機競爭，人還會是贏家嗎？

《超級智能》討論的是我們這個時代的優先事項。

“智能爆發的威力會擊落整個蒼穹”，在計算機時代，悠悠萬事，唯此為大。

這個時代的優先事項

為什么要設置“超級智能”這個議題？有什么理由，值得讓你為了它而放下手邊雜事，屏息凝神？

讓我們先從本書的最后一句讀起。作者談到這本書的立意：“透過日常瑣事的迷霧，我們能夠（模糊地）看到這個時代的核心任務。在這本書中，我們嘗試著在相對模糊不清的視野中辨別更多的特征。我們看到，降低存在性風險，并且實現導向合理使用人類宇宙資源的文明進步，是我們道德上的主要優先事項。”

讓我解釋一下“這個時代的核心任務”，“道德上的主要優先事項”。

人生最大的喜樂，無非“久旱逢甘露，他鄉遇故知。洞房花燭夜，金榜題名時”。而人生最大的悲哀，恐怕不是被槍斃，而是于槍斃前被要求自己給自己挖坑。

但人類經常干這種事：

在農業社會，土地本來是人類發展的工具，但結果卻演變成，人為了土地，而失去了自我。托爾斯泰的《戰爭與和平》，講的就是人類為了土地而打殺，死了都不知道是為了什么。

在工業社會，資本本來是人類發展的工具，但最后演變成，人為了資本，而失去了自我。馬克思的《1844年經濟學哲學手稿》，講的就是人類為了資本而爭斗，為了手段而忘記目的。

在信息社會，智能本來是人類發展的工具，但最后演變成，人為了智能，而失去了自我。《超級智能》講的是，人把計算機造成了超級自我，但自我該如何做，才能保證人本身才是目的，而不被自己發明的手段所打敗呢？

這就是“這個時代的核心任務”，“道德上的主要優先事項”。

所以，農業社會的人，應該看看《戰爭與和平》中那些活得明白的人；工業社會的人，應該了解《1844年經濟學哲學手稿》中那些克服異化的思想。中國的工業化到2020年將基本完成，那時中國人將進入信息社會，但如果不關注《超級智能》講的“時代核心”與“道德優先”，活著也是渾渾噩噩，在火葬場里邊和外邊，雖說有一些區別，但區別也不像想象的那么大。

人類經歷了土地的挑戰、資本的挑戰，今天來到了信息時代，智能的挑戰是“我們將要面對的最后一個挑戰”。

正如波斯特洛姆點明的：

如果有一天我們發明了超越人類大腦一般智能的機器大腦，那么這種超級智能將會非常強大。并且，正如現在大猩猩的命運更多地取決于人類而不是它們自身一樣，人類的命運將取決于超級智能機器的行為。

在本書中，我將努力詮釋可能出現的超級智能帶來的挑戰，以及我們如何最好地應對。這很可能是人類面對的最重要和最可怕的挑戰。而且，不管我們成功還是失敗，這大概都是我們將要面對的最后一個挑戰。

與許多相信機器最后將戰勝人類的業界專家相比，波斯特洛姆的心態總的來說是積極的，他的樂觀來自一個判斷：“我們擁有一項優勢，即我們清楚地知道如何制造超級智能機器。”

波斯特洛姆認為，原則上，我們能夠制造一種保護人類價值的超級智能，當然，我們也有足夠的理由這么做。實際上，控制問題—也就是如何控制超級智能，似乎非常困難，而且我們似乎也只有一次機會。一旦不友好的超級智能出現，它就會阻止我們將其替換或者更改其偏好設置，那時我們的命運就被鎖定了。

智能大爆發的動力學

一、什么是智能爆發？

簡單地說，智能爆發就是電腦超過人腦。可以從技術和社會兩個方面理解其含義：技術性的理解是超級智能，即電腦比人腦更聰明；社會性的理解是智能異化，即作為手段的智能不再順從作為目的的人類。

1.超級智能

超級智能是指“在許多普遍的認知領域中，表現遠遠超越目前最聰明的人類頭腦的智能”。

作者將超級智能分為三種形式：高速超級智能、集體超級智能和素質超級智能。

—高速超級智能是指和人腦相似，但速度快于人腦的智能。

—集體超級智能是指一種通過將總數龐大的小型智能集中起來，從而達到卓越性能的系統智能。

—素質超級智能是指一個至少和人類大腦一樣快，并且從素質上來說更加聰明的智能。

作者說的這三種能力，令人想到大數據的“3V”（不算“數據大”的Volume）。高速超級智能對應Velocity，集體超級智能對應Variety，素質超級智能對應Value。一言以蔽之，“3V”講的都是復雜性，分別是量的復雜性（Velocity是時間量，Variety是空間量）和質的復雜性（素質）。

作者的意思是，電腦超過人腦，一定是表現在處理復雜性的量的能力與質的能力上。換句話說，當復雜性達到一定量和質的程度時，人算算不清，而天算算得清，人算可能不如天算。

2.智能異化

人算一旦不如天算，會出現什么情況呢？

作者有一個形象生動的比喻：人好比孩子，超級智能好比孩子玩的炸彈。一旦人算不如天算，智能就會像炸彈那樣爆炸。

讓我們來看作者生動的描述：

在智能爆發的前景之下，我們人類就像拿著炸彈玩的孩子。玩具的威力和我們行為的成熟度是如此的不匹配。超級智能是一個我們現在還沒有準備好應對的挑戰，而且很長時間之內都不會準備好。盡管我們把炸彈放到耳邊能夠聽到微弱的滴答聲，但是我們也完全不知道爆炸會在何時發生。

對于一個手拿著尚未引爆的炸彈的孩子來說，明智的做法是輕輕地將炸彈放下，快速跑出屋子，并告訴距離最近的大人。然而，我們現在面對的不是一個孩子，而是很多孩子，而且每個人都帶著獨立的引爆裝置。我們所有人都意識到放下這個危險玩意兒的可能性幾乎為零。總會有某個蠢孩子因為想要知道會發生什么，而按下引爆按鈕。

我們也不可能通過逃離的方法獲得安全，因為智能爆發的威力會擊落整個蒼穹。而且，我們也看不到任何成年人。

在這種情況下，任何“哎呀，太棒了！”的高興情緒都是不合適的。驚愕和恐懼會稍微合適一些，但是最適當的態度是：下定決心，發揮我們最好的實力，就像準備一場很難的考試一樣，考試通過了夢想就會實現，考試失敗了夢想就會破滅。

映射到社會，人類曾至少在兩類情況下引爆過這種超級“炸彈”。一類是“土地炸彈”。據說成吉思汗把四川人從2000萬殺到只剩下80萬，主要是因為他們影響了馬吃草。人類開發出土地，本來是為了滿足衣食之需；而在成吉思汗看來，人（至少是四川人）不重要，重要的是馬。所以用土地種農作物有“罪”，必須從生存角度加以徹底否定。另一類是“資本炸彈”。兩次世界大戰本質上都是因為資本而引發的殺人游戲，納粹對猶太人的迫害是人類的一種道德破產。

人類玩過“土地炸彈”、“資本炸彈”，下一步必然會玩“智能炸彈”。“智能爆發的威力會擊落整個蒼穹”，那時人會怎么樣呢？記得18年前“網絡文化叢書”組織者在小湯山開過一個未來討論會，一位今天已變得家喻戶曉的專家當時曾說（大意）：“如果不考慮道德因素，計算機一旦統治人，從機器角度講，人體除了腦袋，別的器官都沒什么用，還浪費資源（按：成吉思汗如果管理互聯網，肯定也會這么想）。所以最好的辦法是把人的腦袋擰下來，像電燈泡一樣安在工作臺上，接好營養液，然后工作到死。為了減少人的痛苦，可以利用虛擬現實技術（按：現在已經快實現了），按照大腦的偏好，分別配一輩子的三級片或戰爭片，讓他以為是真的，從而快快樂樂地度過一生。”

這就是我們和作者都要面對的問題。

如果你覺得這些都無所謂—什么電腦超過人腦，什么電腦統治人腦，包括你或你的后代哪天下午被莫名其妙地捉去當成燈泡，那你不需要讀這本書，你趕緊忙你那更重要的事情去吧。

二、天算的動力學公式

本書在前幾章討論超級智能出現的可能性以及之后會發生什么后，接下來開始討論智能爆發的原理，即“智能大爆發的動力學”。

這里補充一下，人生最大的悲哀，除了自己挖坑埋了自己（比喻為了手段而忘記目的），還在于死了都不知為什么而死，就像托爾斯泰筆下那些搞不懂決定戰爭與和平的原因的人們。不管將來出現什么情況，至少我們應該搞清人算不如天算的原因。

作者構建了一個公式，將超級智能的發展作為最優化力和系統反抗度的函數，來分析天算超過人算這個過程的動力學。

先假設一個系統的智能增長率為兩個變量—最優化力（主要用于提高系統智能水平）和系統智能對這種最優化力的反應度的單調遞增函數。用反抗度表示反應度的倒數，公式如下：

智能變化率=最優化力/反抗度

作者在這里用了兩個新造的概念—最優化力和反抗度。最優化力指提高系統智能水平的能力，可以理解為計算效率，相當于聰明程度。反抗度則相當于阻力，作者曾說“邊際效益開始遞減（即反抗度遞增）”，由此可以推論出，反抗度相當于智能提高的邊際成本。

作者指出，提高系統效率過程中的反抗度很高，需要人類花費大量精力來應對。不過，即便這樣，人類的綜合能力每年也僅能提高幾個百分點。此外，由于內外部環境不斷變化，即便系統某一刻實現了效率最優，它也將無法很快適應新的環境。