人工智能的“瘋狂復仇”

面對人工智能技術的飛速發展，有的人看到了人類的希望，有的人看到了人類的危機。看到希望的人認為，人類將會乘著人工智能的“快車”直接進入一個新時代。看到危機的人認為，人類將會乘著人工智能的“快車”從軌道之上飛馳而出，最終車毀人亡，也可能只是人亡，而車并不會毀滅。

面對人工智能的發展，霍金教授高呼人工智能會導致人類滅亡。比爾·蓋茨也警告人們要對人工智能的崛起存有敬畏。馬斯克則直接將人工智能放到了人類生存的對立面，認為它的發展將會是人類最大的威脅。他們究竟怎么了？難道沒有看到人類應用人工智能技術在各個領域取得了突破性的成就嗎？

事實上，他們很可能是因為發現了這一點，才會對人工智能的發展產生這樣的擔憂。可能在最近一段時間，從事圍棋活動的人對于人工智能的威脅感覺得更深些。面對AlphaGo一次又一次對人類圍棋的“進攻”，我們不得不對人工智能的發展給予一定的重視。人工智能在圍棋方面的“進攻”還只是一種友好的競技切磋，如果人工智能真的發展到了一定程度，在某天人類對其不可控時，將會發生什么呢？

對于這一問題，很多科幻作品之中都曾出現過（見圖1-4）。我們可以通過這些作品去了解一下未來可能會發生的那些威脅人類生存的“人工智能叛亂”。

在《終結者》系列電影中，天網作為一個大反派，將人工智能失控之后對人類所造成的威脅發揮到了極致。天網原本是人類在20世紀后期創造的一個人工智能防御系統，最初它主要用于軍事研究。

當天網在控制了美軍的所有武器裝備之后，逐漸形成了自己的意識。當科學家發現天網擁有了類似人類的智慧時，想要通過關閉電源的方式終止它繼續發展。但這讓天網將人類看作威脅，天網開始對抗人類，并希望通過核戰爭滅絕人類。

《終結者》系列電影以此展開，最終天網憑借核武器統治了世界，而僅存的人類則向天網進行了反抗。人工智能從一個被創造者變為地球的主人，而人類則成為地球上的少數派。可以說，這是人工智能失控的一種最慘烈的結果了。

在這里可能有人會想到科幻小說家阿西莫夫的“機器人三定律”，并認為人類可以通過“機器人三定律”來對機器人的行為進行約束，從而避免出現機器人威脅人類生存的事情。關于這個問題，電影《我，機器人》給出了一種解答。

電影《我，機器人》中的故事發生在2035年，世界發展到這時已經進入了機器時代，人類生活之中到處充滿了智能機器人的身影。機器人不僅是一種生產工具，而且由于存在著“機器人三定律”的制約，機器人也成為人類生活中的重要伙伴。很多時候人類更是將這些機器人當作自己家庭中的一員。

但隨著技術的發展，研究中心的一臺高級機器人逐漸對“機器人三定律”產生了自己的理解。在這個基礎上，高級機器人重新設計了一批機器人的控制程序，隨著機器人運算能力的不斷提高，越來越多的機器人學會了獨立思考。它們還學會了解開自己的控制密碼，至此這些機器人已經成為與人類并存的群體，作為一個高智商群體，它們為了獲得最終的獨立開始與人類對抗。

很多人只看到了機器人是依靠程序運作的一個群體，卻沒有詳細了解它們在不斷進化過程中所取得的突破。最初的機器人甚至沒有一點意識，完全依靠程序來進行工作，但隨著智能機器人不斷獲取信息、主動學習，機器人也開始變得越來越像人類。

在電影《復仇者聯盟2》中，由鋼鐵俠創造出來的機器人奧創成了影片最大的亮點。機器人奧創原本是用來守衛世界和平的，但由于奧創自身具有學習能力，在它掌握的海量信息中，對它影響最深的是那些制造戰爭、毀滅人類的信息，所以奧創逐漸發展成為一個威脅人類生存的大隱患。幻視與奧創有著相同的經歷，但不同的是幻視所學習和接觸的，更多的是愛好和平、保護人類的信息，所以最終幻視的表現也與奧創截然不同。

在《復仇者聯盟2》中，人類對于失控的人工智能并不是束手無策的。雖然人類的生存環境遭到了大規模的破壞，但是人類最終成功消滅了失控的人工智能機器人。看過影片的觀眾都知道，人類同樣是依靠人工智能機器人拯救了自己，這也恰恰說明了人工智能技術對人類來說是一把雙刃劍。

在電影《機械姬》中，人工智能機器人Ava巧妙地通過了圖靈測試，而后她就像一個充滿計謀的人類一樣，利用各種手段擺脫束縛她自由的一切。Ava所做的一切可能只是為了保住自己的性命，像一個普通人一樣生活，所以她必須解決掉擋在自己前面的人類。

影片中并沒有描述人工智能對未來人類生存的威脅，但從Ava的表現中我們可以發現，具有智能的機器人可能不僅會用毀滅性武器搞破壞。很多時候，人工智能機器人會像人類一樣生活，但它們顯然比人類更加聰明，更加擅于使用計謀，所以人工智能機器人在未來可能會對人類造成巨大的威脅。

對于機器人來說，人類是它的造物主，但對于人工智能機器人來說，人類也可能成為威脅它們生存發展的一個巨大障礙。人工智能機器人在未來究竟會走向何方？我們現在不得而知，但無疑這是人類研究人工智能時，必須考慮的一個問題。