為富足而爭辯

有時候，這種擔憂會突破意識的表面，讓我們一瞥其中奧義。例如，比爾·蓋茨曾寫道：

隨著人工智能變得越來越強大，我們需要確保它是為人類服務的，而不是反過來。但這只是一個工程方面的問題，我更感興趣的是所謂的目的問題，即如果我們解決了諸如饑餓和疾病等當下的重大問題，世界也變得越來越和平，那么到那時，人類的生存目的是什么？我們會被激發去應對什么樣的挑戰？[1]

在CNBC（美國全國廣播公司財經頻道）的一次采訪中，埃隆·馬斯克說：

如果AI能比你更好地完成你的工作，我們如何在生活中找到意義？坦率地說，如果思考這個問題太多，人們可能會感到沮喪，失去動力。比如，我投入了如此大量的心血和汗水來建立公司，然后我反問自己：“我應該這樣做嗎？”如果我犧牲了我更喜歡的與朋友和家人在一起的時間去努力工作，而AI可以取代我做所有事情，那么我現在的努力和工作還有意義嗎？我不知道。在某種程度上，我不得不刻意地暫停懷疑，以保持動力。[2]

或許，在某種意義上，擔憂人生目的是一個奢侈的問題？如果是這樣，我們可以預料到：烏托邦式的繁榮將會增加這種問題的普遍性。但無論如何，正如我們將看到的，追問目的和意義的問題，比僅僅探討與金錢和物質財富的過剩有關的問題深刻得多。

* * *

我的一些朋友喜歡用影響力模型去解釋為什么在所有可以做的事情中，所提議的事情將會是最具影響力和最有益的，他們追求的是最高的預期效用。

如果我們也套用影響力模型，嘗試為目前的討論去編寫一個這樣的故事，它可能會是這樣的：鑒于超級智能的發展迫在眉睫，人類的文明似乎正在接近一個關鍵的臨界點（奇點）。這意味著在某個時候，有人或我們所有人可能會面臨“我們想要什么樣的未來”的選擇，這些選擇包括非同尋常的路徑和軌跡，其中一些把我們帶到極為陌生的地方。這些選擇將會產生重大影響，然而，也許其中的一些選擇必須在時間壓力下做出，因為世界的運轉不會暫停，或者因為我們自己每周都在變得越來越瘋狂，或者因為拖延會讓更果斷的行為者搶占先機，又或者因為擔心一旦停下就再也不會行動了。[3]從另一個角度講，也許沒有一個明確的能讓我們做出這些選擇的時間，它們會隨著時間的推移而逐步出現，但早期的選擇限制了后期可行結果的范圍。無論以哪種方式，盡早向著積極的方向前進可能都會有價值。如果確實存在一個關鍵決策期，那么擁有一些適當的準備會很有用，比如，為決策者提供一些相關的概念和想法，并幫助他們擁有良好的心態和思維狀態。

對于此類“影響力故事”，你想怎么解讀都行。另一種可能的解釋是，很久以前，我在一時軟弱的情況下同意開展這一系列講座。

* * *

讓我來說說我的講座系列不是什么。它不是試圖為某件事或某個觀點“辯護”。相反，它是一種探索。在探索像我們面前這樣深刻而困難的話題時，我們希望考慮多種因素，追尋各種思路，接觸互為競爭的不同評估概念，以期帶著盡可能多的敏銳和共情，去體驗每一種思想觀念和每一個選擇傾向。不要過早地否定一種自然的（或原發的）觀點，即使最終我們會摒棄這種觀點。因為在面對這樣的話題時，一個人能夠以多大的慷慨和包容去接納和理解不同的觀點和選擇，直接決定了他的觀點的價值。