兩句獨白并不構成一段對話

兩千年前，蘇格拉底辯稱書籍會摧毀一個人思考的能力。他篤信對話、交談和辯論。但面對一本書，你不能同它辯論，書中的文字也不能回應你。如今，書是學問和知識的象征，難免使我們輕視這種說法。可是認真地想一想，盡管蘇格拉底如是說，書面文字確有教誨功能。我們無須與作者辯論文字內容，但我們可以彼此辯論和探討，或在課堂上，或參與討論小組。如果探討的話題很重要，我們還可以經由各種媒介工具來討論。除此以外，蘇格拉底的看法是對的：沒機會給人討論、解釋或辯論的科技不是好的科技。

以我曾任職商業界高級主管和大學系主任的經驗，我深知做決策的過程比決策本身更為重要。當一個人做決定時沒有好好解釋或多方征詢意見，別人既不會相信也不會喜歡這個決定。即使同樣的決定，如果是經過討論和辯論后而做出的，效果就會大不一樣。很多商界領導者會問：“既然最后的結果都是一樣的，何必浪費時間開會？”但最后的結果并不一樣，雖然最后的決定本身看起來是一樣的，這些決定出臺的過程、執行的方式卻不盡相同，尤其當事情未按照原來計劃發展的話，一個精誠合作、互相理解的團隊與一個只聽從指揮的團隊，對事情的處理會有很大的不同。

盡管湯姆認為導航系統有時候會很有幫助，但仍然不喜歡它，他沒有辦法與該系統協商來滿足自己的需要。即使他可以做些高層次的選擇——最快的路線、最短的路線、風景優美的路線或避開收費站的路線——但他不能與導航系統討論為什么選擇某條路線。他不知道為何路線A比路線B好，是由于導航系統考慮到此段路線包含時間較長的交通信號燈和很多的“停車”標志嗎？再說，假如兩條路線只有些細微差異，如一小時的路程，只差一分鐘？他也許偏愛某一路線，盡管會多花一點時間，可是系統沒有給他這些選項。導航系統做決定的方法非湯姆所知，即使他有意要信賴這系統，系統的神秘和靜默也增加了湯姆的不信任，就像商業中那些沒有員工參與討論的自上而下的決定，很難得到員工的信任。

假如導航系統能夠與駕駛員討論路線呢？假如它們可以將備選線路同時顯示在地圖上，還包括每一條路線的距離、預計行駛時間和費用，讓駕駛員可以自行選擇？有些導航系統已經這樣做了。例如從加州的那帕溪谷（Napa Valley）的圣赫勒納市（St.Helena）開車到帕洛阿托（Palo Alto）的路線可由下表顯示：

這明顯有改善，但仍然不是對話，導航系統說：“有三個方案，選擇一個！”我不能要求更多細節或做某些改變。我熟悉這三條路線，所以我知道最快速、最短距離和最便宜的路線同時也是最沒有景觀的，實際上，景色最宜人的路線并不包括在內。假如駕駛員不像我那么熟悉這些路線，那這有限的資料就無法滿足駕駛員的需要。事實上，以上的例子雖然還是很有限，比起同類卻已經算是不錯的導航系統了。這表示我們還有一條很長的改良之路要走。

如果我的車子判斷即將發生車禍，就自動豎直座椅或自行剎車，在這過程中，車子既沒向我詢問也沒同我商議，更不用說告訴我原因。畢竟，車子的判斷是根據機械、電子的科技，那么就一定比人更正確嗎？不，其實不然。計算或許沒有問題，可是在計算之前，它必須根據路況、其他交通狀況和駕駛者的能力做種種假設。專業駕駛員有時候會把自動系統關閉，因為自動系統不能讓他們施展身手。也就是說，他們會關閉所有可能關閉的自動系統，但許多新車甚至強制性地不給駕駛員這種選擇。

不要認為上述行為僅限于汽車，未來的用品會有類似且更廣泛的問題。智能銀行系統已被用來決定是否提供客戶貸款；智能醫療系統可以決定病人需要接受何種治療或服用什么藥物。未來的系統能夠監測你在飲食、閱讀、音樂和電視節目方面的偏好。有些系統會監控你在哪里開車，如果你違反相關規定，它們會自動通知保險公司、租車公司，甚至警察。其他一些系統可以用于監控盜版，確定什么是規定內允許的。所有這些例子里，智能系統根據有限的行為事例，然后大致推測你的意向，如此一來所采取的行動難免有些武斷。

所謂的智慧型系統也流于過度自滿，它們自認為清楚什么對人們最好。然而，它們的智慧極為有限。而這有限性就是最根本的問題：一部機器不可能充分掌握影響人做決定的所有因素。但這并不妨礙我們接受智能設備帶給我們的幫助。當機器逐漸能做更多的事，它們就需要與人有更多的社交；它們需要改善與人溝通和互動的方式，了解自身的限制。只有如此，它們才能真正有用。這就是本書的一個重要主題。

當我開始寫這本書時，我以為使機器能與人溝通的關鍵是發展更好的對話系統。但我這想法并不對。成功的對話需要共通的知識和經驗。它需要對四周環境、前后脈絡、導致目前情況的歷史背景以及當事人眾多不同的目標和動機等都要有所領悟。現在我認為這正是當今科技的根本局限，這種局限阻礙了機器全面、擬人化地與人互動。人與人之間要建立共通的了解本來就很難，那我們如何寄望與機器建立這種關系？

為了與機器進行有效的合作，我們需要把人與機器間的互動多少看成人與動物之間的互動。雖然人和動物都有智慧，但我們不是同類，有不同的認知和能力。同樣，即使最智能的機器也不是我們的同類，它們各有自己的長處和短處，有自己的一套認知系統和能力。有時我們需要追隨動物或機器，有時它們需要聽從我們。