第一章
小心翼翼的汽車和難以駕馭的廚房：機(jī)器如何主控

我正驅(qū)車穿行在家與太平洋之間的崎嶇山路上，一邊是舊金山灣區(qū)的美景，另一邊是太平洋瑰麗的海岸，一路上急彎陡坡掠過高聳入云的紅杉樹林，多么愜意的旅程。面對(duì)挑戰(zhàn)，汽車可以應(yīng)付自如，連急轉(zhuǎn)彎都從容不迫。至少，這是我個(gè)人的看法。可是，我注意到妻子卻很緊張，有些恐懼。她的腳緊緊地蹬著車底板，雙肩聳起，雙臂抵住儀表盤。“怎么回事？”我說：“不要擔(dān)心，我沒問題的。”

現(xiàn)在來想象另外一種狀況。還是在同一條彎曲的山路上行駛，我發(fā)覺車子有些緊張、有些驚恐。座椅直立起來，安全帶收緊，儀表盤開始對(duì)我發(fā)出訊號(hào)。我注意到剎車已經(jīng)自動(dòng)開啟。“噢，”我心里想：“我最好慢下來。”

汽車會(huì)受到驚嚇，你認(rèn)為這是幻想嗎？我向你保證：絕對(duì)不是。一些豪華轎車已經(jīng)具備這種能力，而且會(huì)越來越普遍。當(dāng)汽車偏離車道時(shí)，有些車會(huì)猶豫不決；鳴笛，振動(dòng)方向盤或座椅，或在側(cè)邊后視鏡有燈光閃爍。汽車廠商正在進(jìn)行試驗(yàn)，使用逐步矯正的辦法讓駕駛員重新回到自己的車道。在過去，通過轉(zhuǎn)向燈來告訴其他駕駛員你想轉(zhuǎn)彎或變換車道，在新設(shè)計(jì)中，轉(zhuǎn)向信號(hào)就是你與自己的車的溝通方式，即告訴你的車子你確實(shí)想轉(zhuǎn)彎或變換車道。“嗨，不要阻止我，”轉(zhuǎn)向信號(hào)會(huì)告訴你的車子，“這就是我要做的。”

我曾經(jīng)是專家顧問團(tuán)的成員，給一家大型汽車公司提供咨詢。當(dāng)我講述自己對(duì)妻子的反應(yīng)與對(duì)車子的反應(yīng)不同時(shí)。“怎么會(huì)呢？”莎瑞·特克（Sherry Turkle）問，她是專家團(tuán)的同事，麻省理工學(xué)院教授，而且是研究人與科技關(guān)系的專家。“為什么你想傾聽車子的反應(yīng)，而不是你妻子的感受？”

為什么？確實(shí)是個(gè)問題。當(dāng)然，我可以做出理性的解釋，但有人會(huì)漏掉重點(diǎn)。當(dāng)我們賦予自己周圍的物體更多的主動(dòng)權(quán)，更多的智能、情感和個(gè)性，那么我們就不得不考慮如何與它們互動(dòng)。

為何看起來我對(duì)車子的反應(yīng)比對(duì)我的妻子更加在意？答案并不簡單，但簡要地說，就是溝通的問題。當(dāng)妻子埋怨時(shí)，我可以問她抱怨的原因，然后同意她的看法或試著讓她放心。我也可以改變自己的開車方式，以減輕她的憂慮。然而，我不能與自己的汽車對(duì)話，所有的溝通是單向的。

人比機(jī)器有更強(qiáng)的能力，所以機(jī)器比人有更大的權(quán)力。聽起來似乎有些矛盾？是，但確實(shí)如此。想想在商務(wù)談判場合，誰擁有更強(qiáng)大的能力。如果你想從談判中得到最大的好處，你認(rèn)為應(yīng)該派誰去，董事長還是職位低一點(diǎn)的人？答案與直覺相反：通常，職位低一點(diǎn)的職員能達(dá)成較有利的談判。為什么？因?yàn)椴还軐?duì)方的談判能力是多么的強(qiáng)勢(shì)，弱勢(shì)的這方代表沒有權(quán)力做最后決定。即使面對(duì)很有說服力的建議，他們可以簡單地說：“對(duì)不起，在未與我的上司溝通之前，我無法給你一個(gè)答復(fù)。”然后，第二天回到談判桌時(shí)說“對(duì)不起，我無法說服我的上司。”一方非常強(qiáng)勢(shì)的談判代表，反而可能被說服，接受弱勢(shì)者提出的條件，即便過些時(shí)日后他們又有些后悔。

成功的談判者大都了解這種談判伎倆而不讓對(duì)方得逞。當(dāng)我與一位成功的律師朋友談這件事時(shí)，她沖我直樂。“嘿，”她說，“如果另外一方對(duì)我玩這個(gè)伎倆，我會(huì)打電話給他們的上司。我才不會(huì)讓對(duì)方這一招給耍了。”然而，機(jī)器卻會(huì)這一招，而且令我們無法拒絕。當(dāng)機(jī)器介入時(shí)，我們沒有別的選擇，只好讓其主導(dǎo)。“要么這樣，否則免談。”它們說，而這“免談”并不是一個(gè)選項(xiàng)。

看看湯姆的困境。他希望自己汽車的導(dǎo)航系統(tǒng)提供路線，系統(tǒng)就提供路線給他參考。聽起來挺簡單，就是人機(jī)交互，非常好的一段對(duì)話。可是，聽聽湯姆的苦衷：“它不讓我做主。”高科技的設(shè)計(jì)者常以自己設(shè)計(jì)的系統(tǒng)具有“溝通能力”為榮。可是，進(jìn)一步分析發(fā)現(xiàn)，這是“用詞不當(dāng)”：那并不是真正的溝通，即沒有雙向的一問一答的真正對(duì)話。充其量只不過是兩句單向的自言自語。我們對(duì)機(jī)器發(fā)出指令，然后，機(jī)器對(duì)我們回以指令。兩句獨(dú)白并不能構(gòu)成對(duì)話。

在這個(gè)特殊的例子里，湯姆還是有選擇的。如果他把導(dǎo)航系統(tǒng)關(guān)掉，車子照常可以行駛。所以即使導(dǎo)航系統(tǒng)不讓他對(duì)推薦的路線橫加干涉，簡單地不用它就好。可是別的系統(tǒng)并不一定會(huì)有這種選擇：避免使用這類系統(tǒng)的唯一辦法就是不開車。問題是，這些系統(tǒng)價(jià)值巨大，它們或許還不完善，但能減少傷亡。所以，我們要思考：如何改善人與機(jī)器的溝通以便善用機(jī)器的優(yōu)勢(shì)和長處，同時(shí)減少它們令人討厭、甚至危險(xiǎn)的動(dòng)作。

當(dāng)科技越進(jìn)步越強(qiáng)勢(shì)時(shí)，科技與人進(jìn)行良好的合作與溝通也越來越重要。合作意指協(xié)調(diào)一致的行動(dòng)以及提供說明和理由。合作意味著互信，一種只能經(jīng)由經(jīng)驗(yàn)和了解才能建立起來的信賴。使用自動(dòng)化系統(tǒng)，即所謂人工智能設(shè)備，有時(shí)會(huì)發(fā)生過度信賴，或是不夠信任的情況。湯姆決定不依賴車子導(dǎo)航系統(tǒng)的指令，可是有時(shí)候拒絕使用科技可能會(huì)造成傷害。例如，假如湯姆關(guān)掉車子的防抱死剎車系統(tǒng)，或是穩(wěn)定控制系統(tǒng)，會(huì)有什么樣的后果？很多駕駛員認(rèn)為自己比這些自動(dòng)化系統(tǒng)做得更好。事實(shí)上，除了專業(yè)資深駕駛員外，防抱死剎車系統(tǒng)和穩(wěn)定控制系統(tǒng)在控制車輛時(shí)比一般駕駛員表現(xiàn)得更好，它們挽救了很多生命。可是駕駛員怎么知道哪些系統(tǒng)值得信賴？

為了安全和便捷方面的考慮，設(shè)計(jì)師傾向于盡可能地應(yīng)用自動(dòng)化技術(shù)。除非仍有技術(shù)上的限制，或是成本太高，他們的目標(biāo)是全面自動(dòng)化。然而，這些限制意味著有些工作只能部分自動(dòng)化，所以操作者必須經(jīng)常注意機(jī)器的操作，當(dāng)機(jī)器不能正常操作時(shí)，必須由人來接手。當(dāng)一件工作只有部分自動(dòng)化時(shí)，最重要的是人和機(jī)器任何一方都必須知道彼此在做什么和其用意。