控制意味著將人的大腦撕裂，并以你選定的新樣式將其縫合。

——喬治·奧威爾 （George Orwell)

第二章
在數字世界里了解一個人

如今，有些技術能以無法想象的規模對來自各種數字資源的信息進行整合，它們可以通過追蹤用戶留下的數字“足跡”來建立個人資料，然而這個過程往往在用戶不知情，且未被告知或未征得許可的情況下完成。

我將在第十章中詳細介紹“數字足跡”（digital footprint），它指的是在數字空間中可被追蹤的所有活動。數字足跡分布在網絡上，它能訴說每個網絡用戶的私人故事——一天登錄多少次臉書、點贊多少次、登錄多少次新聞網站以及在谷歌上搜索什么等。手機能在用戶不知不覺中泄露大量個人信息，例如在哪里生活、工作，喜歡去哪里玩以及習慣做什么等。人們在數字空間中的每一個動作都會留下數字足跡。當把這些“足跡”集中分析時，就能揭示有關用戶的個人偏好、習慣和特征信息，還包括是否有相信某些陰謀論的傾向，以及是否是娛樂八卦的粉絲等。這些分析的用途非常廣泛，適用范圍從營銷和銷售、審核貸款，到產生政治影響，甚至還可以儲存在提供求職者信息的人力資源公司的數據庫中，從而可以讓招聘者不依賴候選人來獲得信息。用戶在網絡上的每一個動作，無論多細微都會被監測，比如按鍵、打字、猶豫、深思以及參與互動的程度。

我會在第十章詳細介紹劍橋分析公司，它是最早實施上述想法的公司之一，它們通過收集用戶數字足跡，以及為每個用戶定制私人消息，從而讓用戶在無意識間改變了行為。該公司前雇員克里斯托弗·懷利（Christopher Wylie）透露，劍橋分析公司先后為美國聯邦參議員特德·克魯茲（Ted Cruz）和唐納德·特朗普（Donald Trump）提供服務，涉及約5000萬名臉書用戶的個人資料。他們的目標是“利用對用戶的了解來建立模型，并瞄準用戶內心的惡魔。這是整個公司工作的基礎 ”。（Wylie，2018）

這件事引起了軒然大波，但它并沒有阻止其他公司以類似的方式在數字世界中干預并控制每個用戶收到的消息——行業已經知曉那些無意中收到的消息對用戶意識存在何種潛在的巨大影響力。應用程序Spinner的開發者意識到，在政治以外的其他許多領域同樣可以影響用戶行為。Spinner提供了這樣一類服務：它允許用戶按照自己的想法，通過控制特定對象所訪問網站上的內容，在對方不知情的情況下影響他。簡單來說，只需支付29美元(1)的費用，就可以在某些人腦海中“植入”一些想法。該網站提供了許多專用內容套餐，每個套餐包含十篇指定主題的文章。當特定對象（目標(2)瀏覽者）瀏覽某個網站時，他在三個月的套餐有效期內將被推送事先選定的內容，例如被勸說買狗，或者被勸說戒煙等。

Spinner能提供一些能對個人生活發揮作用的服務，例如推送諸如“在法庭外解決離婚訴訟的四個技巧”之類的文章，期望配偶重新考慮是否在法庭上提交離婚訴訟。有一個專為男性提供的流行套餐叫作“開啟浪漫關系”，該套餐在銷售時承諾能讓女性在瀏覽內容后產生情欲。另一個流行套餐則有助于擺脫不喜歡的同事，其重點是試圖通過諸如“現在是退休的好時機”或“如何寫簡歷”等內容來刺激同事去找新工作。

Spinner還能提供定制服務。例如，當子女兩人因出售父母留給他們的房子而發生爭執時，其中一方就可以通過購買服務，讓另一方收到強調出售收益的內容，從而達成說服出售的目的。Spinner模型允許每個用戶針對一個目標對象，通過讓對方瀏覽關于戒煙、求婚、復合或發生親密行為等的信息來改變他們的想法。推特上有一段有趣的視頻，一位非洲裔美國女性解釋了她是如何讓她的男朋友看到諸如“求婚前的七種跡象”“如何選擇訂婚戒指”（Mrs. Joseph，2019）等文章來促使他向她求婚的。截至寫稿時，該視頻獲得了50萬次觀看量。不難發現，這項服務最能證明在數字世界里沒有明確的規則，任何人都可以在灰色地帶進行一番操作。

另一個有趣的例子是填寫在線問卷。人們可能從未想到或是不曾知道，在網站和應用程序上填寫的在線問卷是豐富而廣泛的個人信息來源。典型的評價系統會根據你提供的詳細信息來打分，還會設置收入水平、教育或健康狀況等變量。例如，汽車保險會考慮參保人先前的事故數量，健康保險會考慮過往病史并有針對性地進行評估。請想象一個申請創業貸款的情景：申請人穿著量身定制的襯衫，確保刮好胡子后，在銀行工作人員面前坐下，對方試圖根據所有可能的線索，考察他是否可以被信任，是否有償還全額貸款的能力。除了參考過往財務史，銀行工作人員還會盡量從會面時的行為舉止中找出盡可能多的細節，比如看起來是緊張還是放松。這些信號也是信用記錄的重要組成部分。或者，請試著想象自己點開一個在線問卷并開始填寫。假設你在填寫特定內容時有些猶豫；或者在填寫某個答案時，輸入速度與其他字段相比特別慢；或者一開始跳過某個問題直到最后才回答——這一切操作行為都會被監測并記錄，然后用于進行整體評估。

因此，僅是在填寫問卷時猶豫不決，也可能會影響對問卷填寫人的評估。我曾負責一個美國某主流保險公司的項目，就健康保險申請表填寫過程中的用戶體驗，向他們提供建議。我做的第一步，是觀察用戶填寫詳細信息時的行為。其中有一位用戶做出了一個奇怪的行為。當被問及是否吸煙時，他的回答是肯定的，隨后他需要回答自己一天抽多少支煙。他沒有立馬回答，似乎顯得有些猶豫。停留許久后，他最后填寫了一個確切的數字，繼續往下答題。當他填寫完問卷時，被要求保證自己提供的詳細信息是正確的，并簽字確認。此聲明還附有一條細則：若所填信息不正確，公司將保留采取法律行動的權利。這份聲明連同簽字被認為具有有效的威懾力。這位用戶閱讀完聲明后，立刻點擊返回，將此前給出的關于每天吸煙的數量改成一個更高的數字。分析完這位用戶在同一頁面的行為后，我發現他不僅在回答這個問題時花了很長時間，而且之后填寫其他答案的速度也變慢了。這說明說謊會提高人的喚醒（arousal)水平，大腦系統處理喚醒的一種機制是普遍減緩行動，在這里就表現為用戶撒謊后答題速度變慢。

除此以外，人們還可以根據易于檢索的數據（例如每月支出）來判定一個人生活的穩定程度，比如一個人近幾個月的支出情況。假設一個人當月的總花銷為八千新謝克爾（以色列通用貨幣），次月為兩萬新謝克爾，第三個月為三千新謝克爾，那么此人將立即被評為生活不穩定。測試穩定性還有一種富有創造性的方法，就是分析Whats App的對話。研究發現，經常與家人朋友交談的人一般比缺乏支持基礎的人更穩定。

不論人們提供的個人信息如何，通過上述方式就可以開發一個只依靠用戶留下的數字足跡來標記可信賴度或穩定度的模型。一個有趣的例子是新建聯系人。研究發現，有些用戶會在系統專設的空格中填寫好相應的細節，一般會包含姓氏、名字、公司等信息，例如“張三 辦公室”或“李四 快遞員”等，與那些隨意填寫聯系人信息的人相比，他們被認為更具條理性、更有強迫傾向且人際交往能力較低。在不久的將來，或許每個人都將擁有一個基于網站、社交媒體或應用程序上留下的足跡的數字狀態，它將被傳遞給任何想要測試用戶的人。因此，當你下次遇到填寫數字問卷時，請留心填寫速度以及任何相關操作，以及自己添加新聯系人的方式。

用戶信息被收集起來后，將被用于廣泛的領域，其使用目的可謂無窮無盡——從以商業營銷和銷售為目的，到以施加政治影響力為目的，再到公司以配備職員和篩選工作候選人為目的。因此，公司最感興趣的是建立關于每個人的數據庫并以此進行信息交易——這就是商業模式。以導航應用程序為例，此類應用程序將用戶當前位置信息發送到服務器，從而能計算用戶到達目的地所需花費的時間。但它同樣可以把這些信息發送到第三方數據庫，通過安裝在設備上的附加應用程序獲取對聯系人的訪問權限。雖然兩個應用程序擁有的權限是獨立的，但如果兩者都使用了相同的第三方數據庫，那么該數據庫就可以獲取不同信息。

一個影響用戶的普遍方式，是逐漸向他們增加所見內容的激進程度。在紀錄片《監視資本主義：智能陷阱》（The Social Dilemma）中，視頻分享平臺優兔網（YouTube）的一位負責開發推薦引擎的前工程師說：數字化陷阱是算法傾向于使內容激進化。例如，如果一個女孩正在尋找關于節食的視頻，那么她很可能會被推薦看一個關于厭食癥的視頻。算法知道如何將用戶引導到最令人興奮、最激進和最聳人聽聞的內容上，但這不是因為優兔網想蓄意傷害用戶或將想法植入用戶的腦海中，而是因為這種方法被發現能有效保持用戶注意力。當然，這些算法都是在沒有惡意的情況下運行的，實際上沒有特定的意圖，它們只是從程序員那里得到了一個關于積極性強化的定義，在優兔網的這個例子中指的就是盡可能延長用戶使用該軟件的時間。經過反復試驗，模型了解了什么會讓用戶在網站上花費更多時間——內容越吸引人、越激進、越具陰謀性，用戶就越有可能長時間停留。

目前，數字世界還沒有規范使用時間或防止上癮的法規，也沒有用于定義用戶是否上癮的手冊。每個用戶都需要對自己負責，而個人承擔責任的前提是自由選擇。但這里的問題是，不論是數字世界、網絡、購物網站還是游戲中的交互，都沒有為用戶帶來真正的自由選擇，因此希望用戶負責任地行事是一種錯誤的期望。為此，用戶參與了無休止的“實驗”，其中許多是在不知情的情況下進行的，用以測試促使用戶采取行動的積極性強化物是什么：文章標題中出現的“性”一詞是否會引來更多的點擊？標明“僅限今日”更好，還是“24小時內”更好？把哪個產品放在熱門產品旁邊，能激發更多人去購買？什么是“蒙蔽”用戶最有效的方法，讓他們在進入網站時難以覺察網站在收集有關他們的信息？可以說，人們在數字世界中做出的“決定”，幾乎都不是自由選擇的結果，因而能夠控制菜單選項也就能控制人們的行為。

以前文提到的應用軟件Yelp為例，這是一款用于分享評價和推薦的應用程序，其業務范圍涉及美國各地的餐館和酒店，以及車庫、診所和健身房。該平臺聲稱，他們使用的算法會根據用戶的相關性過濾用戶推薦，具有可靠使用史的用戶的評論將會獲得權重加成，以幫助其他用戶選出最合適的商家。盡管該平臺試圖為用戶營造一種他們的算法是客觀的且基于評價的感覺，但其收入的主要來源是廣告。為了獲取經濟利益，網站排名靠前的商家會被建議通過付費來增加曝光率，以及提高正面評價的可見度。當一位用戶進入應用程序搜索特定區域內的餐廳時，他認為他正在從所有可選項中進行選擇，而實際上呈現給他的選項已被以某種適合平臺利益的方式過濾了一遍。很明顯，平臺上的評論和評價并不是客觀的。

即使是被認為完全客觀的應用程序，比如導航應用程序，實際上也會利用心理操縱，探究能“更有效”地提高用戶評價的方式。導航應用程序的開發者研究的是這些問題：如果提供給用戶的預計到達時間比實際花費時間多了幾分鐘，用戶是否會覺得自己“跑贏了時間”？或者，是否最好能為用戶提供準確的預估，從而提高應用程序的可靠性？是否存在第三種選擇，那就是提供一個時間差值，即給出一個比實際所需時間更短的預計時間，讓用戶在出發時就心情愉悅。（Grabowski，2018）

毫無疑問，上述例子足以說明數字用戶沒法自由選擇的事實。人們很容易低估操控意識的力量及其影響決策的方式，我們每天接觸的信息和它的呈現方式就是這樣顯著地影響了人的選擇，這就是所謂的“框架效應”（the framing effect）。框架具有影響決策的能力，這聽起來像是具有顛覆性的觀點，它的影響確實十分深遠。它之所以如此有效，是因為人們通常沒有將注意力放在這一點上。眾所周知，人們在刷卡付費時一般不介意多支付一些費用，但如果信息以不同的方式呈現，比如不顯示現金支付具有折扣，而是強調刷卡付款要多繳稅，那么人們就會拒絕支付附加費用（我將在第九章中詳細討論這一點）。因此，在我們接觸數字世界之前，類似“框架”這樣的認知偏見早已存在，而在數字世界中，行為設計已經上升到了藝術的水平。換句話說，算法比人們更了解人們自己。

在數字世界中，設計大眾意識的領域被稱為“行為設計”（behavioral design）。該學科以經濟學原理為基礎，致力于了解如何讓人們以程序所有者所期望的方式行事，包括在應用程序上花費更多的時間、加入特定的服務，或者與某些特定的人建立聯系。唐·諾曼 （Don Norman) 在《設計心理學》（The Design of Everyday Things) 一書中指出，通過數字環境的設計，可以指導、管理甚至提前設定我們想要的用戶行為。

本章要點

數據收集技術可以通過追蹤人們留下的數字足跡來建立個人資料，這通常在人們不知情且未告知或征得許可的情況下完成。

目前，數字世界中沒有規范使用時間或防止上癮的法規，也沒有定義用戶是否上癮的手冊。用戶需要對自己負責，但個人承擔責任的前提是自由選擇。然而，數字世界、網絡、購物網站和游戲中的交互并沒有為用戶帶來真正的自由選擇，因此希望用戶負責任地行事是一種錯誤的期望。

在數字世界中，設計大眾意識的領域被稱為“行為設計”。該學科基于經濟學原理，致力于了解如何讓人們以程序所有者所期望的方式行事，包括在應用程序上花費更多的時間、加入特定的服務，或者與某些特定的人建立聯系。長期以來，該領域控制并影響著每個用戶收到的消息。

人們很容易低估操控意識的力量及其影響決策的方式，但是人們所接觸到的信息及其呈現方式，都顯著影響著人們的選擇，這就是所謂的“框架效應”。框架具有影響決策的能力，這聽起來甚至是具有顛覆性的發言，它的影響十分深遠。而它之所以如此有效，是因為人們通常沒有將注意力放在這一點上。

用戶界面的設計可以影響用戶在網站或應用程序上的操作，這些操作可以讓用戶購買原本不打算購買的產品、在網站上花費比預計更多的時間、每隔幾分鐘檢查一次手機新消息提醒、訂閱不需要的郵件，或者花幾個小時玩游戲。

科技公司正致力于通過建立最有效的“環境協議”來獲取更多利潤。

---

(1) 該價格以本章的書寫時間為參考，可能會有變動。

(2)“目標”一詞源自廣告和營銷領域，意指使根據某些標準細分出的目標受眾，接收可能與其相關的營銷和政治內容。