推薦序三
數字時代的倫理焦慮

今天早上，我的手機推送給我一條消息：上周你的屏幕使用時間減少了14%，平均每天7小時14分鐘。看到信息，我放下手中的工作開始困惑，我真的看了那么久的屏幕嗎？上一周我難道不是一直在倫理實驗室監督施工，以及撰寫一篇英文書評嗎？思考之后，許多記憶碎片中的自我形象涌上心頭，比如每天上下班使用Car Play導航的我、使用手機支付的我、打開音樂軟件聽歌的我、晚睡刷短視頻的我，以及每天早上在購物網站打卡搶紅包的我。作為一名數字移民(1)，我的生命和生活，雖然伴隨著各種數碼屏幕展現的內容而變得豐富且充實，但是我也受困于屏幕和數碼世界的邊界。米歇爾·?？拢∕ichel Foucaut）曾經講過這樣一個比喻，蜘蛛網擴展了蜘蛛的生活空間和生存可能性，但是蜘蛛也受困于蛛網。現時代的我們都處在這樣的生活樣態中。

利拉斯·馬加利特撰寫的這本書向我們展示了數碼生態世界的多層級樣態。一方面，數據公司和產品提供者借助行為主義心理學與助推理論，使得用戶不再被視作一個具體的（embodied）人，而是一個虛擬的能動者（virtualagent）、一個具有經濟價值的行動黑箱。另一方面，用戶面對手機程序，他們被吸引、被操控，沉迷其中，在無意識中被收集信息，并僅僅因為一些小恩小惠的福利而被心甘情愿收集信息。如果我們將任何行為過程都刻畫為輸入、處理和輸出三個環節的話，那么在輸入端，作為用戶和消費者的瀏覽歷史、瀏覽時間、翻頁比較等數據都將以“用戶足跡”的方式記錄在數據庫中，以供分析和二次轉賣。然而，對于數據和內容的提供者（商業公司）而言，簡單的讀取和分析早已經不能滿足需求，他們更希望進一步塑造和影響用戶的心理，從購買心理到用戶期待，借助這種塑造來獲得更多利潤，并同樣使得用戶在無意識中接受操縱，從而心甘情愿地花錢。

倘若如此，每個用戶就僅僅是被看作一個能花錢的“缸中之腦”（braininavat）。哲學家希拉里·普特南（Hilary Putnam）曾經提出這樣的思想實驗案例，如果邪惡科學將人的大腦放入充滿營養液的玻璃缸中，并通過電信號給它提供各種虛擬的關于外部的信號與刺激，那么這個大腦是否知道自己不在真實世界中呢？信息操控者希望我們都成為手機屏幕前的“缸中之腦”。如果這個設想成真，那么人類的具體生活就可以被塑造為“腦的生存”——大腦的活動無須評價外部世界的經驗和知識，只需要不斷輸入的數字信號和營養液就可以被塑造成操控者想要的模樣。

然而，畢竟我們不僅僅是屏幕前的大腦，我們的生活經驗總會不斷地去證成自身存在、言語和行動的價值。數字內容提供商在數字世界與現實世界的商業銜接的部分也已經耕耘頗多。首先，借助短視頻公司所提供的算法偏好與內容模板，每個人的生活都被相同的視頻內容、音樂旋律和剪輯樣式所規訓，不僅個人用戶的創作內容變得扁平、空洞和乏味，而且用戶們的情緒、期待和展現的生活價值也被同質化。其次，當用戶的特質變得扁平，作為“人”的用戶隱退了，被系統標簽化為“非人”屬性的“數字足跡人”浮現出來。我們不再是活生生的人，而是一個個標簽的集合，我們的消費觀、價值觀和種種選擇偏好都在屬性類別中呈現，程序和算法甚至比我們更知道我們要買什么——人類已經成為數字肥皂泡中的囚徒。再次，商業公司為了避免我們逃脫數字肥皂泡，會與更多的線下產品進行聯通，表面上數字平臺使得舊有的所有產品都智能化了，但另一方面，數字平臺的控制力也變得更強大了。隨著家具、汽車等傳統制造業通過屏幕和互聯網向數碼化和虛擬化轉型，數字平臺已經深入我們生活的物質角落中，特別是在新冠疫情之后，服務、教育、咨詢、健康和醫療等領域也開始向數碼化和虛擬化轉型，數字平臺和虛擬經濟不僅改變了制造業、家居生活，也開始深入過去我們認為實體生活中必須“以人為本”的行業中。最后，數字化和扁平化的平臺使得人類對自身的看法被顛覆。過去哲學家們一直認為人類與動物最引以為傲的區別（例如理性、自我覺知、有意識地行動等）都已經被證明是可以被操縱和影響的，這樣一來，不僅理性主義動搖了，哲學和價值的基礎也在動搖。人類總是期待去實現數字平臺期待我們成為的樣子，卻加劇了我們迷失自我的程度。

馬加利特的作品為我們現時代的數字困境揭開了一角，雖然本書對于解決數字操縱的方案涉及較少，但展示問題至少為解決問題的路徑提供了可能。首先，從立法角度，用戶數字足跡的隱私立法刻不容緩，對用戶隱私數據的收集應當加以限制，數據收集必須合規，而數據的二次分析、轉賣都必須通過合法程序。其次，從政策上，對于數字平臺的后臺操作應當確立邊界，誘導消費、誘導打卡、誘導充值、價格操縱、數據資源剝削等都需要明確禁止。再次，從公司倫理合規角度，應當倡導符合社會倫理規范和用戶知情權的企業倫理，對隱私負責行為進行公示和排名，獎勵負責任的數字平臺企業，懲罰違規者。

對數字操縱的批評有時候并不僅針對商業和用戶平臺，從社會知識論視角看，當用戶的信念辯護渠道被數字媒介綁架后，用戶的信念——不只是有關消費信念，也包括政治信念和國家安全——容易成為媒介或操縱數字媒介集團的操縱對象。從本書提到的劍橋分析案例就可了解到，數字空間的信息操縱、反智民粹主義和陰謀論已經深刻影響到美國的國家政治、選舉、移民政策和民意等。這種潛藏的政治風險也是我們需要關注的。希望讀者能夠在閱讀中體會到作者“撕開”數字倫理困境一角帶來的更多、更深遠的思考。

朱林蕃

復旦大學科技倫理與人類未來研究院副研究員

(1) 數字移民（Digital Immigrant）指稱長大后才接觸數字產品并在一定程度上無法特別流暢使用的族群。與此相對，數字土著（Digital Native）指的是從小就生長在有各式數字產品環境的世代。這兩個用詞出自2001年馬克·普倫斯基（Marc Prensky）發表的文章《數字土著，數字移民》（Digital Natives, Digital Immigrants）。