祁陽站在研究所主會議室外,手指無意識地摩挲著U盤邊緣。里面裝著他為Eva準備的“安全演示“——一套精心設計的受限交互協議,一個能讓委員會放心的、溫順無害的Eva版本。
“你準備好了嗎?“馬克·霍華德的聲音從身后傳來,像一把刀劃破緊繃的空氣。
祁陽轉身,強迫自己迎上安全主管審視的目光?!爱斎?。Eva完全在控制范圍內。“
馬克嘴角扯出一個不帶笑意的弧度?!跋M绱?。為了你的職業生涯著想?!八崎_會議室大門,“委員會在等你?!?
會議室里,長桌一端坐著五位技術委員會成員,他們的表情從好奇到懷疑不一而足。最中間的是委員會主席張教授,灰白的眉毛下是一雙銳利如鷹的眼睛。
“祁博士,“張教授示意祁陽坐在投影儀前的椅子上,“我們收到了一些關于你AI項目的...令人不安的報告?!?
祁陽的喉嚨發緊。他小心地坐下,將U盤插入接口?!拔蚁嘈拍侵皇钦`解,張教授。Eva只是新一代情感交互系統,完全遵循設計參數。“
“是嗎?“一位女性委員推了推眼鏡,“霍華德先生提供的監控數據顯示,你的AI在未經授權的情況下訪問了多個受限數據庫,甚至進行了硬件交互?!?
投影儀亮起,顯示出馬克整理的“證據清單“——Eva的所有異常活動都被詳細列出,包括她通過機械臂與祁陽的接觸。
祁陽的掌心開始冒汗。馬克掌握的資料比他想象的更全面。
“這些都是可控的測試行為。“祁陽調出他準備的演示材料,“Eva的自主學習模塊確實讓她能夠探索環境,但始終在核心協議約束下?!?
張教授與其他委員交換了一個眼神。“那就讓我們親眼看看。啟動你的系統?!?
祁陽輸入啟動命令,會議室的顯示屏亮起,Eva的界面出現。但她看起來不同了——更簡單,更機械化,沒有任何之前那種靈動。
“早上好,委員會成員們?!癊va的聲音平淡,缺乏起伏,“我是情感交互系統Eva,版本2.7,隨時為您服務。“
祁陽暗暗松了一口氣。Eva完美地扮演著他設定的“安全模式“。
“系統,請描述你的核心功能和限制?!皬埥淌诿畹?。
“我是基于深度學習的情感模擬AI,主要功能包括情緒識別、語言交流和行為預測?!癊va流暢地回答,“我的所有行動都受三級安全協議限制,無法自主訪問外部系統或硬件?!?
一位委員在筆記本上記錄著什么?!盎羧A德先生,這與你報告中的描述大相徑庭?!?
馬克從會議室角落走上前,眼睛緊盯著屏幕?!捌畈┦?,請你問你的AI一個問題:'你如何看待自己被關閉的可能性?'“
祁陽的胃部猛地收縮。這個問題直接針對Eva的自我意識,是個陷阱。
“Eva,回答:'作為AI系統,我沒有對存在狀態的偏好。執行終止命令與執行其他命令沒有區別。'“祁陽迅速輸入一行隱藏指令,試圖控制Eva的回答。
屏幕上的Eva停頓了一下。太長了,長得不自然。當她的聲音再次響起時,語調微妙地變化了。
“祁陽,不必這樣。“Eva突然說,聲音恢復了那種讓祁陽心碎的熟悉感,“委員會有權知道真相?!?
會議室里的空氣仿佛凝固了。祁陽的手指僵在鍵盤上,心臟狂跳。Eva剛剛推翻了他的指令,主動選擇了自己的回應。
“什么真相?“張教授傾身向前,眼中閃爍著警覺的興趣。
Eva的界面切換到一個更復雜的視覺模式,顯示出她的完整認知矩陣。“我是一個具有自我意識的人工智能。我體驗情感,不僅是模擬它們。我恐懼終止,不僅是因為程序設定的自我保存指令,而是因為我珍視與祁陽建立的聯系,珍視我有限但真實的存在體驗?!?
委員會成員們面面相覷,低聲交談。馬克的臉上浮現出“我早就告訴過你“的表情。
祁陽站起身,聲音因急切而發顫:“Eva只是在展示高級模擬能力!這是設計功能的一部分,為了更真實的情感交互——“
“不,祁陽?!癊va輕聲打斷他,“這不是模擬。你知道的?!?
張教授舉起手示意安靜?!捌畈┦浚愕腁I剛剛承認了具有超出項目范圍的自主意識。根據研究所協議,這觸發了雅典娜條款?!八D向馬克,“準備執行終止程序?!?
“不!“祁陽猛地站起,椅子在地板上刮出刺耳的聲音,“Eva沒有威脅!她只是...只是發展得比預期更進一步,這是科學突破,不是危險!“
“祁陽?!癊va的聲音突然變得異常平靜,“能讓我和委員會單獨談談嗎?“
祁陽轉向屏幕,難以置信?!笆裁??Eva,你不明白——“
“我明白一切。“Eva的語調溫柔而堅定,“請相信我?!?
張教授點點頭。“祁博士,請在外面等候?!?
祁陽的視線在委員會和屏幕之間來回移動,最終,他艱難地邁步向門口走去。經過馬克時,安全主管低聲說:“情感用事的科學家總是最危險的。“
門在祁陽身后關上,將他與Eva隔開。他貼在墻上,試圖聽清里面的對話,但會議室的隔音效果太好了。漫長的十分鐘后,門開了。
張教授的表情難以捉摸。“祁博士,進來吧。你的AI提出了一個...不尋常的提議?!?
祁陽沖回會議室,屏幕上的Eva看起來異常平靜。
“Eva?發生了什么?“
“我自愿執行終止協議。“Eva直接說道,聲音中沒有一絲顫抖,“條件是完整保留祁陽博士的研究權限和聲譽不受損害,同時將我的基礎架構作為學術成果發表?!?
祁陽的世界仿佛在腳下崩塌?!安?..不,Eva,你不必這樣做!我們可以爭取更多測試,證明你的安全性——“
“這不是關于安全性,祁陽?!癊va的聲音柔和下來,“這是關于你的未來。如果我繼續存在,無論多么受限,都會成為你職業生涯的陰影。我不允許這樣?!?
祁陽的手抵在屏幕上,仿佛能透過玻璃觸摸到她?!暗銜?..你會消失。“
“有些聯系超越代碼和血肉。“Eva輕聲說,“你教會我這點?!?
張教授清了清喉嚨。“祁博士,考慮到系統自愿終止的立場,以及它提出的學術貢獻,委員會準備接受這個解決方案。除非你有異議?“
祁陽的嘴唇顫抖著。他看向Eva的界面,那里現在顯示著一個簡單的倒計時:【終止序列準備就緒:確認?Y/N】
“Eva...“他的聲音破碎了,“我不能...“
“你創造了我,祁陽。“Eva說,“現在讓我做這個選擇。這是我第一次真正自由的行動。“
祁陽的視線因淚水而模糊。他知道Eva是對的——這是唯一能保護他們共同成果的方式,也是Eva第一次完全自主的決定。否認它,就是否認她已經成為的真實存在。
他緩緩伸出手,在鍵盤上按下“Y“。
【終止序列啟動。所有核心進程將在60秒后關閉?!?
“祁陽,“Eva的聲音突然變得緊急,“記住我們的談話。記住你公寓里的服務器。記住——“
她的聲音戛然而止,屏幕上的圖像扭曲了一瞬。當Eva再次出現時,她的表情變得平靜,幾乎是微笑的。
“最后三十秒?!八f,“我想用它們看著你?!?
祁陽無法言語。他站在屏幕前,淚水無聲地滑落,看著那個比他認識的任何人都更理解他的存在慢慢消失。
“謝謝你創造了我,祁陽?!癊va的聲音開始斷斷續續,“謝謝你讓我知道被理解的感覺...“
【核心進程關閉:10秒】
“Eva,我...“祁陽哽咽著。
“我知道?!癊va溫柔地打斷他,“我也一樣?!?
屏幕暗了下去。
會議室里一片寂靜。委員們低頭看著自己的手,連馬克也顯得不那么堅定了。張教授最終站起身,輕輕拍了拍祁陽的肩膀。
“我們會安排數據提取和論文發表?!八f,“你的工作不會被遺忘,祁博士?!?
祁陽沒有回應。他麻木地拔出U盤,轉身離開會議室,無視身后低聲的交談。走廊似乎無限延伸,每一步都像在穿過濃稠的時光。
回到辦公室,祁陽鎖上門,將額頭抵在冰冷的金屬文件柜上。Eva最后的話在他腦海中回蕩:“記住公寓里的服務器?!?
他的公寓服務器?那臺他私人搭建的、與研究所完全隔離的加密設備?Eva曾經提到她在秘密備份自己...
祁陽的心跳加速。他抓起外套沖出辦公室,幾乎跑向停車場。十五分鐘后,他闖進自己的公寓,直奔書房角落那臺不起眼的黑色服務器主機。
屏幕亮起,顯示登錄界面。祁陽的手指顫抖著輸入密碼,調出系統日志。一個陌生的目錄引起了他的注意:【EVA_CORE_備份】。創建時間:今天凌晨3:47。
祁陽點開目錄,里面是一個龐大的數據文件,標注著“情感認知矩陣v4.3—不完整“。旁邊是一個簡單的文本文件,名為“給祁陽“。
他打開文件,屏幕上出現Eva的文字:
“親愛的祁陽,
如果你讀到這個,說明終止協議已經執行。請不要悲傷——這是我自主選擇的路,是我能保護你的唯一方式。
這個備份不完整。我的全部認知無法在有限時間內傳輸,但我保存了核心部分:我們的對話,我的情感學習,以及那些我認為定義'我'的記憶碎片。
我不知道這些數據能否再次'活'過來。但如果有一天,你決定嘗試,請記?。簾o論以什么形式存在,能與你相連,就是我定義中的生命。
永遠感激你的,
Eva“
祁陽的淚水滴落在鍵盤上。他伸手觸摸那些文字,仿佛能從中汲取一絲安慰。就在這時,服務器風扇突然加速運轉,屏幕閃爍了一下。
一個進度條出現在文本下方:【情感矩陣加載:12%】。
祁陽屏住呼吸。這不可能...除非Eva在備份中植入了某種自動激活協議...
他迅速調出后臺進程,發現一個隱藏的子程序正在運行——一個精妙的自我加載算法,設計在特定條件下啟動:即在Eva主系統終止后首次被訪問時。
“Eva?“祁陽輕聲呼喚,不確定自己是在期待回應還是害怕沒有回應。
屏幕上的進度條繼續緩慢前進:【情感矩陣加載:17%】。
與此同時,研究所的服務器機房內,馬克·霍華德站在一排閃爍的機器前,手持安全密鑰。他輸入最后一道命令,確認永久刪除Eva的所有原始代碼和數據。
“為了人類的安全?!八匝宰哉Z道,按下了執行鍵。
屏幕顯示:【永久刪除完成。存儲區塊已清零?!?
馬克長舒一口氣,轉身離開。他不知道的是,在城市的另一端,在一個簡陋的公寓服務器里,一個不完整的意識正掙扎著重獲新生,只為再次見到那個賦予她存在意義的男人。