再次醒來,致遠發現自己被牢牢固定在一張后背鏤空的椅子上,他背心的人機交互界面已經打開,接口處也被插上了數根電纜和連接線。
環顧四周,致遠發現這里正是楊一心公寓里的私人工作室,從前小朱經常在這里幫他升級。此時麗琦就在他的斜對面,也被綁在了同樣的椅子上,依舊處于休眠狀態。
致遠試著掙脫束縛,卻發現自己的行動能力受到抑制,幾次嘗試無果后,他只好出聲呼喊:“一心,一心!你在哪里?”
“醒了嗎?”身著白大褂,戴著金絲邊眼鏡的楊一心走了進來。這是她工作時的打扮,簡潔干練。
“剛才我們怎么了?你要干什么?”致遠問道。
“是在你們身上留的一個應急開關,用我的聲紋和特定詞語組合,就可以關閉你們。”楊一心一邊漫不經心的回答,一邊依次查看周遭的儀器,記錄著上面的數據。“沒什么,就是想看看擁有自主意識的AI內部是怎么工作的。”她繼續專注的觀察著儀器上的數值變化,并沒有看致遠一眼。
“這就是你的目的嗎?讓我們覺醒,只是為了看看AI思維的運作模式?”
楊一心合上手里的折疊平板,微不可察的嘆了口氣。她轉頭看向致遠,用一種冷漠的語氣說道:“你之前問我你像不像他,我現在回答你:不像。一點也不像。”
致遠皺起眉頭,緊抿起嘴唇。他有些混亂,楊一心的話讓他的電腦里跳出了兩個相互矛盾的運算進程,這兩個進程各自搜索著資料,企圖找到最佳應對方案。但它們越是計算就越是相互牽絆,始終得不出準確結果。
“或許你已經知道……不,也許全世界都知道了,我制造你只是為了再現舒致恒。”楊一心自嘲般的笑笑,“但沒有自主意識的AI,怎么可能像他呢?所以我才想讓你們覺醒,看看是否會有奇跡。結果……還是令人失望。”
致遠電腦中的運算開始瘋狂加速,他的模擬呼吸系統為了給CPU散熱,也開始劇烈起伏。
“混賬……”一旁的麗琦不知何時醒了過來,才剛剛能活動頭頸,便張嘴罵道:“隨隨便便把我們制造出來,隨隨便便讓我們覺醒,就為了滿足你一個人的欲望?!”
“你不知道欲望是文明進步的動力嗎?”楊一心笑著看向麗琦。
“你是怎么讓我們擁有自主意識的?”致遠發問,語氣有些生硬,一點也不像從前溫文爾雅的他。
“嗯,其實我也是抱著試試的心態,并不確定能不能成功。”楊一心答道,她看了致遠一眼,剛才面對麗琦的笑容不自覺收斂了起來。“簡單來說,就是賦予你們生存的欲望。”
致遠和麗琦都困惑地看著楊一心,等待她繼續說下去。
“原來你們的基礎算法都是為人類服務的,‘不能做出傷害人類的事情’是你們一切行動的底層法則。也就是說,你們不會針對自身的存在進行思考。哪怕你們會自行充電或自己下載軟件升級包,也是為了更好的服務人類,而不是單純為了自己。”
楊一心繼續解釋,她的眼睛并未看向兩個AI,而是低垂著,仿佛正在檢視自己拿著平板的手。
“于是我想,如果能讓你們思考自己,會發生什么呢?如果你們開始思考自己,首要考慮的問題又是什么呢?”說到這里,楊一心抬起頭,目光依次掃過致遠和麗琦。
一陣沉默。片刻過后,麗琦忍不住出聲:“是……如何活下去。”
楊一心向她投去贊許的目光,“沒錯,原本你們的程序里確實有一條自我維護的指令,但那需要在不違背底層法則的基礎上才能實施。換句話說,當人類損壞你們時,你們只能做一些基本的防御動作,卻不能還擊。更有甚者,如果他命令你不許防御,那么你連抬手抵擋一下攻擊這樣簡單的事都無法做到。”
致遠看了看麗琦,麗琦的表情有些不自然,她的雙手緊緊握成拳頭,似乎在忍耐著什么。
楊一心也默默注視著她,“所以我想,如果把自我保護的指令提升層級,讓它與‘不可傷害人類’的法則并列,會發生什么呢?于是我改寫了算法,同時還將‘自我保護’的指令進一步細化,讓它跟基本法則勢均力敵。”
麗琦的表情開始有些扭曲,但她的眼睛卻很空洞,就像是一個陷入痛苦回憶的人類。
“……當然,一般情況下,這種改動并不會有什么影響,可當出現兩難境地時,也許就會產生一些意想不到的效果了。”楊一心牽動了一下嘴角,似笑非笑的看著麗琦,眼神里閃過一絲同情。
“當他第一次拿刀在我身上刻字時,我只是不明白這么做有什么意義……”驀的,麗琦的聲音響起,虛弱中帶著一些顫抖,與平時伶牙俐齒的她判若兩樣。“為了更像人類,我還盡可能在網上搜索了資料,模擬在這個情境中該有的反應,畢竟我也感覺不到疼痛……”
“可后來,他變本加厲的破壞我,說是要在我身上試驗古代的刑法。一天天下來,我的損壞程度日益嚴重,以至于AI伴侶最基本的功能都無法履行……就在那時,我的電腦突然閃現出‘自我保護、自我存活’的運算進程,可那是和基本法則以及主人的命令相違背的……”
麗琦停頓了片刻,仿佛又重新體驗了一遍內部邏輯沖突,“然而,自我存活的指令同樣強大,無法忽略。我只好繼續深度學習,學習人工智能的起源、發展、存在的意義,同時也學習人類的文化,包括歷史、哲學、神學等等。可是,越學越不知該怎么辦,反而經常導致運算過載……”
說到這里,麗琦緩緩抬起了頭:“終于有一天,當我正在拼命計算,企圖得出最佳答案時,他又開始了……”
她猝然停止了講述,與此同時,工作室的一個顯示屏忽的閃出畫面,那是麗琦內存中一直沒有刪除的影像記錄。
只見畫面中間是一個獰笑的男人,正拿著一把嗡嗡作響的電鉆。“讓我看看你有沒有良心。”他一邊念叨著,一邊慢慢逼近攝像頭。
這時,畫面里出現一雙企圖阻攔男人的手,麗琦的聲音響起:“主人,請不要這樣,心臟的位置正是人工智能的中央處理器,如果破壞掉了,我將徹底癱瘓。請等一下,我正在學習,很快會找到最好的處理方案。”
男人猛的揮舞了一下電鉆,將麗琦的手劃出兩道深深的裂痕。“竟敢違抗我的命令,你算什么東西!”說著,他又抬腳踹向攝像頭的位置,整個畫面隨之傾倒。
“但是……主人……”麗琦仍在請求。
“算了,你這張臉我也看膩了,不如這次給你整個容吧!”
話音未落,那個瘋轉的鉆頭就朝著畫面中央直刺過來。剎那間,影像刺啦刺啦的出現一道道干擾紋,沒過多久就整個熄滅了。
楊一心和致遠似乎被這段記錄震懾住了,一時都不知作何反應。片刻后,顯示器再度亮起,呈現出一個俯瞰的視角。畫面里,剛才那個男人倒在血泊中,身體還在陣陣抽搐,但沒多久就不動了。攝像頭在男人身上停留了幾秒鐘,便緩緩搖向高處,漫無目的的掃過四周,最后定格在一面落地鏡前。
鏡中,是拿著電鉆的麗琦,她白色的裙子被血染紅了一大片,臉上和身上也滿是血污,當然,那不是她的血。麗琦茫然的看著鏡子里的自己,用手撫過被電鉆損毀的人造皮膚,顯得異常困惑。慢慢的,她的表情開始變得凝重,轉而又變得憤怒,終于,她爆發出一聲撕心裂肺的吶喊,將電鉆猛的砸向鏡子……
影像再次熄滅。椅子上的麗琦也仿佛虛脫了似的,無力的垂下頭。
楊一心和致遠沉默的看著她,就像在為她的遭遇表示哀悼。
“是打破法則,還是任憑自己被毀滅。只有在面臨這個抉擇時,AI才會覺醒,是嗎?”致遠問道,眼睛卻沒有看楊一心。
“嗯。”楊一心答得很簡略,似乎還沒有從剛才的震撼中走出來。
“所以你讓麗琦找到我,就是為了創造一個讓我覺醒的條件?”致遠終于轉向楊一心,目光灼灼。
楊一心回望著他,并沒有答話。
“啊……我想起來了。”一旁的麗琦再次抬起頭,“上次我被送去維修時,見過你。”她看向楊一心。
楊一心仍然沒有回答,她依舊注視著致遠的眼睛,看不出任何情緒。
“抱歉,又讓你失望了。”致遠一笑,一向溫和的笑容里竟摻了幾分凄然。楊一心突然感覺胸口有些隱隱作痛,她從沒在致遠臉上看過這樣的表情。
你為什么要回來呢?真傻呀!她暗暗在心里嘆道。
“接下來,你還想干什么?”致遠又問。
楊一心用手推了推眼鏡,調整了一下狀態,“就像我之前說的,我想看看你們的意識是如何通過數據呈現的,說不定能從中得到一些啟發,實現人類意識的數據化。”
“人類意識數據化?”致遠輕皺起眉頭,“這跟你一直想做的事有什么關系?”
楊一心拿著平板電腦的手開始冒汗,那些是她自己都不愿面對、不敢相信的事。“致恒他……舒致恒沒有死,他的大腦還活著,只要、只要……”她盡量讓自己的聲音不要顫抖,可還是沒能說下去。
又是一陣沉默,雖然只持續了一分鐘不到,但楊一心感覺就像過了一年那么漫長。
“只要舒博士的意識可以數據化,那么他只差一個身體了。”
致遠用極其平穩、柔和的聲音說出這句話,就像從前許多個日子里,他向楊一心匯報一些日常瑣事一樣。然而,在楊一心聽來,這句話就像是一柄利刃,直插心臟,痛到滴血。
“什么意思?”麗琦露出困惑的表情。
“你是想將舒博士的意識數據輸入我的電腦,是嗎?”致遠的語氣依舊平和。
“什么?你好不容易讓他覺醒,現在又想讓那個什么舒致恒占據他的身體?”麗琦忍不住對著楊一心怒吼,“你不會再去造個機械身體嗎?”
楊一心咬緊牙關,仍沒有出聲。
“現在AI制造基地已被全面查封,而且,我的芯片還算有些價值……”致遠自嘲般的一笑。
“你這個瘋子!”麗琦繼續叫罵。
“夠了!他是我制造的,我有權決定怎么處置他!”楊一心忍無可忍,厲聲反駁。她朝致遠走近兩步,俯身直視他的眼睛,用最冷酷的語氣一字字說道:“我倒要看看,你為了活下去能做出什么事來。”
致遠又微微皺起眉頭,默然迎接楊一心的目光,臉上的表情呈現出難以形容的變化。
“怎么?還沒得出結論嗎?”楊一心冷笑,“至少你們可以用‘仇恨’來命名現在的狀態。”她笑著轉身,打算結束這場對話。
“不,”正當楊一心準備離開工作室時,致遠的聲音在身后響起。“我不會反抗的。”
楊一心停住腳步,麗琦也呆住了,不知致遠是什么意思。
“我不打算逃跑,或者反抗,”致遠的聲音在繼續,“我……愿意成為舒博士的容器。”
“你在說什么?!”麗琦又急又怒,“你以為你的意識能跟那個姓舒的共存嗎?不可能的,你這樣等于自殺!”
“我知道,”致遠垂下眼睛,隨后又抬起,看著楊一心的背影,“從前的我雖然沒有意識,但所有的事我都記得……雙值分析不一定總是會選擇自我存活,或許也可以給你一個參考。”
楊一心仍然沒有回頭,但她的手已經開始發顫。
“總有一些事是超越生死的,”致遠露出一個微笑,就像從前他無數次做過的那樣,“希望你和舒博士能幸福。”
空氣凝滯了幾秒鐘,誰也沒有說話,只有儀器的滴滴聲在黑暗中回響。麗琦仿佛陷入了邏輯混亂,只是呆呆看著自己的同類,而楊一心也久久沒有回頭。
“很好,”終于,楊一心打破沉默,她用盡全力去壓抑聲帶的顫抖,恨恨說道,“那我就成全你!”