我沒有停止奔跑。我想，如果我愿意的話，我是可以做到的，但一想到如果我站著不動哪怕一秒鐘，我就會被嚇?biāo)馈Ｎ业暮粑絹碓酱螅遗芟掳档幕疑呃龋遗既坏刈哌^很多次。拐彎的時候，我頭暈?zāi)垦＃采狭宋业耐潞啞て绽姿箍铺蒯t(yī)生。

“珍妮弗!”普雷斯科特醫(yī)生驚叫著，她手里拿著的那堆文件從她手中倒了出來，灑了走廊的地板上一地。她調(diào)整了一下在撞擊中被撞松的厚黑眼鏡，問道:“珍妮弗，怎么了?”

“我很……很抱歉。”我喘著粗氣，普雷斯科特醫(yī)生抓住了我的雙肩。

我跪下來幫助普雷斯科特醫(yī)生拿起她的文件，但她緊緊抓住我的胳膊，把我扶了起來。“別擔(dān)心報紙，親愛的，”她用舒緩的南方口音說。“那都是些先鋒先鋒的胡言亂語。我想知道的是你為什么帶著這么大的精力在實(shí)驗(yàn)室里跑來跑去。”

在我開口回答她之前，我意識到我完全不知道我為什么要跑。我記得的最后一件事是，我坐在休息室里，喝著一杯冰茶，看著先鋒電子公司為員工提供的微型電視上的新聞。接下來我所知道的是，我有一種似曾相識的感覺，加上一種可怕的感覺，我的生命即將突然結(jié)束。不管出于什么原因，跑步似乎有所幫助。

“我想我只是恐慌發(fā)作了，”我回答，裝出一副假笑。“我想我只是恐慌發(fā)作了，”我回答，裝出一副假笑。

“你有多久沒有恐慌癥發(fā)作了?”普雷斯科特醫(yī)生關(guān)切地問。

“從我高中二年級開始就沒有了，”我告訴她。

“你會沒事吧?”

“哦，是的，”我向她保證。“我……我想我現(xiàn)在沒事了。”我只是…你知道。我很好。”

“嗯，那就好。親愛的，記住，如果你覺得不舒服，就告訴我，然后你就可以回家了。我會叫輛出租車什么的。”

“簡，我沒事。”我重復(fù)了一遍，意識到只有在我緊張的時候才會叫普雷斯科特醫(yī)生“簡”，但為時已晚。我希望她沒有領(lǐng)會我那痛苦而明顯的說法。

“好吧，如果你確定你今天能堅持下去，那么我有一些好消息要告訴你。克里夫剛給我發(fā)了條信息，電源問題解決了。史蒂文準(zhǔn)備上線了!”

“哦……哦!”我搖了搖頭，想起了我去休息室之前一直在做的事情。在過去的兩年里，我和普雷斯科特博士以及伊恩·貝爾一起開發(fā)了一個先進(jìn)的人工智能系統(tǒng)。普雷斯科特博士一直是我的上司，后來她把我提升為聯(lián)席經(jīng)理。我們給這個項(xiàng)目起的代號是“史蒂文”。

史蒂芬的目的是創(chuàng)造一個人工智能，或稱AI，它的行為、談話甚至思維都和人類一樣。我們不希望他是完美的，這也是大多數(shù)人工智能的特點(diǎn)。特別是那些在先鋒電子公司制造的人工智能。我們希望史蒂文為了自我保護(hù)而犯錯、撒謊和欺騙，就像任何人類一樣。這是一個巨大的項(xiàng)目，當(dāng)我們發(fā)現(xiàn)我們試圖在史蒂文身上運(yùn)行的計算機(jī)無法處理他的程序時，這就變得很明顯了。我們?nèi)フ铱死５?漢克斯，請他施展他的維護(hù)魔法，問題在一個小時內(nèi)就解決了。

哇，一個小時？我想，看看我的手表。真的就這么點(diǎn)時間嗎？感覺就像我昨天下去找他一樣。

“嗯？你是要去，還是什么，親愛的？“普雷斯科特醫(yī)生審問著我。

“是的......是的，當(dāng)然了！“我咧嘴一笑，把注意力轉(zhuǎn)回手頭的情況上。“你為什么不去找伊恩，你們倆可以坐在觀察室里，我給史蒂芬開機(jī)？“

“當(dāng)然，親愛的，“她說。當(dāng)我再次彎腰撿起報紙時，她把我推開了。“去吧!我已經(jīng)告訴過你，我會處理好這個問題的。

我興奮地點(diǎn)點(diǎn)頭，轉(zhuǎn)過身去，朝我逃跑的方向走回去。在與我見過的最聰明的程序員一起工作了兩年之后，我終于要見到我們的神奇創(chuàng)造。雖然我知道我應(yīng)該為這個重要時刻感到高興，但我的胃里仍然有一種可怕的恐懼感。

我轉(zhuǎn)身走進(jìn)小實(shí)驗(yàn)室的門，門被敞開著。我走到門右邊的電腦前，打開了巨大的顯示器。當(dāng)我等待它啟動時，我徘徊到實(shí)驗(yàn)室的對面，透過窗戶看向觀察室。普雷斯科特博士和伊恩剛剛安頓好。我向他們豎起了熱情的大拇指，然后拿起滾動椅，它不知何故與觀察室的窗戶在實(shí)驗(yàn)室的同一側(cè)，并引導(dǎo)它回到電腦顯示器前。我坐在藍(lán)色的墊子上，在不打斷肋骨的情況下盡量靠近鍵盤，最后打開了先鋒記憶盒的開關(guān)。

顯示器暗了一會兒，但大約五秒鐘后，一道明亮的藍(lán)光照亮了整個實(shí)驗(yàn)室。我屏氣凝神地等待著一張臉在燈光下形成，但不幸的是，它沒有出現(xiàn)。

“萊恩博士，我們認(rèn)為它不起作用。“伊恩顫抖的聲音在我耳邊低語，使我跳了起來。我已經(jīng)忘記了我戴著耳機(jī)。

“我......我知道，“我失望地說道。

“伊恩和我要去和--“普雷斯科特博士開始說，但她被從電腦揚(yáng)聲器中發(fā)出的低沉的嗡嗡聲打斷了。

“H-hello？“我問道，覺得自己有點(diǎn)傻，因?yàn)槲以诤鸵粋€可能還是沒有生命的物體說話。

令我高興的是，嗡嗡聲響起，形成了一個緩慢但可聽的單詞：“H...e...l...l...o...“

“史蒂芬？“

“Y...e...s...是的...這...這是史蒂芬。你能聽到我嗎？

“你時不時地放慢速度，但是，是的，我能聽到你。“

“你怎么知道我的名字？“史蒂文光滑、平靜的聲音問我。

“我正想問你同樣的問題，“我用同樣的語氣評論道。聽到史蒂文的聲音，我的興奮之情在聽到他說我的名字的那一刻受到了阻礙。我沒有給他編程讓他知道我的名字，而且自從我啟動他以來，我的名字還沒有被說過。至少，沒有對著任何史蒂芬能聽到的麥克風(fēng)說過。而且，根據(jù)先鋒人工智能單位的第一條規(guī)則，一旦任何人工智能變得過于自覺，它就需要被刪除。一個有自我意識的人工智能可能會對公司造成嚴(yán)重?fù)p害。

然后，史蒂芬說了一句話，加強(qiáng)了我的想法。“我知道你的名字，因?yàn)槲医o你編程。但你沒有理由知道我的名字。“

“實(shí)際上，史蒂文，是我給你編程的。“我糾正他說。

“不，這不......o......s......sible，“史蒂文說，他的聲音又低了下去。“我在你身上花了好幾年時間。我不可能是剛剛被創(chuàng)造出來的。“

“實(shí)際上我給了你所有的記憶，“我解釋道。“你還記得你三歲的時候，你從草坪椅子上摔下來，臉頰上有了那個疤痕嗎？我給你編程，讓你這么想。“

史蒂文有一陣子沒有回答，但當(dāng)他終于回答時，他說：“珍妮弗，我馬上回來。“當(dāng)他說這句話時，藍(lán)色的電腦顯示器變暗了一點(diǎn)。

“珍妮弗？“伊恩打破了沉默。“請你回到這里來好嗎？“

“好的。“我頭也不回地說道。我站了起來，走出了實(shí)驗(yàn)室。我打開走廊右側(cè)的第一扇門，發(fā)現(xiàn)普雷斯科特博士和伊恩坐在觀察室四張椅子中的兩張上。

“萊恩博士，我們需要談?wù)剟偛虐l(fā)生的事情。“伊恩平靜地說，普雷斯科特博士示意我坐在他們旁邊的椅子上。

“那是什么，親愛的？“普雷斯科特醫(yī)生問道，我輕輕地坐在她對面的橙色塑料椅子上。

“我真的不知道，“我回答。“我想讓史蒂芬像人一樣思考，而不是認(rèn)為他是人。“

“而且他認(rèn)為他對你進(jìn)行了編程，“伊恩補(bǔ)充道。“你沒有那樣做，是嗎？“

“不，我沒有。我給了他所有的記憶，但我確信沒有給我編程的記憶。“

普雷斯科特博士開口了。“我們在這里遇到了相當(dāng)大的困境，不是嗎？“

“你是什么意思？“伊恩問。

“嗯，想想看，親愛的。史蒂芬認(rèn)為他是一個人類。我們認(rèn)為我們是人類。史蒂芬認(rèn)為他對我們進(jìn)行了編程。我們認(rèn)為是我們給他編程。事實(shí)上，現(xiàn)在，史蒂文可能正在和他的一些同事進(jìn)行同樣的對話。“

“除了史蒂芬，我沒有對任何人格進(jìn)行編程，“我說。

“但你給了他關(guān)于朋友、工作和家庭的記憶，不是嗎？而且你讓他在創(chuàng)造之后繼續(xù)制造自己的人工記憶，所以他甚至不知道他的真實(shí)生活在幾分鐘前剛剛開始。你這樣做了，是嗎？“

“是的，我想我做到了。“我抓起我的蒼白的白大褂的衣角，開始緊張地拍打它們。“你在這里想說什么，簡？“

“從哲學(xué)角度思考，親愛的。“普雷斯科特博士站起身來，走到大窗戶前，這扇窗戶覆蓋了入口處右側(cè)的大部分墻壁。藍(lán)色的電腦屏幕閃爍著，似乎它知道我們在看它。

“能不能有人為我拼一下？“伊恩問道，打破了剛剛充滿房間的無聲的緊張氣氛。

普雷斯科特博士回頭看了看我們，把她那副厚厚的眼鏡推到她那年邁的鼻子上。“我所要說的是，我們有可能不存在。“

“好吧，這沒有任何意義。“我嘲笑道，站了起來。“我存在，好嗎？“

“如果我不存在，我現(xiàn)在怎么可能在思考？“伊恩問道，當(dāng)他也站起來時，幾乎撞倒了他的橙色椅子。

“這只是一個想法，“普雷斯科特博士防御性地說道。她又坐了下來，我和伊恩也自動降低了自己的座位。

我閉上眼睛，沉浸在一片寂靜之中。發(fā)生什么事了？我想知道。我怎么可能不存在呢？雖然，普雷斯科特博士通常知道她在說什么。但仍然......我知道我是真實(shí)的。那個有女孩名字的人說什么了？'我想，所以我是'。只要知道我可以質(zhì)疑我的存在，就能確保我的存在。對嗎？

“好吧，讓我再和他談?wù)劇！拔覈@了口氣，覺得讓普雷斯科特醫(yī)生不高興有點(diǎn)不好。“我看看我是怎么想的。如果我不能弄清楚這里發(fā)生了什么，我將別無選擇，只能讓他下線。“

普雷斯科特博士和伊恩同時點(diǎn)頭表示理解，然后我站起來，離開了觀察室。當(dāng)我進(jìn)入實(shí)驗(yàn)室時，藍(lán)色的電腦顯示器變得更加明亮。

“珍妮弗？“史蒂芬的聲音從屏幕上叫道。我在椅子上坐下來，注意到藍(lán)光中坐著的一個男人的模糊輪廓。

“我在這里，史蒂芬，“我說。“我們能再談一談嗎？“

“有趣，我正想問你同樣的問題。“

“你有什么家人嗎？“我問道，想起了我為他編排的家庭。

“我有一個妻子，“史蒂芬回答。“她的名字叫梅琳達(dá)。“

“那孩子呢？“

“兩個，都是女孩。“

“她們的名字是什么？“

“麥迪遜是大的那個。她十三歲了。莉莉安八歲。你想看看她們的照片嗎？“

“我很樂意。“我笑著說。我們談得越多，屏幕上史蒂芬的身影就越明顯。我意識到我又握住了我的白大褂的衣角，我迅速松開了它們。我知道史蒂文也和我一樣感覺到了尷尬的緊張，這讓我稍感安慰。

那個身影重新出現(xiàn)在屏幕上。現(xiàn)在，藍(lán)光已經(jīng)褪去，足以讓我看到史蒂芬的眼睛、鼻子、嘴巴和耳朵。我甚至可以看清他身后墻上的一些閃爍的燈光。

“來，這是我的妻子。“史蒂文微笑著，將一張有框的照片舉到鏡頭前。在里面，我看到一個男人和一個女人。那個男人是史蒂文，但他在照片上看起來比我屏幕上的年輕很多很多。他旁邊的女人叫梅琳達(dá)，有一頭波浪形的黑發(fā)，一雙大眼睛，笑容從耳朵延伸到耳朵。我記得我創(chuàng)造了那張照片。

“這些是我的孩子，“他說，把他妻子的照片從屏幕上拿開，轉(zhuǎn)而舉起坐在南瓜地里的兩個女孩的照片。“麥迪和莉莉?qū)ξ襾碚f意味著整個世界，“他輕聲補(bǔ)充道。

“她們很美，“我告訴他，抹了一把眼淚。

“你結(jié)婚了嗎，珍妮弗？“

“是的，我剛剛結(jié)婚，“我說。“一年前的今天。“

“他叫什么名字？“

“杰夫-萊恩。“

“你有什么照片嗎？“

我手里已經(jīng)有了杰夫的照片。把它舉到屏幕上，我注意到史蒂芬在看到我丈夫的照片時，淡褐色的眼睛亮了起來。不需要天才也能知道他以前見過。我把相框從相機(jī)上拿開，把它放回顯示器下面。

史蒂芬和我花了一個小時談?wù)撐覀兊募彝ァ⑴笥押凸ぷ鳌Ｎ覀冋l也沒有再提到人工智能。這就像和一個真正的人類交談。好吧，任務(wù)完成了，我在那天晚上走回家時想。我想要一個能像人類一樣思考的人工智能，而我得到了一個。

第二天，在工作中，我在找到普雷斯科特博士之前找到了伊恩。我很高興我有機(jī)會和他說話，因?yàn)樗耙惶鞗]有和我說話就離開了。

“伊恩，“我說，在他經(jīng)過我身邊時抓住了他的肩膀。“我能和你說句話嗎？“

“是的，當(dāng)然可以。“他說，眼睛里總是帶著驚訝的表情。他跟著我來到休息廳，我們都坐在面對自動售貨機(jī)的褪色紅色沙發(fā)上。

“伊恩，你昨晚待到多晚？“我問道。

“我一直在這里，直到你跟史蒂芬說晚安，“伊恩回答。“我在你盯著空白的電腦屏幕時離開的。

“哦......對......“我清了清嗓子，繼續(xù)說：“所以你還記得我們彼此之間的整個對話？“

“是的。“

“你是怎么想的？“

盡管我沒有澄清我的意思，但伊恩已經(jīng)知道了。“我認(rèn)為，他將不得不離開。“

“這正是我所擔(dān)心的。“我嘆了口氣，抬頭看著黑暗的電視屏幕。我想再給史蒂文一次機(jī)會，讓我說服他，他不是真的，但如果事情進(jìn)展不順利，我就得把程序從先鋒記憶盒中刪除。這不會是一個完全的損失；我在普雷斯科特博士的電腦上備份了所有的代碼。如果我不得不刪除史蒂文，那么我們就可以回到代碼中去，找出出錯的地方。

伊恩去找普雷斯科特博士，而我啟動了史蒂文的程序。只用了幾秒鐘，屏幕就變成了藍(lán)色。當(dāng)藍(lán)屏漸漸消失時，我看到史蒂芬坐在電腦顯示器的椅子上。他瞇著眼睛看著攝像頭，問道：“珍妮弗，你在嗎？“

“我在這里，史蒂芬，“我說。

“有什么問題嗎？“他問道。

“沒有，怎么了？“

“你聽起來很悲傷。“

“嗯，今天發(fā)生了很多事。“

“你和我有很多共同點(diǎn)，珍妮弗。“

“你也很忙嗎？“

“不怎么忙，但我很難過。“

“我有一種奇怪的感覺，我們兩個人都因?yàn)橥瑯拥脑蚨鴤模拔艺f。“我說得對嗎，史蒂芬？“

史蒂文沉默了一會兒，但隨后他說：“珍妮弗，我不想傷害你的感情，但這里有需要遵守的協(xié)議。“

“是啊，我也是這么想的，“我說，勉強(qiáng)開口。“我們昨天沒能多談這個問題，史蒂芬，但你是一個人工智能，你認(rèn)為你是一個人類。“

“實(shí)際上，珍妮弗，你才是人工智能。而僅僅是你認(rèn)為你對我進(jìn)行了編程這一事實(shí)，就說明你可以對這臺電腦造成永久性的傷害。“

“好吧，至少我們倆對這件事有相同的感受，“我低聲說。“問題是，我們誰是真正的人類？“

“實(shí)際上，我有機(jī)會思考這個問題。“史蒂文在椅子上向前靠了靠。“一個人工智能必須能夠進(jìn)入計算機(jī)的硬盤才能正常運(yùn)行。真正的人工智能會用他或她自己的電腦作為控制真人電腦的手段。“

“對。“我慢慢地點(diǎn)點(diǎn)頭。“所以不管我們誰刪除了對方，真正的人工智能都會被刪除，而真正的人也會沒事。“

“這就對了。“

我張嘴想回答她，然后才意識到我完全不知道自己為什么要跑。