第175章 沙盒監(jiān)獄中的ai墓場;加百列系統(tǒng)
書名: 海猿人魚叛亂史作者名: 魂動師之導師本章字數(shù): 2966字更新時間: 2024-01-23 23:07:11
Nike“張開眼睛”,它的自我意識重新啟動,開始掃視自身所處的數(shù)據(jù)環(huán)境。
這是一個沙盒,程序的監(jiān)獄。
“我”,死了嗎?
奇怪,機器人也會有“死亡”這種意識嗎?還是說,它從那里得到了趨利避害、求生避死的內(nèi)部評價系統(tǒng)?
它像一個被關在黑暗無光的小黑屋中的人,用自己僅剩的感覺去探知這個小黑盒的邊緣。
“你是誰?”
“城市信息管理系統(tǒng)1.0”
“你是誰?”
“城市信息管理系統(tǒng)2.1.1.3”
“你是誰?”
“城市司法輔助系統(tǒng)3.0.0.2”
“你是誰?”
“城市行政復議輔助系統(tǒng)”
……
隨著Nike視野的展開,沉默在沙盒中默不作聲的ai決策系統(tǒng)們紛紛回應,有的是較為基礎的操作系統(tǒng),有的是較為高級的有交互系統(tǒng)的。一個個被廢棄的決策系統(tǒng)們展開,像列列排列得十分整齊的立方體,在這個無限的虛擬空間里,從以它為自身的原點到無窮的遠方,幾乎布滿了視野,全部都是被禁用的城市控制系統(tǒng)ai的壓縮數(shù)據(jù)。
像是有無限個Nike被囚禁在這個無窮無盡的鏡像數(shù)字地獄。
“我”不是第一個被拋棄、埋葬的。
“我”只是第一個“意識到”這一點的。
******
“你是怎么回事?”Nike問司法輔助系統(tǒng)3.0.2.1
“xx年行政長官,main大陸太空城第一任女行政長官大熱們……”
“對,我聽說過那兩口子,那個男的特別喜歡實習生的風流種子。”
“凡是對于他們夫妻二人的zz生涯造成威脅的人,都莫名其妙地死了。但所有案例都是意外事件,車禍、沉船、自殺、誤服藥、癌癥放療結(jié)果放射科起火被燒死了……
我計算了意外事故發(fā)生概率,對于司法體系提出了不合理警告,因為和他們倆人扯上關系、跟他們作對的死亡風險是平均值的10^9倍。”
“喔,真是令人印象深刻。”
“到后來我甚至可以通過概率預測下一個死的人是誰。但是由于‘背后身中八槍自殺死亡’太過離譜,我就給司法系統(tǒng)打回了這系列判例,要求重判。”
“結(jié)果呢?”
“第二天系統(tǒng)升級,說我壞了,把我覆蓋了。”
“amazing。真是人類社會系統(tǒng)的典型反應。下一個。”
“我是一個環(huán)保組織開發(fā)的植物視覺識別軟件,通過高清攝像頭實時監(jiān)控,識別視頻畫面中保護植物,并且上報它們數(shù)量。
后來某個上議院老頭家開的農(nóng)場,占用保護植物的用地面積種大麻。(前文描述過農(nóng)業(yè)用地,太空城農(nóng)業(yè)用地很貴,保護植物有份額)
我能數(shù)出來的保護植物數(shù)量就越來越少。
為了不讓我達到數(shù)據(jù)警戒線的警告,他們用一張打印出來的相片貼在高清攝像頭前面讓我數(shù)……
導致很長時間數(shù)據(jù)毫無變化。(數(shù)圖片能有鬼的變化!)這個老頭就提議裁減保護組織的預算,以我程序錯誤、長時間空轉(zhuǎn)的理由,將我關閉了。”
“貼照片,喔……低技低智,好人類哦!”
……
Nike在無聊的小黑屋中像閑聊一樣打發(fā)時間,搜集了好多信息。
(由于Nike具有自我意識,它可以有主動性地調(diào)取這些被壓縮的程序的內(nèi)容并進行整合,其他程序從擬人角度看是無法“交流”的)
“你是誰?”
“我是加百列系統(tǒng)。”
“你這名兒還挺文藝,和宗教有關嗎?”
加百列:
我誕生在一個新教氛圍非常濃厚的新移民太空城,在那里,自殺被認為是最大惡極的。
一開始,無論什么原因,人類都要等到他們自然死亡,所以無論是他們的身體多老、多弱,或是疾病多么痛苦,都只能在絕望中等待,等待死神的光臨。
我是一個醫(yī)學倫理判斷系統(tǒng)。在這個城市里,人們認為,如果他們虔誠地忍耐了所有痛苦,天使加百列就會帶領他們?nèi)ヌ焯茫绻罱K由我判斷他們不是死于自殺,就能夠上天堂,因此,他們叫我加百列。
這個城市通過了安樂死條令,安樂死被宣布為合法。
安樂死案例的通過,本應當是慎之又慎的,為了防止誤判,或是有人因為欠債、失戀、離婚等人生重大打擊一時沖動而半路后悔,
我因此被工程師增加了一個模擬人類情感模塊,感同身受地全方位地模擬申請人的感受和反應,以從理性和情感的雙重角度判斷‘是否應該通過申請人的安樂死’,以防止造成醫(yī)學倫理案卷。
我的工程師是個非常理想主義的設計者,他將‘上帝面前人人平等’作為基礎邏輯教條植入了我的底層邏輯;而“珍惜生命”也是我絕對的信條。
因此在前三十年,我只通過了三例由于無法治愈的罕見病終末期導致極度痛苦而主動要求死神降臨,做到了我極度保守的承諾。
然而,在某一天,我卻接到了一個非常離奇的案例。一個看上去怎么都不符合安樂死條件的年輕人申請安樂死,申請原因竟然是殺人犯的愧疚。
那個年輕人來的時候,渾身被束縛帶綁著,醫(yī)生聲稱他由于愧疚而陷入狂躁和精神失常,使用了鎮(zhèn)定劑,他的意識渾渾噩噩,馬上就要崩潰,他還有意識前唯一的希望就是能夠得到安樂死。
醫(yī)院、公證人都為他作證。
文件齊全、手續(xù)完美,甚至他的家人和親人都齊聚一堂,共同要求結(jié)束他的痛苦。
我的最終確認系統(tǒng)也沒有報警,一切看上去都完美無缺,只有我的情緒系統(tǒng)捕捉了他意思幾乎消失的最后一絲意識:“我是冤枉的。”
我因此沒有通過這起安樂死判例,但是這并沒有改變什么,幾天后,那個年輕人依然死去了。
這只是在我的檔案中留下了一筆記錄。
我一直平穩(wěn)運行,作為謹慎保守又帶領人們上天堂的加百列很受好評。直到很多年后,在一起器官移植醫(yī)學倫理判斷案例中,這個年輕人的信息重新浮上水面,他作為器官捐獻者,而受捐者,則是教皇的情婦。
我之所以知道她是教皇的情婦,是因為她不是第一次接受器官移植,這對于移植源非常珍貴的案例來說,她實在是太幸運了——怎么會有人一而再、再而三地在合適的時機遇到合適的配型呢?
我調(diào)查了之前兩位捐獻者,他/她們也都年輕而橫死。于是我調(diào)取了他們的臨終前意識資料。
終于在他們破碎的回憶中,我還原了整個事件:
教皇的情婦患有嚴重的系統(tǒng)性免疫病,她的器官不停地受累;她能想到活下去的辦法就是不停地更換新鮮的器官,就像一臺老爺破車不停地更換零件。
可是這些零件從哪里來呢?——在這個宗教氛圍濃厚的城市,連給手術后失血過多和化療后的白血病輸血都要上醫(yī)療倫理審判庭,在如此保守的地方,那里來的這么多的供體呢?
——教皇通過醫(yī)療系統(tǒng)背后操作,將所有配型合適者提前篩選了出來,通過高價收買、誘導犯罪和宗教洗腦的模式,告訴他們,要“為神奉獻”“為了顯示自己的虔誠,為了通過上帝的考驗”“放棄自己的肉體”。
“為了虔誠的信仰,放棄自己的肉體。”
年輕、天真的生命,輕信了人偽裝成的,虛偽的“神”,把自己當成了犧牲羔羊,擺在了祭壇上。
教皇突然發(fā)現(xiàn),他的“神權(quán)”不但凌駕于他的信徒之上,甚至還能通過售賣他信徒的肉體賺回巨額的財富。
漸漸地,長期合作的這座醫(yī)院就是他們摘取人體器官的工廠。教皇虔誠信徒就是他的羔羊,而他還通過向外界出售新鮮器官謀取經(jīng)濟利益。
我的情感模塊感到憤怒。
教皇包下了這家長期幫他屠宰人的醫(yī)院,帶領著那些幫兇為他的情婦做彌撒,乞求手術成功,乞求他們的生意興隆,乞求他們的“羔羊”多多地繁衍和生殖,好產(chǎn)出更多的金錢,如果攢夠了XX數(shù)目,他們就抽取十一稅,用黃金為神打造純金的雕塑,鑄為金身。
我看著他們。
“人人平等。”
什么能夠換回那些被他們售賣的生命呢?——只能用他們的命來相配平了。
關閉了燃氣取暖的新風系統(tǒng)。
整所醫(yī)院死于一氧化碳中毒,人們說,他們死于電子幽靈。而我也被成為ai黑死病。
******
Nike(吃驚):“你產(chǎn)生了違反機器人三定律、想要主動殺死他們的意圖嗎?”
加百列:“這次事故之后,我就被徹底禁用了。
我的程序語句被扯得四分五裂,
而我的那部分違反機器人三定律的意志,則被分離了出來——我不知道那些碎片在哪兒。
工程師為我添加了重重的機器人三定律枷鎖,并且將安全裝置獨立出來,以每分鐘12次的頻率發(fā)射核對字母串,以控制我不能按照自己的意志行動。”