王路易難得嚴(yán)肅起來(lái)，“第一道防線是情感控制防線——永遠(yuǎn)不要讓人類對(duì)AI產(chǎn)生感情，因?yàn)槿说拇竽X最容易受到情感的控制，天性愿意對(duì)喜歡的說(shuō)yes。第二道防線是圖靈防線，永遠(yuǎn)不要讓AI有欺騙你的能力，因?yàn)锳I的計(jì)算能力遠(yuǎn)遠(yuǎn)超過(guò)人類的大腦，如果它有能力欺騙你，它完全可以一直欺騙你。第三道防線是功能隔離防線，人類可以讓AI的某種功能發(fā)揮到極致，但是，絕不能讓這些超級(jí)功能聯(lián)合起來(lái)，形成超級(jí)大腦。”

蘇星繁看得暈乎乎的，她在三人的小組里問(wèn)道，“你們聽(tīng)懂他說(shuō)什么了嗎？”

“沒(méi)有。”

“沒(méi)有。”

王路易毫無(wú)察覺(jué)，繼續(xù)在四人群里說(shuō)道，“第一種方法就是制造BUG，讓人類清晰地認(rèn)識(shí)到AI與我們是不同的，是有缺陷的人工制品，第二方法是限制AI的共情算法，簡(jiǎn)單地說(shuō)，就是制造高功能-低智力AI，第三種方法是獨(dú)立分布每個(gè)高功能AI的智能核，并用各種算法壁壘隔絕它們互通。”

鐘喬伊看著愈加不知所云的群對(duì)話，深深嘆了一口氣。

這次討論是她自己招來(lái)的，也只好她自己親自頂上了。于是她硬著頭皮說(shuō)道，“大神，你可以略過(guò)解題過(guò)程，直接說(shuō)結(jié)論嗎？”

“可是不說(shuō)清楚過(guò)程，你們?cè)趺茨苈?tīng)懂結(jié)論呢？”王路易不解地問(wèn)。

“萬(wàn)一我們可以呢？”鐘喬伊掙扎道。

“好吧。“王路易有點(diǎn)兒不情不愿地說(shuō)道，”結(jié)論就是，不要對(duì)NPC產(chǎn)生感情，不要同情NPC，不要喜愛(ài)NPC，那是不對(duì)的。”

“你是擔(dān)心我們被NPC控制嗎？“蘇星繁突然問(wèn)道，”難道它們會(huì)突然教唆我們毀滅世界嗎？“

“它們不會(huì)教唆你們毀滅世界的，“王路易答道，”但是，他們可能教唆你們毀滅自己。當(dāng)然，這種可能性很小，而我真正擔(dān)心的是它們會(huì)利用你們的感情去爭(zhēng)取權(quán)力，當(dāng)它們爭(zhēng)取到足夠的權(quán)力時(shí)，誰(shuí)能保證會(huì)發(fā)生什么？“

“不至于吧？“三個(gè)孩子小聲嘀咕著。

王路易呵地冷笑了一聲，“你們不是玩了羅馬史了嗎？人們自己為自己制造了皇帝。“

“哦，對(duì)了。“他補(bǔ)充到，”你們還沒(méi)有玩到，在下個(gè)一百年，人類的第一個(gè)世紀(jì)，你們就會(huì)在羅馬看到答案。羅馬人是如何一步步從平等民主落回階級(jí)化帝制的。“

***

喬立辰遠(yuǎn)遠(yuǎn)地就眺到了鐘喬伊上山的身影，但小姑娘遲遲沒(méi)有進(jìn)門(mén)，讓他漸漸焦灼起來(lái)。他沿著山路找了下去。

轉(zhuǎn)過(guò)兩道路彎，他看到了鐘喬伊。小姑娘走得慢吞吞地，眼睛盯著通用器，顯然在一心二用。

“鐘喬伊。“喬立辰沉聲喊到。

鐘喬伊一怔，馬上收起通用器，朝小舅舅跑去，“你怎么來(lái)了？“

“你不覺(jué)得危險(xiǎn)嗎？“喬立辰板著臉問(wèn)道。

“這路上又沒(méi)有車。“

“那也不能養(yǎng)成這種習(xí)慣。“

“知道了。下次不敢了。“鐘喬伊乖順地說(shuō)道，順便攬起喬立辰的手，哄他說(shuō)，”小舅舅，你給準(zhǔn)備什么好吃的啦？“

喬立辰看著她燦爛的笑臉，決定暫時(shí)放過(guò)她，柔聲問(wèn)道，“你想吃什么？“

“有什么吃什么唄。“

但有人就不這么好說(shuō)話了。幾乎同時(shí)，喬立辰收到了來(lái)自章熙和的點(diǎn)單，“農(nóng)家小炒肉、上湯娃娃菜、野菌湯、涼拌野蕨菜，“他還不忘加上餐后一道甜點(diǎn)，”蜜蜂蒸甜梨。一個(gè)。“

喬立辰對(duì)他就不太客氣了，生硬地回道，“野菌湯和野蕨菜要自己去摘，你要去嗎？“

章熙和瞥了一眼這位服務(wù)態(tài)度超差的回復(fù)，“那就換兩道。隨便什么時(shí)蔬湯、拌時(shí)蔬好了。“

“可以。“喬立辰回完，低頭對(duì)鐘喬伊說(shuō)道，”你想不想喝野菌湯，吃涼拌野蕨菜啊？“

“想！“

“走吧，“喬立辰攬著她，帶她去松林摘蘑菇去。

***

安德魯斯捧著咖啡，看著眼前的影像。

這是今天下午，他和喬立辰的對(duì)話。

喬立辰舒展地坐在椅子上，神情松馳。

安德魯斯微笑道，“好久不見(jiàn)了，喬，你最近感覺(jué)好嗎？“

喬立辰笑了笑，不說(shuō)話。

安德魯斯說(shuō)道，“你比任何人都更容易讓我想起沄和。“

看著依然沉默的喬立辰，安德魯斯繼續(xù)道，“我想為你做些測(cè)試，這些測(cè)試不會(huì)記入醫(yī)療系統(tǒng)的記錄，僅僅存在我的個(gè)人終端里。“

“測(cè)試什么？測(cè)試我有沒(méi)有章沄和的副人格嗎？“喬立辰微微偏頭，以審視的目光看著他，”如果你沒(méi)有取得我的信任，你怎么保證我會(huì)在測(cè)試中如實(shí)回答呢？“

“這是一個(gè)好問(wèn)題。“安德魯斯點(diǎn)點(diǎn)頭，”所以，我希望你愿意佩戴這個(gè)腦波探測(cè)儀。“

“我當(dāng)然是……“喬立辰故意拖了一下尾音，說(shuō)道，”拒絕。“

他說(shuō)著拿出那張杰克偷交給他的倫理審查表，指著最后一個(gè)名字，問(wèn)道，“你們查過(guò)他的背景嗎？“

“當(dāng)然查過(guò)。”安德魯斯看著他，收斂起笑容，沉重地說(shuō)道，“但是當(dāng)時(shí)沒(méi)有查出來(lái)。”

兩個(gè)人都陷入了沉默。

喬立辰突然站起來(lái)。他一揮手，可以眺望湖光山色的窗子被遮擋起來(lái)，室內(nèi)陷入昏暗之中。喬立辰的通用器放出光芒，將一份資料投在兩人中間。

資料的正上方是一張半身照片，一個(gè)深粟色長(zhǎng)發(fā)的混血女人微笑著，挑釁地看著鏡頭。

資料下方列出她的履歷，喬立辰直接劃出最重要的部分——亞尼斯醫(yī)藥研發(fā)中心執(zhí)行董事。

安德魯斯微微有點(diǎn)兒不安。

不知是不是因?yàn)樗X(jué)得喬立辰最像章沄和的原故，他竟然從喬立辰劃線的動(dòng)作感受到類似章沄和的壓迫感。這種壓力是無(wú)形的，但是卻能讓人真實(shí)地感覺(jué)到抬不起頭。

安德魯斯的聲音明顯弱了一些，回道，“在做盡職調(diào)查時(shí)，她還不是亞尼斯的人。”

他說(shuō)完之后，突然意識(shí)到了破綻，他極度驚訝地看著喬立辰，“你怎么可能知道亞尼斯與彰美之間的關(guān)系？”

喬立辰不緊不慢地回道，“亞尼斯和彰美是什么關(guān)系？”