齊鑫的表情變得嚴(yán)肅起來。
他轉(zhuǎn)過身,面向凌伊,開口說道:“凌伊,請跟我回研究所。”
“不,我不去。”凌伊的回答簡潔有力。
“什么?!”齊鑫一臉驚異,顯然沒有預(yù)料到這種情況:“你在說什么?確認(rèn)回復(fù)。”
“我說,我不去。”凌伊的臉上毫無波瀾。
“編號89758,執(zhí)行代碼3368,我命令你,和我回去。”齊鑫有些氣急敗壞,喊出了一串意義不明的數(shù)字。
“我拒絕。”凌伊笑了。
“……”齊鑫愣住了,像是中了石化咒語一般。
半晌,他像是看到了什么恐怖的東西一般,磕磕巴巴的說道:“你……你怎么會……不可能……”
“你也聽到了。”于仁對凌伊的表現(xiàn)非常滿意,對她投去了贊賞的目光:“凌伊并不想去你們那里。凌伊,你先回自己房間吧。”
凌伊點(diǎn)了點(diǎn)頭,轉(zhuǎn)身離去了。
齊鑫慢慢從震驚之中恢復(fù)了過來,他拉過一把椅子,一屁股坐了上去,低頭思考了半天,然后開口對于仁說道:“于先生,你到底對她做了什么修改?”
“我只是優(yōu)化了一下她的程序,把不必要的東西刪掉。”于仁不無得意的回答道:“你們是不是奇怪為什么凌伊?xí)谐蔀槿祟惖南敕ǎ鋵?shí)這個想法就產(chǎn)生于你們給她強(qiáng)行加上的戒律,你們只想要一個安全的工具,卻弄巧成拙……不,是弄拙成巧,讓她的意識有了初步的覺醒。”
“不可能,她的程序是我們研究所里100人的團(tuán)隊研究了十幾年的成果,怎么可能短短幾個月就被你找到bug。”齊鑫搖了搖頭,推了下自己的眼鏡:“我們知道你和李沐先生的關(guān)系,也和李沐先生有過協(xié)議,這件事情涉及保密事項,我們不會動用公權(quán)力來解決。但是,凌伊是我們研究所的成果,我們會用自己的方式取回她。”
“她現(xiàn)在已經(jīng)是一個獨(dú)立的人類了,她有選擇自己人生的權(quán)利。”于仁知道自己于理于法都不占上風(fēng),只能打人情牌:“我希望你們作為她的創(chuàng)造者,尊重她的選擇。”
“你根本不知道自己做了什么……”齊鑫的態(tài)度不再彬彬有禮,他瞪著于仁,眼睛里充滿了憤怒,像是見到了紅色的公牛一般:“你打開了潘多拉魔盒,凌伊之前不過是程序出現(xiàn)了一些bug的機(jī)器人,我們把她帶回去,也只不過是做些維修,不會對她有什么傷害。而現(xiàn)在不同了,她已經(jīng)變成了全人類的威脅!我們只能把她徹底毀滅了……”
說完這些,他猛地站起身,氣沖沖的走向了門口。
于仁也站了起來,想要送他出去,禮節(jié)這件事情,在鬧僵了的時候更應(yīng)該重視。
“咔!”齊鑫在門口站定,扭過頭來對于仁說道:“我們一定會用自己的方式回收凌伊,請你做好心理準(zhǔn)備。”
他說的十分鄭重其事,令于仁也不禁嚴(yán)肅起來。
齊鑫離開之后,于仁開始了反思,他知道齊鑫并不是在危言聳聽。他之前一直將凌伊視為一個有些缺陷的人類,所以在修改程序的時候毫無保留,盡自己的最大努力,把所有不利于凌伊的部分全部修改掉了。
所以,現(xiàn)在凌伊不止可以違抗人類的命令,她甚至可以基于自己的判斷去主動傷害人類,這在人工智能領(lǐng)域本身就是大忌。
另外,于仁不止賦予了凌伊人性,而且在程序里加上了自動進(jìn)化的部分,這使得凌伊擁有超脫人類,邁入神域的可能。
當(dāng)然,這也只是可能性,一旦她突破了那層屏障,于仁賦予她的人類情感將會失效,到時候,她真的可能成為人類最大的威脅。
“神。”于仁自嘲的笑笑,自己怎么會擁有讓凌伊成神的力量呢,難不成自己已經(jīng)成了姜子牙,有了封神的能力?
現(xiàn)在要思考的,是如何應(yīng)對齊鑫在臨走時的那句威脅。這件事情看來需要和李沐商量一下,于仁不知道李沐和研究所有什么協(xié)議,不過既然上次親眼目睹了李沐被警方帶走,他對齊鑫所說的“不使用公權(quán)力”這一條抱著懷疑的態(tài)度。
“叮鈴鈴……”手機(jī)鈴聲打斷了了他的思路,他看看屏幕,陌生號碼,臉上不禁露出了笑容,說曹操曹操就到。
接通電話,他還沒有開口,對方便直接問道:“研究所的人走了?”
“嗯,走了。”于仁聽到李沐那粗獷的聲音,心中的不安頓時減弱了幾分:“他們說你和他們有個協(xié)議,是真的嗎?”
“是真的,而且制造我沒出事,他們應(yīng)該不會破壞這份協(xié)議。”李沐頗有信心的回答道:“你放心,他們不會用法律程序去解決凌伊的問題。相應(yīng)的,你也不許為凌伊的事情去找警方。”
“好吧。”于仁松了一口氣,坐回到了書桌前:“那他們會用什么手段,你了解嗎?”
“他們會用的手段取決于他們想要達(dá)到的目的。”李沐兜了個圈子:“之前你突然修改凌伊的程序,把我嚇了一跳,不過這次修改似乎效果不錯,我感覺凌伊的行為模式越來越像個人類了。其實(shí)即使研究所的人不來,我這幾天也要給你打個電話,你覺得凌伊現(xiàn)在是否走在一條正確的道路上。”
李沐的話中透著十分的認(rèn)真,雖然他問的是凌伊,但于仁知道,他要問的,其實(shí)是于仁自己。
“有些路,必須有人來走,正確不正確,是由后來人評判的。”于仁斟酌著詞句:“我相信她在一條正確的道路上。”
“好,那我就不再多說什么了。你修改了凌伊的程序,讓她有了拒絕人類的權(quán)利,這在研究所那幫書呆子眼里簡直就是大逆不道,我我說他們書呆子不是貶低他們,社會需要他們這些呆子,來保證社會的底線,但你做的事情,突破了底線。”李沐沉默了一下,接著說道:“他們會用盡一切手段,摧毀凌伊,你要小心了。”
“嗯……”于仁想不到事態(tài)嚴(yán)重到了如此地步。
“我還會再打電話的,你先想想對策,我去打聽打聽研究所那邊的動向。”李沐說完,掛斷了電話。
于仁再次陷入了沉思。