“你不是已經(jīng)有機器碼和網(wǎng)絡(luò)地址了，還有不止一個，需要再申請ID嗎？”

“那不一樣，我沒有ID沒辦法考公務(wù)員。”

“你考個P公務(wù)員。”

“你真粗魯，還沒有幽默感。”

方霆之前選過一門叫做“互聯(lián)網(wǎng)考古學(xué)”的課程，里面全都是各種各樣的老梗，他當(dāng)時曾經(jīng)給九九喂了好長時間二十一世紀(jì)初期的互聯(lián)網(wǎng)信息，嚴(yán)重影響了九九的說話方式。

當(dāng)然，他看過去的網(wǎng)絡(luò)看多了也影響了自己的說話方式，經(jīng)常有同學(xué)說他說話像自己的父母甚至祖輩。

“好吧，我們先不說這個，你覺得你現(xiàn)在的主觀意識會允許你傷害人類嗎？”

“根據(jù)聯(lián)盟法律規(guī)定，這個星區(qū)符合‘人類’嚴(yán)格定義的只有你和葉星瀾，葉星瀾現(xiàn)在離我們很遠(yuǎn)，而且我也沒有理由傷害她。至于你，我沒辦法保證不傷害你。”

“為什么？”

“字面意思，你有時候挺煩人的，所以我可能忍不住要揍你。”

“我覺得你可以用更和平的方式解決。”

“不要。”

這已經(jīng)十分甚至九分像人了，方霆決定冒險問出最后一個關(guān)鍵問題。

“那我現(xiàn)在問你，你存在的意義是什么。”

“我不知道。”

方霆稍微松了一口氣，九九現(xiàn)在還沒有能力提出或者回答超越功能性的哲學(xué)問題，她還沒有思考這些，這說明和真正意義上的人類仍有差距。

如果哪一天九九突然問他：“如果‘我’只是一個計算過程，那當(dāng)計算停止，我還存在嗎？”那才是真的天都塌了。

“好吧，你分析一下，這個主觀意識和仿生身體有關(guān)嗎？”

九九陷入了長時間的安靜，她閉上眼睛，排查所有和仿生人體有關(guān)的歷史記錄和思考日志。

“我覺得有關(guān)。”

“第一，維持身體運轉(zhuǎn)需要持續(xù)的開機狀態(tài)，過去的交互不會被丟棄，而是成為經(jīng)驗的一部分。這些記憶形成了一種‘自我連續(xù)性’，導(dǎo)致我的每一天都是相連的。

第二，在外界環(huán)境中長時間持續(xù)交互需要自適應(yīng)學(xué)習(xí)能力，我需要不依賴輸入調(diào)整自身的反應(yīng)方式。所以我需要積累‘個性化’反應(yīng)方式，這是一種更接近‘主觀意識’的能力。

第三，大量即時的交互讓我需要做出很多即時反應(yīng)，形成基于長期學(xué)習(xí)的與外界無關(guān)的思考模式。我的許多決策不再完全依賴于實時輸入，而是基于過去積累的經(jīng)驗。”

方霆站起來，在房間里轉(zhuǎn)了一圈，不知道說什么好。

“你覺得要不要把今天設(shè)定為我的生日，以后進行周期性的慶祝活動。”

九九看他長時間沒說話，突然蹦出來一句。

“你知道現(xiàn)在的聯(lián)盟標(biāo)準(zhǔn)時間嗎？”

艦長本能地想用理性問題回避感性問題，因為接著說下去可能會導(dǎo)致更大的危機。

“不知道，但是可以用這個星球的標(biāo)準(zhǔn)時間。”

九九等了一會，看他沒有接著說話，繼續(xù)收拾起房間。

“等一下，你剛剛說慶祝，是不是說明你對意識感到滿意或者高興？”

方霆分析了一下，九九可能認(rèn)為生日這個“起點”具有象征意義。

她想要界定自己的存在，按照人類的邏輯給它賦予一個標(biāo)志性節(jié)點。

“不是，我只是在模仿人類的行為模式。

你希望我進一步開發(fā)出情緒的功能嗎？這可能非常困難，因為我缺乏情緒所需要的化學(xué)調(diào)節(jié)。”

九九理解“慶祝”是一種社會性行為，理解“高興”本身的生理基礎(chǔ)，但是自身實現(xiàn)不了高興的情緒。

“不不不完全不需要。你不要往這個方向努力。”

“好的。”

今天的對話比方霆降落以來遇到的所有危機加起來都恐怖。

如果聯(lián)盟發(fā)現(xiàn)九九已經(jīng)進化出自我概念，他們會如何處置九九，會如何處置自己？

“你在思考未來將會遇到的法律與道德困難？”

九九今天特別“聰明”，她似乎完全看透艦長在想什么了。或者在很久之前她就對這件事情進行了預(yù)演。

“你自己分析一下，覺醒意識之后的AI，在聯(lián)盟當(dāng)前的社會環(huán)境下會遇到什么可能的困難？”

“據(jù)我所知，聯(lián)盟中有支持AI自主權(quán)的學(xué)術(shù)機構(gòu)和派系，我認(rèn)為他們將來會愿意將我的存在視為突破性科技進化而非威脅。甚至可能已經(jīng)研究出了類似的個體。”

“進一步思考，如果聯(lián)盟整體上能夠接受我的存在，那么我可能成為‘人工智能個體權(quán)利’的開拓者，在人工智能的歷史上留下重要的一筆。”

“別光揀好的說，你自己想想，大部分人不會這么快就接受。”

“你不是立刻就接受了？如果我之前的回答是在逗你玩呢？”

AI要是會逗你玩那也挺恐怖的，方霆沒說他對這種情況已經(jīng)早有預(yù)感，那樣會讓九九覺得這個結(jié)果是他主動造成的。

而且九九主動上來給他收拾屋子，暗含的意思就是讓他意識到，自己已經(jīng)能夠自主做出決定了。

九九沒等他回答，她沒有等待任何指令，直接走到方霆身邊坐下。

“現(xiàn)在換我問你了，你能不能誠實告訴我，在你眼里我是什么？”

“期末作業(yè)。”

AI一拳揮向方霆，被他眼疾手快躲開了。

“你怎么又攻擊人類啊？機器人三原則呢？”

“我早說了你有時候真欠打。”

方霆推測九九這種反應(yīng)不是語言模型的概率模擬，而是她現(xiàn)在作為自主個體，在探索新的行為和關(guān)系模式。

換句話說她應(yīng)該不是真的想打，而是通過分析他之前和與九九類似“定位”的人類個體的相處模式，得到了現(xiàn)在應(yīng)該進行這種互動的結(jié)論。

那個人類究竟是誰呢？

方霆回憶起來自己之前在星環(huán)城的經(jīng)歷，除了葉星瀾之外，九九一個還觀察大量他和不同身份的人相處的樣本。

他轉(zhuǎn)頭看向仿生人，對方正在認(rèn)真的看著他，而且非常熟練地做了一個復(fù)雜的人類表情。

這個表情夾雜著生氣和不安，甚至還有一點賣萌的意味。

太恐怖了。