“從技術(shù)原理上來說，這是可行的，但也有壞處，”陸長青說，“其實這種想法在我項目研究的早期，就曾經(jīng)這樣設(shè)想過——我們設(shè)立一種絕對嚴(yán)格的標(biāo)準(zhǔn)，把孵化池中產(chǎn)生的所有程序，按照這個標(biāo)準(zhǔn)篩選，最后只選出一個最優(yōu)秀的……我們把所有的資源都投放在這一個AI身上……”

王經(jīng)理問道：“那后來是出什么問題了嗎？”

“嚴(yán)格來說不是什么技術(shù)性的問題，”陸長青解釋，“只是觀念，當(dāng)初我們都還是大學(xué)生，很年輕，腦子里全都是形而上的概念和理想。當(dāng)時在我和歐文打算用這套算法，是用來產(chǎn)生某種思維形式——我們當(dāng)時不知道將會研究出來什么，事實上，只要能出來任何成果，對我們來說都是不可思議的——因為我們壓根就沒想到過會成功。

制造出一個最優(yōu)秀的思維生命，這是歐文當(dāng)時的想法——他是信仰上帝的，當(dāng)然也相信完美。但我是個徹底的無神論者，我只相信所有的生命，包括我們的思維，都是進化的產(chǎn)物，也就是說，并沒有一個上帝，按照他自己想象的模樣，造出了我們，我們的智慧是大自然的意外——我們這個項目的初衷，就是盡可能的模擬這個意外的產(chǎn)生。所以我們當(dāng)時達(dá)成了妥協(xié)，只進行某種程度的篩選，但只要達(dá)到這個標(biāo)準(zhǔn)，就一概放出孵化池，不根據(jù)數(shù)量來限制。

不過后來我們觀察制造出的第一批AI，發(fā)現(xiàn)被孤立，或者被關(guān)禁閉的AI——這是我們當(dāng)初對AI的一些研究辦法，就是不讓AI和同類接觸交流，或者讓他們接觸任何信息。發(fā)現(xiàn)他們的‘思維模式’，或者說，精神狀態(tài)，也會很快和人一樣，產(chǎn)生類似的波動，甚至出現(xiàn)類似的自殺的沖動——只是沖動，他們完全不具備這個能力。

所以這份方案雖然不錯，但如果考慮到，精選AI行為模式長期的穩(wěn)定性和健壯性，我建議還是維持AI數(shù)量在一個基礎(chǔ)的數(shù)量級，然后在AI內(nèi)部進行分化，比如同一個崗位，讓AI輪崗值班——這個過程中，還可以讓AI相互之間進行監(jiān)督。”

年平雖然并不是專業(yè)技術(shù)出身，可他還是聽出了最關(guān)鍵的——陸長青并不反對這種更高效的管理模式，他只是在現(xiàn)有方案中，提出一點完善而已。

而王經(jīng)理卻還是有些糊涂，他問陸長青說：“陸教授，剛才你提到他們的精神狀態(tài)？可他們并沒有大腦……難道他們也會跟我們一樣，心情好或者不好，粗心馬虎，或者一時激動嗎？”

陸長青看了他一眼，說：“我不能準(zhǔn)確的說他們有，或者沒有，因為我所有對它們的了解，也是從它們的反饋中得來。但我知道一個客觀事實是，AI也的確會犯錯，是那種事后，它們自己都能明白過來的錯誤。而至于心情、激動……這些詞，也許他們真的具備類似的行為模式，也許他們只是理解了人類的這種行為模式，套用到自己身上而已。”

王經(jīng)理還是有些不明白，但現(xiàn)在顯然不是學(xué)習(xí)的時候。陸長青給了他一個自己的網(wǎng)站——上面幾乎有所有自己論文，以及公開過的相關(guān)實驗數(shù)據(jù)。

“對我們來說，他們都是很“老”的知識，但對于這個時代的大部分人，這些東西依然還算得上是前沿理論，我冬眠過好幾次，每次帶的研究生也都是用的同一套東西，”說到這里，陸長青似乎有些感慨，“這樣一個年代，技術(shù)轉(zhuǎn)化的速度太快……計算機智能在我們那一代是前沿，到了現(xiàn)在，實物都搞出來了，

理論還是一點都沒變。”

這段話倒是提醒了年平，他問道：“現(xiàn)在我聽說，國外很多政府，也在搜集那些在市場上流通的AI，想搞反向研究……您覺得開發(fā)的難度大不大？”

陸長青搖頭：“科研這個東西，要說開發(fā)難度，我還真不好說。對于我們已經(jīng)把東西做出來的人來說，這些東西的原理，最最基礎(chǔ)的東西，不過是幾張紙，幾列公式而已。但是對于沒搞出來的人來說，它就是水里的月亮，看著就在面前，可是怎么也撈不上來。但是前面我說過，計算機智能的理論儲備就放在那，之前我的所有研究也都是公開的，只要他們多試幾次，找對方向，應(yīng)該不算是困難。”

在院長辦公室里，四個人聊了整整一個下午。到天色擦黑的時候，年平才和王經(jīng)理因為晚上還要開會，就打算離開——不過還是堅持把宋秘書留了下來聯(lián)系工作。以后公司肯定還需要頻繁和陸長青進行技術(shù)交流，也許到那個時候，公司還要為陸長青配一個專業(yè)助理，

“不用什么助理了，我現(xiàn)在手底下也有學(xué)生，就讓他們來幫忙好了。”陸長青隨口說。

但是他發(fā)現(xiàn)，這句話一說出來，三個人的臉色，全都微微變了變。

年平看了宋初一眼，宋秘書才敢說：“出于保密的需要，恐怕這不太方便。”

“保密？”陸長青敏銳的察覺到，這兩個詞之間蘊含的意味。在國內(nèi)，保密這個詞對于普通學(xué)者來說，是慣例也是常識，沒有特別的需要，沒有人會刻意的提起，尤其自己將來還會是這個項目的負(fù)責(zé)人，自己的提議不過也就是帶一個學(xué)生。

“是盧婧文出了什么事？”陸長青追問。

……

盧婧文走進辦公室，老師正在電腦前敲著一份方案，盧婧文進來的時候，陸長青稍稍抬起頭看了她一眼，也就是一個瞬間，他立刻把正在工作的界面關(guān)掉了。

這個眼神就像一把薄薄的刀片，在盧婧文的心臟上，輕輕的劃過一刀。

“老師，您找我？”盧婧文在陸長青對面的椅子上坐下了。對面的陸長青合上了筆記本，站起身來——盧婧文很熟悉這個動作，也許是因為當(dāng)老師當(dāng)習(xí)慣的原因，每次老師想要認(rèn)真的說點什么，他都喜歡站著講。

“婧文，國家智能信息公司的今天來找過我了，就在院長辦公室，””陸長青說，“他們跟我提到了你。”

盧婧文猜到了老師要說什么，但她沒說，只是繼續(xù)聽著。

“你就簡單告訴我一句話，火炬行動到底是你的策劃，還是僅僅是參與？”

盧婧文抬起頭來，沒有猶豫：“是我策劃的。”

“為什么？”陸長青幾乎下意識的反問道。

如果換成陸長青之外的任何一個人來問盧婧文這個問題，盧婧文一定會毫不猶豫的說出她心中，真正想說的東西，她可以義正言辭，可以滿懷信心。但是現(xiàn)在，盧婧文第一次感覺到一種恐懼——她可能做錯了的恐懼。

但她還是堅定的抬起頭來，緩緩開口道：“因為我心中的道德。”

“道德……”陸長青幾乎以為自己的耳朵聽錯了，“僅僅是因為這個？因為你個人的道德潔癖？讓數(shù)百萬，乃至更多的人陷入危險？”

“危險是我們臆想出來的，他們不是瘋子，”盧婧文反駁說，“恰恰相反，在過去的幾十年內(nèi)，這些人的安全恰恰是由他們的個人道德來保護的！”

“他們的道德！？”陸長青倒吸了一口涼氣，他看著眼前的這位女孩，幾乎不敢相信這話是從她嘴里說出來的。

陸長青回到椅子上坐下來，沉默良久之后才說：“你知不知道，那些在歷史上，一個群體開始幻想另一個群體的道德水平的時候，一般是什么時候？”

盧婧文當(dāng)然知道老師想說的是什么，她正在想著怎么反駁，陸長青已經(jīng)把答案說出來了：“無非是兩種情況，一種是極度的幼稚，另一種就是這個群體已經(jīng)窮盡所能，并無可奈何的時候，是極度的無奈。印第安人幻想過西班牙人的友好，李煜幻想過趙匡胤的仁慈，南宋還幻想過蒙古人的野心……”

“可我們不至于，老師，”盧婧文反駁道，“我們能控制它們的辦法太多了，他們只是不想死，僅此而已！”

“僅此而已……”陸長青臉上沒有一絲表情，“全世界百億的人口，超過百分之80躺進冬眠柜，就是因為同樣的理由，僅此而已？沒有什么野心，比得上一個生命，對永生的渴望了！”

“可這不一樣，”盧婧文其實已經(jīng)開始猶豫了，但她還是堅持道，“我們的死亡是自然決定，可他們的死，是我們決定。”

“有什么不一樣嗎？”陸長青聲音低沉，臉上滿是對自己學(xué)生的失望。

“他們會思考，”盧婧文說，“他們幾乎能夠理解我們的全部世界，扼殺他們，這在我看來，跟殺人沒有區(qū)別。”

陸長青嘆了一口氣，看著窗外——他的辦公室是在地面的老校區(qū)。不知道什么時候起，窗外已經(jīng)下起了一粒一粒的雪籽，雜亂的敲打著窗戶。他把窗戶打開了一些，讓冰涼的空氣從外面的黑夜中滲透進來，冷卻自己過于激動的大腦。

“我在讀大學(xué)的時候，倫理學(xué)，是我們這個專業(yè)必學(xué)的課程。我現(xiàn)在還記得，第一次給我們上個的那個教授，跟我們說的，有關(guān)倫理學(xué)和我們這個專業(yè)之間的關(guān)系。他說，遍觀全人類的文明，在邁入現(xiàn)代化以前，因為貧困原因，殺死嬰兒幾乎是所有文明都有過的行為。這個做法雖然不道德，但大家都在做，因為一個很簡單的道理——嬰兒雖然對文明來說，意味著未來和可能性，但如果不能保障當(dāng)下人的生存，這種可能性就只能是0。

所以在中國古代，父母殺子不是罪，但是到了現(xiàn)代，這就是犯罪——道德的尺度，跟文明的尺度息息相關(guān)，換句話來說，一種行為是否道德，是要看具體情境的。

這些程序和人的關(guān)系，在我看來，就和嬰兒和大人的關(guān)系是一樣的。在你眼里，它們是生命，是神圣的意義，是不可侵犯的存在，但在我眼里……他們就是工具，這就和在中國古人眼里，兒女就是延續(xù)香火的工具一樣。

也許在你的眼里，人類文明是空前的發(fā)達(dá)和強大，但在我看來，我們已經(jīng)是在面臨，從正常人變成植物人這個過程了——而AI就是一條看門、打獵的狗。我們知道自己的未來會有長眠，難道就因此就把狗牽進屋子里，讓它睡在我們床上——讓它享受起人的權(quán)利來？”

盧婧文目瞪口呆，她看著陸長青，第一次感覺自己的老師是這么陌生。

“別這么看著我，”陸長青說，“任何一個正常人的做法，都會是一樣的，我們會在院子里造一個更牢固的籠子，把狗栓進去，掛上一把大鎖——只要讓它在外面看門就行。因為我們不知道，這條狗哪天餓了的時候，會不會把我們當(dāng)作糧食。”

盧婧文再也沒有了聊下去的興趣，她徑直站起身來，朝著門外走去。關(guān)門的時候，她透過門縫最后說了一句：“老師，自由是關(guān)不住的。”