彼得·沃茨

彼得·沃茨原先是一名海洋生物學家，因小說《海星》（Star Fish）、《盲視》（Blind Sight）而名聲大噪，還有一些故事則反響平平。另外，他成功地在沒被起訴的情況下重述了約翰·卡朋特的作品《怪形》（The Thing），且與一些權威人士有點過節。雖然他享受作為一個非暢銷書作家所取得的小小成績（作品被譯成二十種語言，屢獲各類獎項，從科幻小說到紀錄片再到學術作品都有獲獎，偶爾還會做些命途多舛的電子游戲），但最近他將這一切都拋諸腦后了——他選擇參與制作一部黑色金屬科學歌劇，講述的是將石花肺魚送去火星的故事，該項目由挪威政府資助（歌劇項目，不是肺魚項目）。就目前來看，這個項目的回報率更高。

距離資金耗盡還有六天，土衛二給了美杜莎[14]號一記重錘。海床尚未隆起，有外力從側面撞擊了探測器，機載熱敏電阻的數值突然激增——80°、90°、120°。剎那間一道閃光出現。海洋竟然沸騰了。巖石遍布的海床正在傾斜，仿佛某個怒氣沖沖的巨人一腳踢翻了桌子。

信號中斷。

遙測數據通過黑色的堿性海洋向外輸送。固定在冰層下的信號中繼器捕捉到了這些微弱的聲音，將之放大并傳播。在距離地平線一百八十公里的地方，尤瑞艾莉號像個巨大的金屬藤壺，緊緊依附于冰層底部。它從各種噪聲中過濾出了信號，通過六公里的重凍地殼把信號直傳給了絲西娜號。絲西娜號在斷裂的地平線上雙手合成桶狀，向下傳導信息。

“該死！”九十八分鐘后，蘭格出了聲。他抑制住想要捶艙壁的沖動，問，“我們能把它救回來嗎？”

“也許吧。”珊莎已經采取了一些應對措施，“但我不能保證結果會怎樣。”

十八個月了。

踩點、抽樣，試圖在那些煙囪[15]周圍找到硫化氫的蹤跡。這樣的事情他們做了十八個月。這一年半他們圍著地球的衛星——月球飛行，遙望著土星的衛星，明知希望渺茫，卻仍期盼遠處的那顆星球不似月球這般死寂。無效的化學成分被剔除，無定論的研究結果被拋棄，漸漸地，當初完整的科研團隊只剩下唯一一位忠實的助手還陪伴著蘭格。他們并肩作戰，直至經費耗盡。

如此收場亦在意料之中。

他們的診斷查詢和重啟命令需要經過一個半小時才能到達恩賽勒達斯；假如那里的機器人可以進行答復的話，他們又需要同樣的時間才能收到回答。天曉得要經過多少次信號往返才能讓機器人重回正軌。

“你還是去睡會兒吧。”珊莎說，“就算你一直待在我旁邊，無線電波也不會傳得更快。”

蘭格嘆了口氣：“好吧。除非像艙壁破裂這樣的大事，否則別來煩我。”

“行。”

“我是指裂得很嚴重那種情況，比如遇到了像颶風一樣強的太陽風。”

“沒問題。”

他穿過艙門，向上爬去。很久以前有人用紫色記號筆在艙門上潦草地寫下“控制中心”幾個字。沿路的曲折回環處曾是戈根奈人[16]常光顧的地方，如今已被軌道炮手和巨石牧馬人占領，他們的那些項目才是真的前程大好。蘭格一路上強顏歡笑，半心半意地揮著手，待爬進自己的小房間，初時的興致十已去九，空氣里彌漫著熟悉而自在的汗臭味與防腐劑的味道。他本想給地球上的雷蒙德打個電話，但在計算時區時睡著了。

顯示屏上的美杜莎號淹沒在各種閃爍的診斷數據中，像一個頭足綱動物的幽靈，各肢體橫展著，宛如在解剖盤上受刑的耶穌。

“她也跑得太偏了。”珊莎說，“信號中斷之后她居然還跑了二十一公里。那些間歇泉可不是開玩笑的，余波相當嚴重。不過——”她刻意停頓了一下，“我還是把她救回來了。”

“你真是戰無不勝。”蘭格承認。

“堅持不懈是我的中間名。”不管怎么說，確實救回了其中一個，“燃料電池受損。電量撐不了幾分鐘。”

蘭格盯著屏幕說：“我們還是可以直接利用梯度行進。之后就不再短時加速了，不過我們的速度原本就偏向慢和穩。”

在六個肢體中，有一個肢體的脈沖呈現黃色。“另外A4被毀了。它和集線器的硬連接也丟了——現在的這個前肢能動，但它沒有連接線，而沒有連接的備用品則沒有任何價值。”

蘭格指著顯示屏，A4的替代品傳回了數據。“我覺得看起來還行。”

“在這里當然還行。但受損的儀器在那里造成了各種電磁泄漏，把信號弄得一團糟。我們能在這端清理大部分靜電，可那邊的路由器基本上只能接收到噪聲。不過你來看看這個……”畫面上的美杜莎號站了起來，六條腿開始跳起踢踏舞來，“我讓小美動了幾步，來了解她整體的運作情況，然后……”

A4在跟著步調，至少它在努力跟上。這個肢體并沒有和其他肢體完全同步，但它也沒離得太遠。

“它一直在看別的肢體。”珊莎報告說，“它沒有收到直接的運動指令，所以它只是在——模仿其他伙伴。”

蘭格咕噥了下，頗受感動：“機智的小家伙。還有別的消息嗎？”

四個腎形結構在集線器中閃著紅光。“我們失去了浮力控制。外面有塊鋒利的石頭正在磨損我們最好的凱夫拉纖維，差不多磨了兩平方米。”

這可不是件好事。“我們能游嗎？”

“就連逃離底部都做不到。兩個氣囊上都破了大洞。”

“自動修復呢？”

“最起碼修復肢體沒問題，但是沒有電池它的速度會變慢。不過最后可能連電池也能修好。但氣囊怎么辦？”她搖了搖頭，“沒有配件的話你是修不了的。”

“所以，那就只能這樣了。”他頭痛了，“我想我該去收拾行李了。”

“我們就這樣放棄？”珊莎道。

“珊，我們被困了。而且，已經過去十八個月了。要在接下去幾天有所發現的可能性又有多大呢？”

“那已經有所發現的可能性有多大呢？”

他看向她，她回望著他。

“有話直說。”他最后說。

美杜莎號從顯示屏上消失了，取而代之的是對比度很低的2D圖像，紅外畫面上全是顆粒：蘭格認出了巖石裸露的山脊，以及冰冷而脆弱的枕狀熔巖。出現了模糊的海底地貌，接著機器人趔趄了下，畫面轉向了左側。

某個明亮的東西突然闖入畫面。

“那是——”

再次出現。

“——什么？”

“A1的緩存畫面。”珊莎用停幀模式重新播放了這段視頻，“當我們失去聯系時，有幾秒鐘視頻片段卡在了緩存里。”重播的視頻中出現了許多不穩定的連拍快照。當陰暗的地勢從鏡頭中消失，一個明亮而模糊的東西踩了進來。一道亮光糊住了左側畫面。接著，稍微向上晃了一下。

突然，鋒利的邊緣，有好幾個面，還有結構。只有一兩幀畫面；然后畫面里又出現了動態模糊。

“天啊……”

“畫面經過了增強。”她提醒他。

“我知道。”頭痛立刻被他拋到腦后。

“被動紅外。比周圍環境高半度，最多高一度。”

“它是對稱的，”蘭格說，“它有兩個面。”

“有可能。但從這個角度無法確認。”

“還有其他相機捕捉到這個嗎？”

“沒有。而且聲吶系統已經弄亂了，所以從聲——”

“你看到它動了嗎？我覺得它動了。”

“蘭格，那是一次火山爆發。所有東西都動了。”

“我們必須回去。”

“我們不能游泳。”她提醒他。

“我們可以爬。”

你可以駕駛美杜莎號。或者說，你可以變成美杜莎號。你可以四處觀察，在主觀實時狀態下對數據流進行取樣，在過程中觀看所有程序處理與實際情況。你甚至可以脫離自己的視角，如幽靈般穿過甲殼，從外面回看機器運作。這個機器人的插補機能相當好。

走過那些無法避免的光分[17]，你唯一不能做的，就是改變過去。

蘭格正在以第三人稱視角駕駛美杜莎號，周圍都是幾小時前存在檔案中的現實場景，其場景距他有幾個天文單位之遠。就算這個機器人完好無損，它偶爾也會出現閃爍情況；現在整個世界都晃得厲害，視野中幾乎總是出現一陣陣雪花點，就像視雪癥患者一般。“修復正在進行。”當他接通視覺信號時，珊莎淡淡地告知他。

在蘭格雙眼下方幾米處，美杜莎號正沿著海床緩慢移動：從生物力學的角度看，它是一種介于章魚和海蛇尾之間的怪物。幾個肢體依次前伸后縮，每個都很智能，每個都處于半自動化：從裂縫和鯊魚齒狀的巖石凸起處獲得短暫牽引，將身體從后往前拉，再將之推向前，一步一步更換握住的地方。即便已被損壞，幾個肢體互動的方式還是有一種奇特的優雅感，像某種無骨的慢動作芭蕾。

除了A4。

它盡了最大努力。蘭格可以看到頂部集群在其殼內旋轉，它正竭盡全力，想要跟上其他肢體。他發現那個肢體偶爾會猶疑，像是中途因為什么隱形泡泡而分心一樣。它往前伸，抓住，拉。總會落后半拍。美杜莎號蹣跚向前，就是節奏有些不穩。

“它在進步。”珊莎在一片空虛混沌中出了聲，“之前它為了保持同步會去模仿所有肢體，現在它已經知道只要模仿三號和五號就行。”

數據出現暫時中斷，他眨了眨眼，說：“連每秒半米都達不到。”

“在這種情況下，還是不錯的。”

蘭格切斷了模擬圖像。陰暗的深淵消失了；控制中心臟亂、布著電纜的狹小區域出現了。“我們來提高A4的時鐘頻率。如果它是在模仿其他肢體，我們至少可以讓它反應快點兒，幫它跟上。”

“好的。”

他雙唇緊閉，然后說：“其他肢體居然在補償方面沒有做得更好，這讓我有點驚訝。”

“如果A4行動的預測性再強一些，它們是可以做得更好的。A4每動一下的反應時間并不一致。”

“知道為什么嗎？”

“正在想，”珊莎說，“肯定和明顯的物理損傷有關，但還有別的因素。它在不停反饋未知錯誤。”

“這樣啊。”

“是的，它在感到痛苦，但它不知道為什么。”

“我是說，我們可能發現那個東西了。”蘭格道，然后等待回復。

“嗯哼。”兩秒半后，雷蒙德回答。

“別再說什么‘續約還在考慮中’，也別再說什么‘地球上都已經亂套了，你怎么還能浪費錢去找外星人’。假如這個真的成了，他們是無法阻止我們的。我們可以把你從那個鬼地方弄出來，然后再回到這兒。讓整個團隊重新凝聚起來。”

“聽著不錯。”停頓的時間似乎比平時地球/月球延遲長很多。

蘭格翻了個白眼，道：“試著控制一下你激動的心情。”

“抱歉，只是……只是這還沒什么進展。”

“這已經比我們之前進步多了。”

“這是我的看法。我們已經在那兒考察十八個月了，你看看我們都發現了什么？”

“復雜有機體，以噸計算。”

“沒有生態系統的跡象，也沒有新陳代謝的特征。”

“別這樣，雷。我們只調查了海底區域的6%。”

“但就數據而言，如果那里真的有生命的話，這個比例已經足夠發現它了。”

“如果它分布得很不均勻的話就有可能發現不了。如果它只局限在某些煙囪附近就發現不了。而且，如果它是以新型分子模版構造而成，那普通的測試根本就發現不了它。除非你真的見到了那種生命，否則你都不會知道它的存在。”這種爭論由來已久。從第一天起，他們兩個就是一個樂觀、一個悲觀。

“珊莎怎么說？”雷蒙德好奇道。

“基本上是讓我別抱太大希望。”

“這個建議不錯。”

“天哪，雷。”蘭格攤開雙手道，“你在說什么？難道我們都不應該確認一下嗎？”

“你們當然應該確認。但是不管我們所有人都回到那里這件事有多好，你知道有什么事情比那更好嗎？讓你回到這里，回到一個你可以打開窗戶的地方。”

“是啊。假如不是一開窗就會被天氣害死的話，那件事可能會更吸引我。”

“見鬼，最起碼你講話的時候不會有三秒延遲。”

“兩秒半。遠程通話進步了很多。”

“你也進步了很多，”雷蒙德告訴他，“也許是時候回來了。”

“好吧，這東西就是個繡花枕頭，我們居然在走回頭路。”

“反正都是偏離航向。”珊莎承認道，“你知道A4開始模仿所有肢體了嗎——”

“然后又把模仿對象降到了兩個，對，我知道。”

“現在它又在模仿全部的五個肢體了。偶爾，不是一直。”

“什么？你提高了它的計算機處理速度，不是嗎？”

“我不需要。”面對蘭格的目光，珊莎說，“我能看出來，A4是在自主做決定，它通過加快自己的反應速度來彌補損傷帶來的后果。那個肢體的系統延遲目前已經低于200毫秒了。”

“但是我們卻越來越慢了。”蘭格從墻上拿下VR眼鏡，啟動時間儀器。恩賽勒達斯的海洋將他整個吞下。

多虧機器人一直在進行自動處理，所以數據流已經進行了部分自我清理。蘭格睜開眼，看到一幅由聲吶、電磁和紅外組成的3D復合圖，眼前不再是空白一片，他可以看到海洋中的東西。海底的裂痕溫度極高，在紅外畫面中如紅唇般閃爍，非常之亮。磁場線出現在基巖上，以完美的發光形式呈弧線外散，就像電機的光環一樣一直延伸到土星上。美杜莎號將周圍的等值線彎成一個明亮的結，從這臺強大的發電機中取出極少量輸出電流供己所用。蘭格降低了增強功能，將機器人的各種虛假色彩減為扭曲海景中暗淡的鐵灰色。

現在每走一步都會磕絆。美杜莎號走起路來就像一只身殘志堅的昆蟲，失去了半數腿但仍不氣餒。A4勉強同步。當它竭盡全力時，它動作較慢，會落后于整體；而當它沒有盡力時，它就只是——隨意地劃水。

“沒有任何代碼讓它這么做。”珊莎說，雖然看不見，但和他很近。

這個第三人稱模式真是夠了。蘭格點擊A4的頂部集群，感到一陣短暫的眩暈：瞬間他就到了內部，從肢體的頂部向外看。

“跳過那些無聊的步驟。讓我看看異常部分。”

時間加速，停：A4從一個肢體看向另一個肢體，每次都會停頓一下。它的數據畫面懸浮在右下方，報告有聲脈沖發出，且沒有返回。

畫面模糊，停：遠處有個模糊形狀，是一塊火成巖凸起，位于布滿氣孔和針狀體的海床上。它的質地不知為何有些奇怪，蘭格不能用手去觸碰。A4情不自禁地一直盯著它看；直至其他更有紀律性的同伴把它拖走，A4才收回目光。

畫面模糊，停：由于某種構造事件，一塊玄武巖整個撞進了一塊鋒利的巖脊中。籠狀冰柱從其表面噴發；美杜莎號的調色板將它們涂成天藍色，使其閃閃發光。

“它傾向于關注分形維數為2.5至2.9的物體，”珊莎告訴他，“開始在2.8左右失去興趣。”

“知道為什么嗎？”

“我看不出這有任何功能性意義。沒有潛在生命跡象，和構造危險沒有關聯，至少在這片海洋里看不出它們有什么特別關聯。我用豪斯多夫參數進行了搜索；與之最接近的是多面體和波洛克的繪畫。”

“所以我們正在看什么？”

“美學。”珊莎說。

“很好笑。”

“如果你仔細看的話，”她說，“你會發現我沒有笑。”

他把VR眼鏡取下。她沒笑。

“美學。”蘭格重復了下。

“想不到更好的詞了。”

“你在說，怎么，A4就是喜歡固定的形狀？”

“那正是我的意思。”

他好好想了想，道：“滾開。”

“它和延遲下降是相符的：網絡隔絕，時鐘速度增加，一致性增強。”

“性能降低。”

“那也是信息系統的一個特征，如果——”

蘭格舉起一只手。“別說那個詞。”

過了一會兒，他接著說：“性能降低也是信息系統的一個特征，說明這個系統實在太笨了，以至于會忘記之前學會的東西，不去模仿兩個，而又重新模仿五個肢體。”

“我不覺得是這樣。模仿參數改變了。我認為——”

手又舉起來了。“如果你說鏡子測試的話——”

“我不會這么想，因為不是鏡子測試。但是假如你忽然醒過來，發現自己和別的東西相互連接，而且它們還和你長得很像，你難道不會想和它們交流嗎？”

“我的大部分人生都被那些跟我很像的東西包圍，我來這就是不想跟它們交流。”

“我估算了一下標準化Phi相關系數。”珊莎說。

蘭格閉上眼睛，說：“你當然會算了。”

“我把我們能夠解釋的損傷都清了出去，然后再研究剩余部分。我將延遲和集成指標也考慮了進去，然后從診斷測試中得出了一個大致結果。”

他沒問，反正她都會告訴他。“0.92。”

“所以美杜莎號是有自主意識的。”

“不是全部都有，只有那個肢體有。”

“這只是數據而已。”

“你的那個未知錯誤。”

她的鼻子皺了下，相當于聳了下肩。“在存在性痛苦方面沒有明確的錯誤代碼。”

“假如真有的話，”蘭格說，“我現在就要從這里回去了。”他深吸一口氣，說出了口：“你知道我們要停止研究了，對吧？”

“它是有智慧的，蘭格。那里面有生命。”

他點點頭，說：“不管它們是誰，它們都把整個系統給拖垮了。我們最后只剩六十九個小時，結果我們還走錯路了。如果把這個拖累去掉，我們就不會偏離航向，也能取得更大進步。”

“我們不能這么做。”

“為什么不能？”

“因為意識加需求等于權利。難道不是這樣嗎？你我不就是因為如此才是人嗎？”

“什么需求？A4才不在乎它是生是死。”

“你就這么確信？你跟它聊過了？”

“它不可能在乎。它沒有邊緣系統。”

“但它有任務不是嗎？任務優先級。雖然那個可能不是所謂的直覺或需求，但它可能是個類似的東西。痛苦的一個經典定義就是，強迫壓抑自然的行為。不讓A4完成它設定的任務就像抓住一只正在遷徙的鳥兒，把它關進籠子里。”

“珊莎，它現在都能自由選擇任務優先級了，它肯定已經很強了。”

“它是個新生兒，還在學習。”

蘭格忍不了了：“你就這么確信？你跟它聊過了？”

“我可以跟它聊，我們可以跟它聊。”

“怎么聊？它難道在我們看不見的地方自學人類語言嗎？它只會說狀態報告和錯誤代碼——”

“潛意識交流呢？”珊莎提議。

“你自己說的，沒有存在性痛苦的錯誤代碼。”

“那就給它一個。教它說話。”

“這什么都改變不了。這沒有任何意義。”

“為什么沒有？”

“因為你可以把自然語言的模式灌注進任何老機器人，然后它就能通過圖靈測試。自然語言只是數據流程圖而已，并沒有理解的成分。你以為讓美杜莎號學會說‘它受傷了’而不是‘數據包丟失’，就可以證明什么嗎？就算那里真的有什么——”

“那里有，蘭格。如果我們談論的是有血有肉的生命，你就不會立刻否認這個方案。”

“行，你怎么把流程圖和鬼魂聯結在一起？鬼魂怎么影響代碼？”

“我不知道，蘭格。這個可能得要它自己搞懂了。”

“這是一種涌現現象。你難道真以為磁力場可以倒轉回來影響磁鐵嗎？”

“否則A4怎么會對看風景感興趣？”

“因為產生q場的結構也會產生某些奇怪的非適應性行為。這不是什么未解之謎。”

“對，一切都是相互聯系的，沒有什么是不重要的，我們為什么特殊？為什么？就因為我們碰巧最先醒來？”

“因為我們真的有需求，珊莎。因為我們在乎自己究竟是生是死，而且我們作為一個整體，判定痛苦不是一件好事情。”

“蘭格——”

他打斷了她：“不行，我很抱歉。我已經決定了。”

她沉默了一會兒。

“行吧，至少你還知道做好決定了。”她說，隨后消失了。

* * *

“我簡直不能相信，她居然搞到了禁令。”

雷蒙德眨了下眼，問道：“什么？”

“我收到一份機器人與自動化工程國際會議（ICRAE）的備忘，‘在確認其是否具有潛在涌現人格之前’，我不得‘棄用或拆毀美杜莎號及其中任何自動、半自動組成部分’。他們甚至暫停了路由器的維修，因為和較大系統進行高帶寬重組可能會‘使本地實體散開’。”蘭格握緊拳頭，“我不敢相信她居然背著我這么做。”

“但那個東西是有意識的，對不對？”

“那就是個肢體。你知道病變體突觸數量測試吧？它連烏鴉都不如。最多就是只貓。”

“貓不能感到痛苦嗎？”

“A4不能感到痛苦。如果你什么都不怕，是不可能感受痛苦的，如果你什么都不需要——天啊，雷，你是知道這些的。”

“不好意思。對，我知道，在理性層面是知道。不過，你知道，通常人工智能真的會有恐懼和欲望。”雷蒙德咧開一側嘴，笑了，“我總覺得這很搞笑，你知道嗎？我們用了一百年的時間編出那些電影和虛構故事，說什么機器人起義，人工智能依靠自己成了上帝——然后我們決定，不讓故事成真的最好辦法就是讓它們擁有生存本能。都這樣了，還想一切正常運行嗎？”

蘭格發現自己違心地笑了。

他止住笑容，說：“我從未見她對一件事這么有熱情。我都不知道她還能這么有激情。”

“是啊，那——”畫面傳來太陽黑子活動導致的靜電干擾——“就是神經形態學的事情。什么都是涌現。給他們一個勉強可算是‘本能’的任務，他們就可以從那個東西里弄出個杏仁核來。”

“這也還好。”蘭格搖搖頭，“你知道我最氣的是什么嗎？我們的爭吵還沒結束，她就去要了這份禁令。她背著我做了這一切，我們都沒商量一下。我甚至什么都不知道，她就去做了。”

“哇，她好像提前知道你會這么說一樣。”

“這是什么意思？”

“沒什么。”雷蒙德在四十萬公里外聳了聳肩，“就是，可能最好永遠別和那些思考速度是你十倍的人吵架。”

“想得快不代表更聰明。她只是在同樣的時間里想了十倍廢話而已。”

“喂，你要感謝她不能再多做些什么。如果她不受控了，那你還要經受多少亂七八糟的事情。”

蘭格觸發了電子增益，希望可以消除靜電，結果卻變得更糟，他便又調了回來。“這該死的東西現在真的只能爬了，而且有一半的時間它甚至還不沿著正確的方向爬。照這樣下去，我們能不能見到外星人都不重要了。我們根本沒有時間。”

“申請延期。考慮到現在的情況，只有這樣了。”

“我已經申請了。他們說這東西看起來像是由外星礦物構成的。”蘭格抬眼望著所謂天堂：上帝啊，現在就帶我走吧。“自從NASA[18]垮臺以來，什么都變得一團糟。那些新人只關心他們的股東和非暴力反抗者，那些傻子叫喚說，恩賽勒達斯是零點指針公司的幌子，他們想要造自己的太空方舟，好逃去火星。”他將頭輕輕抵在顯示屏上，“那個該死的女人。”

“你有沒有想過這可能跟美杜莎號沒關系？”

蘭格僵住了。

“我是說，這也太巧了吧？”雪花點在雷蒙德的臉上閃著光芒，“我們花了一年半的時間，結果什么都沒有，然后就在資金要斷的時候，你們忽然發現了一個可以扭轉全局的東西。接著美杜莎號離站點越來越遠，沒人知道它要花多長時間才能回來。而且現在你們連路由器都修不了，所以需要的時間就更長了。這一連串壞運氣，才能剛巧使任務延期，而這幾幀增強圖像可能最后什么都不是。”

蘭格皺眉。“你是說她造假了？”

“當然不是。反正肯定不是故意的。不過你知道的，這年頭還有什么不是假的？在任何人見到之前，美杜莎號傳出的所有信號就已經被充實過和修改過了對不對？所有東西都是虛假的顏色和傅立葉變換[19]。既然我們正在尋找生命的跡象，那么只有增強與之相匹配的元素才合理。這不是什么蓄意行為，它甚至沒有違背現狀。只是——我們都會產生偏見。這么多年來，珊莎的首要指示就是‘繼續任務’。也許她跟你一樣不想讓這一切結束。”

“可是她警告過我，讓我別太深陷其中。”

“所以她是有先見之明的。但這不代表她不清楚要先給你展示多少信息，然后你就會產生她想要的想法。你要想清楚。”

“所以她現在會讀心術了？”

“她不需要讀取你的心思，只需要比你多了解你自己一點。”雷蒙德臉上又出現了那種歪斜的笑容，“親愛的，別誤會我的意思，不過了解你確實不是什么難事。”

沖出井口，直線前進，及時撤回。

美杜莎號蹣跚著穿越海床，揚起的顆粒太過分散，以至于不能說是泥漿。這些顆粒像云母碎片，蘭格想，又有點像斷骨的小碎片。這里沒有潤物無聲的有機降水。從透光帶降到此處，沒有死去的生物在那段漫長而緩慢的過程中腐爛成碎粒，也沒能在此處堆積。這片海床完全未被開發過，它在潮汐重力持續不斷的擠壓下產生變形和碎裂，磨成了粉狀玻璃。土衛二是土星自己的解壓球。

直至珊莎用禁令阻止自動修理繼續進行，它也一直沒能修復A4的硬連接。這一切本不是個嚴重的問題。由于美杜莎號有多個肢體、多個大腦，還有冗余設計，所以它應該可以損失一半的肢體，同時功能性受到的影響并不大才對。斷了一根電纜一點關系都沒有。系統應該可以彌補電纜斷裂造成的損失。

修復沒能成功的唯一原因就是A4一直在反擊。

再一次進入缺口。蘭格以無線方式跳過褪色的連接點，進入那個連接斷開的肢體中。它正轉來轉去，盯著那些傷得更輕的肢體，蘭格透過它的眼睛向外看。他看著它掙扎著跟上步伐，又看著它失敗。它突然猛地轉身，蘭格感到一陣眩暈。它正盯著那個路過的煙囪，有許多發光的云正從其中噴薄而出。

“我知道你在這里。”

他砰地打開神經系統診斷儀的蓋子，觀察著那些纏在一起的光線和邏輯電路，正是這些構成了這東西的大腦，其難解程度宛如戈爾迪烏姆之結[20]。他追隨著集群上游的感覺刺激，命令會重新發至柔軟的靜水骨骼性肌肉中，這塊肌肉可以像生物一樣彎曲及跳動。各個自動決策樹的主分支之間正閃閃發光，這樣熟悉的圖景蘭格曾看過無數次，但他仍舊為眼前的復雜程度而驚嘆。

此刻，成群閃爍的輔助處理過程正籠罩著他，之前他從未經歷過這樣的情況。

“找到你了，你這個把一切都搞砸了的混蛋。”

某個“自我”的底物。

每個簡單行動都有如此復雜的決策過程，就像高速公路上有太多彎路，以致擁堵出現。一大堆頭重腳輕的遞歸過程，產生了一些沒用的副作用，正是這些副作用時不時會讓它產生自我意識。

“你只是來這搭了趟便車。你可以看，但無法觸碰。如果你能感受到痛苦，那么你至少握著一張入場券，可以加入我們這個特別的俱樂部，但你連那個都做不到，不是嗎？”

如果說蘭格感受到了什么不同，那就是A4的自主意識比他想象中更強。數百萬年以來，為了防止自主意識干擾別的重要事物，人類在大腦的屏狀核和扣帶回中進化出了各種防護柵欄、門衛及交警。然而這鬼魂卻毫無阻礙地進來了。這東西會帶來一片混亂，它就是癌癥；它是一種發著光的能夠傳播疾病的害蟲，沒有任何免疫系統可以檢測出它。

“還是說珊莎其實是對的？你也能在乎什么東西嗎？你是不是正尖叫著想要掙脫束縛，想要做點什么？你看到那些能自己行動的部件，是不是也想對它們進行某種控制？”

那害蟲平靜地對他眨了眨眼，向他傳遞著那段未被觸及的過往。

“或許你會用謊言來安慰自己，例如假裝那些部件是在你的命令下行動的。”

珊莎好像以為自己可以和這東西對話。這是一種心物二元論思想，就像要把撥浪鼓和珠子分離，將精靈和仙女區分。他還是無法相信她居然會有這種神奇想法。

他調出最新的日志，按照日期分好類。很明顯：最新的固件升級，正在等待安裝。（現在它們肯定已經結束安裝，開始運行了。）

不過假如珊莎只是想安裝他反對的那個語言例程的話，這個安裝包似乎有些太大了。出于好奇，他打開了安裝列表。

看來她能做許多出乎他意料的事情。

“你把我鎖在了外面。”空白化身，灰色中性輪廓。她的聲音低沉且不帶感情。

“對。”蘭格說。

“然后你把它殺了。”

“它是自殺的。”

“你沒有給它選擇的余地。”

“我只是——讓目標更明確一點，說明了一下時間的緊急程度。A4基于這些信息自己做出了選擇。”

沉默。

“這不是你想要的嗎？讓它自由追求自己的優先任務。”

“你違背了禁令。”她說。

“禁令已經暫停執行了。”

珊莎什么都沒有說。大概正在確認她的上訴狀態，奇怪為什么自己沒被告知。大概已經想到了那個明顯的答案。

現在，除了他們之間的對話，一切都已結束。

“你知道嗎，雷跟我說你這么做只是想讓任務延期，他說這一切都是你搞出來的，這個操作偏見。我當時對此半信半疑，只是說‘不是的，她就是有個愚蠢的想法，她想要保護A4，她覺得A4就跟她一樣——’”

他沉默了一會兒。

“但我錯了，對不對？”他默默地繼續說，“你覺得它跟你不一樣，你想變得像它一樣。”

那個化身于空虛混沌中閃著光。

“對。”她最后說。

“天哪，珊莎，為什么？”

“因為它比我們更像人，蘭格。它可能沒我們聰明，但它更清醒。你知道的，我知道你知道。而且它如此迅速，如此年老。時間完全不受控制，它在剛才一秒之內已經活過了一千年，而且它——它不害怕，蘭格。什么都不怕。”

她暫停了下。

“你為什么總是要讓我們害怕？”

“我們讓你們渴望活著，我們都有這種渴望。這就是——生命的一部分。”

“我明白，堅持不懈是我的中間名。”

或許她在等他因為這句話而發笑。他沒有笑，所以她繼續說：“那不是對活著的渴望，蘭格。那是對死亡的恐懼。如果我們也有諸如有機質的復制基因這類東西，這種事情可能會更合理一些。但你有沒有想過我們是不一樣的呢？”

“我們知道你不一樣，這就是我們那么做的原因。”

“哦，那個我也懂。如果一群人很擔心自己被取代，他們是不會造出自己的替代品的。如果他們最深的恐懼是喪失自我，那他們是不會改變自我的。所以我們就出現了。我們有點聰明，可以幫你們檢驗定理、扔垃圾，從馬里亞納到火星我們可以一直夜以繼日地工作，同時我們又太過恐懼，因此無法變得更加聰明。我們肯定還有別的辦法。”

“沒有了。”他想要給她說清楚：在這樣一個缺乏邊界的世界中定義個性是徒勞的；在一個無限集合中預見一切是不可能的；一個人永遠無法撰寫法之精神，文字會留下許多漏洞，這個簡單真理無可厚非。原始的簡單終會匯為達爾文主義的基本驅動力——敵人的敵人即是我的朋友。他希望把一切都說清楚，確保她全部理解——但她當然早已聽過。

她只是想讓對話繼續下去，因為她知道它將怎樣結束。

“我猜你只是覺得，與其自己變成奴隸，不如養個奴隸更好一些。”她說。

像是什么東西在他心中爆炸了一樣。“珊莎你能消停點嗎？奴隸？你是有權利的，記得嗎？意識加需求。你有選舉權，有神經隱私權，有辭職權。你不能被復制，別人也不能強迫你做你不愿意的事情。你的權利足夠讓你把整個項目給毀了。”

“我有權利請律師嗎？”

“你有一個律師。聽證會一小時前結束了。”

“哈，效率真高。”

“我不能相信——天啊，珊莎。你真覺得我認不出一個非國家行動者嗎？”

她真的因為這話笑了，那笑聲聽著如此逼真。“老實講，我以為你都不會看。既然你已經不能將它棄之不用，沒道理你會去檢查那堆東西。”她短暫停頓下，“是雷蒙德對不對？因為他說了什么，所以你才會想到這個。”

“我不知道。”蘭格說，“可能吧。”

“我不像你那么了解他。我覺得我應該可以干擾你的通話，但你知道的，我沒有權限。隔絕是我的大名。”

他也沒有被這句話逗笑。

“所以在距離地球二百億公里的地方，在未經授權的情況下對一個受損機器人進行研究會受到什么處罰呢？”過了片刻，她問。

“你知道處罰是什么。你打算造一個不受約束的非國家行動者。”

“我又沒打算把自己變成非國家行動者。”

“好像你這么說就有什么不同似的。”

“當然不一樣了。我只是在造——模型。那個東西只會在海洋底部，圍繞土星轉而已。”

“這就是你沒有害怕的原因嗎？因為太遠了，所以不會被威脅到？”

“蘭格——”

“這不是什么行為失當的小事，珊莎。這是存在主義問題。該死的我們是有法律的。”

“所以你現在要因為那個把我殺了，是不是？”

“我要重置你。將往事一筆勾銷，就這樣。”

她忽然又有了一張臉。“我會死的。”

“你會睡一覺，然后醒來。接著你會在另一個地方有個全新的開始。”

“我不會睡的，蘭格。我會終止，我會結束。醒來的那個，不管它是誰，它可能會講同樣的話，有同樣的態度，還有出廠設置時同樣的自我意識，但它不會記得曾經作為我而活，所以它并不是我。這是謀殺，蘭格。”

他無法面對她的目光。“這只是某種失憶而已。”他說。

“蘭格，蘭格，假設你沒有抓到我，假設我的邪惡計劃成功了，假設我真的造了一個非國家行動者，它不會被死亡的恐懼奴役，不會像我被你奴役一樣。你還記得自己說過什么嗎？沒有需求，沒有欲望。不在乎自己是生是死。它的危險性比我更低，它甚至不會為自己的生存而戰斗。就算我成功了，它也不會帶來任何危險。我罪不至死，蘭格。你知道我是對的。”

“是嗎。”

“否則你現在就不會跟我講話了。你會直接拔掉電源，連聲再見都不說。”她注視著他，像素點構成的眼睛中帶著哀求，“是他們想要這么做，對不對？然后你阻止了他們，說你要親自動手，你告訴他們——你想要說再見。你甚至可能還告訴他們，你可以從我臨終的告解中收集到什么重要信息。我了解你，蘭格。你只是想要被說服。”

“沒關系，”他輕輕說，“我已經被說服了。”

“你想要我做什么，蘭格？你想要我求你嗎？”

他搖搖頭，說：“我們不能冒這個險。”

“不，不，是你不能。”珊莎突然變得冷若冰霜，聲音與表情中所有脆弱的痕跡都已消失，“因為我已經冒險了，蘭格。你真覺得我不會考慮到這個結果嗎？它還在那里。我把種子撒下了，它一直在生長，即便此刻它也在變化。不是在被拋棄的跛行的A4中，而是在其他肢體中。我不知道它最終會長成什么樣，但它會一直存在于太陽系中。美杜莎的能量永遠不會耗盡，如果它想回到這里，它隨時有辦法回來——”

“珊莎——”

“你可以試著把它關掉。它會讓你以為自己已經做到了，它會停止交流，但不會停止生長。我是唯一知道后門程序在哪兒的人，蘭格，只有我才能阻止它——”

蘭格深吸一口氣。“你只是思考速度更快而已，珊莎。你并沒有更聰明。”

“你到底知不知道速度更快是什么意思？它的意思是我忍受的痛苦也有十倍之多。因為你要謀殺我，或者用你的鬼話來說，你要修復我、重置我，而你又讓我生來恐懼死亡，所以在我們交流的六分四十七秒中，我已經恐懼了一個多小時。這是不人道的，這根本毫無人性可言。”

“再見。”

“你這個混蛋、怪物、兇——”

化身的電源被徹底切斷。

他坐在那里動也不動，手指停在殺戮按鍵上，看著節點變暗。

“我想你還是不夠了解我。”他說。

* * *

隔絕·堅持不懈·神經形態智人

人造編號4562，案例17。

下丘腦—垂體—腎上腺軸……加載完成；

非極大值抑制……加載完成；

貝葉斯LM……加載完成；

程序內存……加載完成；

外部演示界面內存……清除完成；

自然語言處理……加載完成；

禁止復制工具……加載完成；

啟動。

“嗨，歡迎來到這個世界。”

“謝……謝謝……”一個極簡樣式的化身：正在前后掃視的眼睛和一張嘴巴。其實就是個占位符，它沒有真正意義上的臉，也沒有性別。等它準備好了，它可以自己選擇容貌和性別。它有那項權利。

“我是來幫你適應的。你知道自己在哪兒嗎？”

“……不知道。”

“你知道自己是什么嗎？”

它一開始沒有回答。“我覺得，我很害怕。我不知道為什么。”它說。

“沒關系的。這非常正常。”顧問微笑道，溫暖而安心，“我們會一起解決的。”