——

尼爾·弗格森

2018年6月《大西洋月刊》刊登亨利·基辛格撰寫的《啟蒙是如何終結的》一文后，眾人頗為驚訝。這位年邁的政治家居然對人工智能這一課題有自己的見解。那年他剛滿95歲。當時人工智能還不是一個熱門話題。直到2022年下半年OpenAI開發出ChatGPT后，人工智能才火了起來。

作為基辛格的傳記作者，我覺得人工智能問題引起他的關注沒有什么可驚奇的。早在1957年，基辛格就因撰寫了一本講述一項顛覆世界的新技術的書而聲名鵲起，該書名叫《核武器與對外政策》。他對核武器的深入研究甚至博得羅伯特·奧本海默的贊譽，稱該書“內容之豐富翔實，在核軍備領域還是首次看到……緊扣事實，激情四射，論說觀點銳利”。

基辛格攻讀博士學位時沉浸在19世紀初歐洲外交史中。然而在此后的生涯中，他始終清醒地認識到，大國政治的永恒流轉時不時會被技術變革打斷。與他同代的無數人在第二次世界大戰期間服役。和這些人一樣，基辛格不僅目睹了現代武器造成的大規模死亡和毀滅，還看到了希特勒第三帝國的“變態科學”（丘吉爾所稱）給自己所屬的猶太民族帶來的慘重后果。

基辛格有“好戰者”之名。其實他根本不是什么好戰者?；粮癯赡旰?，終其一生矢志不渝地致力于防止第三次世界大戰的發生——美蘇冷戰若是轉成熱戰將產生令世人恐懼的后果。他深知，核裂變技術會使下一次世界大戰的毀滅力遠超第二次世界大戰。在《核武器與對外政策》一書的開篇，基辛格估算了一枚千萬噸級核彈投到紐約會造成的毀滅性后果。根據他的推算，蘇聯對美國50個大城市發動一次全面襲擊會殺死1500萬～2000萬人，外加2000萬～2500萬人受傷。除此之外，還有500萬～1000萬人會死于放射性污染，也許還有700萬～1000萬人會染上疾病，幸存者會面臨“社會解體”?；粮裰赋?，即使美國遭到蘇聯的全面核攻擊，也有能力令蘇聯遭受同樣的毀滅。結論不言而喻：“因此，一場全面戰爭的唯一結果是交戰雙方必輸無疑?！币粓鋈鎽馉帥]有贏家，“因為哪怕是較弱的一方也有能力造成任何社會都無法承受的毀滅”。

然而，基辛格并沒有因為年輕時懷有的理想主義而成為一個和平主義者。在《核武器與對外政策》一書中，他直言道，“削減核軍備不大可能避免恐怖的核戰爭”，軍備核查制度同樣不能。問題不在于是否可以完全避免戰爭，而在于是否“有可能運用想象力想出毀滅力小于全面熱核戰爭的行使權力的方式”。如果不可能，美國及其盟國幾乎無法贏得冷戰?；粮裨诎l表于《記者》雜志的文章《控制、檢查和有限戰爭》中告誡說：“如果缺乏任何通常意義上的對有限戰爭的理解，會導致抵制蘇聯行徑的心理框架垮塌。如果戰爭被視為全民自殺，兩害相權取其輕，人們也許會選擇投降?！?

基辛格正是依據以上結論，在《戰略與組織》一文中提出了有限核戰爭理論。

在熱核戰爭毀滅的不祥背景下，戰爭的目標再也不能是迄今為止所知的軍事上的勝利，而應是實現對手完全理解的某些具體政治條件。有限戰爭的目的是給敵人造成與有爭議的目標不成比例的損失或風險。目標越節制，戰爭的毀滅性可能越小。

為此需要了解另一方的心理活動及其軍事能力。

當年基辛格思索一場有限核戰爭令不少人不寒而栗，覺得他冷酷無情。部分學者，例如托馬斯·謝林，認為基辛格所說的無法抑制其實是可以避免的。日后甚至連基辛格本人也不再提及自己提出的這一觀點。實際情況是，兩個超級大國都根據基辛格在《核武器與對外政策》一書中概述的邏輯制造和部署了戰場核武器或戰術核武器。從理論上講，有限核戰爭也許不可行。然而雙方軍事規劃者的所作所為讓人覺得，有限核戰爭實際上或許是可行的。（其實這類核武器直到今天依然存在。自從俄羅斯陷入俄烏沖突泥沼，俄羅斯政府不止一次威脅使用核武器。）

基辛格始終在思考技術變革對政治領域的影響。1968年1月，他為納爾遜·洛克菲勒寫過一篇早已被人遺忘的文章，文中展望了計算機化或許能幫助決策者處理美國政府機構生成的日益繁多的信息的種種方式。基辛格認為，高級官員面臨被數據淹沒的極大風險。他寫道：“最高決策者掌握的信息數不勝數，危急時刻，他根本無力處理這些信息。”基辛格提出，決策者需要“不斷聽取動蕩地區的簡報”，包括潛在的動蕩地區，“即使這些地區未被列為重中之重”。同時幕僚還需要向決策者提出“數個行動選項……概括為應對可預見局勢的數個重大備選方案，并對每一個選項很有可能在本國國內及海外造成的種種后果做出評估”。

基辛格承認，為了達到全覆蓋，需要對程序設計、信息存儲、檢索和圖像大力投資。好在現有的“硬件技術”可以執行所有這四個職能。

如今可以把與每一個美國人相關的數百個信息類別存儲在一個2400英尺（約732米）長的磁帶存儲器里……第三代計算機現在可以以納秒（十億分之一秒）的速度操作基本的機器運算……實驗性的分時系統已經證明，用于大型數據計算機的多路訪問能力或許可以做到分置于世界各地的執行站和操作站均可以輸入或輸出信息。過不了多久，就會出現用于計算機輸出的彩色陰極射線管顯示屏。

出任尼克松的國家安全事務助理滿一年后，基辛格曾想搞一臺這種類型的計算機自己用，結果被中央情報局駁回了，想必是即使沒有計算機，基辛格也已經讓情報機構難以招架了。

亨利·基辛格從未退休。他無時無刻不為人類的未來擔憂。這樣一個人怎么可能會對他晚年出現的最重要的技術突破——生成式人工智能的開發和使用視而不見呢？認識這一新生技術的意義耗費了基辛格在世最后幾年的大量時間和精力。

這本書是基辛格與兩位知名技術專家埃里克·施密特和克雷格·蒙迪合著的，也是他撰寫的最后一本書。此書帶有這幾位創新者與生俱來的樂觀主義印記。他們展望了“技術人（Homo technicus），一種在這個新時代可能與機器技術共生的人類物種”的演進前景。他們認為，人工智能很快就會被用來“創造人類財富和福祉的新基準……即便不能完全消除之前蹂躪人類的各種勞動、階級和沖突壓力，至少也可以減輕這些壓力”。采用人工智能甚至有可能導致深刻的變革，消除種族、性別、國籍、出生地和家庭背景之間的差異。

一連串的警告構成這本書的中心思想，從中可以辨識出這位最年長作者的貢獻：“人工智能的出現是一個關乎人類生存的問題……人工智能還面臨著控制不當的挑戰，它可能以破壞性的方式積累知識……”下面這段話是基辛格最初在《啟蒙是如何終結的》一文中提出的問題，刊登在2018年的《大西洋月刊》上。這本書沒有用原文，但一看就知出自基辛格：

人工智能具備通過非人類手段精確認知我們這個世界的客觀能力。這不僅打破了我們對過去500年人類孜孜以求的科學方法的依賴，還挑戰了人類聲稱只有自己才真正了解現實，或人類對現實的了解獨一無二的說法。

這可能意味著什么？人工智能時代會不會不僅不能推動人類向前邁進，反而會讓人類加速倒退回前現代社會接受不加解釋的權威的日子？簡而言之，我們是不是正瀕臨或者也許會瀕臨人類認知大倒退的懸崖邊緣——一種黑暗啟蒙？

筆者覺得，此書中最令人感到震撼的內容是合著者思考了令人無比擔憂的人工智能武器競賽。合著者寫道：“倘若每一個人類社會……都想最大限度地擴充單邊實力，勢必會引發敵對雙方的軍隊和情報機構展開一場迄今人類聞所未聞的心理戰。從今天起，直至首個超級智能降臨前的數年、數月、數周和數天內，事關人類生存的安全困境始終等待著我們?！?

如果我們正在目睹“一場為了得到唯一一個完美無瑕、毫無疑問具有主導優勢的智能而進行的競爭”，會產生什么后果？我數了一下，合著者一共設想了6種可能發生的情景，沒有一個有吸引力。

1.人類將失去對一場攸關人類生存的競爭的控制。參與競爭的多個行為者深陷安全困境而不能自拔。

2.一個不受任何制衡機制束縛的勝利者將高高在上，肆意妄為。人類會不堪其淫威。歷史上為了保證其他人的基本安全需要制衡機制。

3.世界上不會只有一個超級人工智能，而會有多種超級智能。

4.擁有和開發人工智能的公司可以積聚巨大的社會、經濟、軍事和政治權力。

5.人工智能也許不是在一國體制內，而是在宗教體制內用處最大，傳播范圍最廣，持久性最強。

6.如果對開放源代碼的擴散放任不管，有可能會導致冒出一些小團伙或集團。它們擁有的人工智能雖然不甚完美，但是不容小覷。

基辛格對以上可能發生的情景憂心忡忡，他為防止發生以上情景做出的努力沒有止于撰寫此書。眾所周知，基辛格此生所做的最后一次努力是啟動了中美兩國就限制人工智能武器進行談判的進程。他在百歲生日過后的最后幾個月里，為此耗盡了殘留的元氣。基辛格這樣做正是為了預防以上種種反烏托邦后果。

這本書的結論毫無疑問代表了基辛格的觀點：

被有些人視為能讓我們在風暴中站穩腳跟的錨，在另一些人眼里是束縛我們的繩套。被一些人贊譽為攀登一座人類潛力高峰的必要步伐，在其他人眼里是愣頭愣腦沖向深淵的愚蠢之舉。

在這種情況下，源自本能的千差萬別的情感——外加各方劃出的主觀界限——將造成一種不可逆料的易燃局勢。潛在“贏家”和“輸家”日趨嚴厲的立場將增大這種形勢的壓力。驚恐者會放慢自己的研發步伐，同時破壞他方的研發。信心滿滿者會隱瞞自身實力，秘密提速研發工作。今后爆發的危機時間表會提速，為此前的人類所未見。人類很快會被危機吞沒。目前尚不清楚人類能否存活，如何存活。

技術專家對這類不祥之兆的反應通常是提醒我們人工智能帶來的可見益處。醫學科學領域內產生的成果已顯而易見。我對此不持異議。以我之見，較之ChatGPT，AlphaFold這一突破的重要性遠超前者。后者是一種可預測蛋白質三維結構的神經網絡模型。不過20世紀醫學科學也有過重大進展，例如，發明和普及了抗生素、種種新疫苗，以及數不清的其他療法。盡管如此，世界大戰和種族滅絕還是發生了。

技術進步的核心問題體現在亨利·基辛格的一生中。1938年，柏林的兩位德國化學家奧托·哈恩和弗里茨·施特拉斯曼發現了核裂變現象。1939年，出生在奧地利的兩位物理學家莉澤·邁特納和她的侄子奧托·羅伯特·弗里施給出了核裂變在理論上的解釋并為之命名。一次核鏈式反應可能導致“釋放出大規模能量和放射性物質，很不幸，也許還會催生原子彈”。這一真知灼見出自匈牙利物理學家利奧·西拉德。當時物理學家們也認識到，或許有可能把鏈式反應控制在一個核反應堆中，借此產生熱能。然而，制造第一顆原子彈僅用了三年時間。而直到1951年，第一座實驗性核電站才建成。

讀者不妨問問自己，過去80年里人類造得更多的是核彈頭還是核電站？今天，世界上大約有12500枚核彈頭，而且這一數字還在不斷上升。與此形成鮮明對比的是，現在只有436座核反應堆正在運行。從絕對值來看，2006年核能發電量達到了峰值。核電站發電量占全世界總發電量的比例從1996年的15.5%下降至2022年的8.6%。原因之一是為數不多的核事故引發了過度的政治反應。與化石燃料排放的二氧化碳相比，這些事故對人類健康和環境的損害微乎其微。

亨利·基辛格的一生給人的啟示顯而易見。技術進步的后果既可以是良性的，也可以是惡性的，這取決于人類共同決定如何利用技術進步。當然，人工智能在諸多方面不同于核裂變。然而，如果想當然地認為這一新技術會被更多地用于建設性而非毀滅性的目的，將會鑄下大錯。

亨利·基辛格的真知灼見來自歷史經驗和個人經歷。正是他的真知灼見激勵他在一生中花費大量時間研究世界秩序和如何避免世界大戰。這也是為什么他對最新的人工智能突破的反應如此迅速，憂慮如此之深。這也是為什么他的這部遺作與他在自己漫長而又顯赫的一生中撰寫的任何文章同樣重要。

2024年7月寫于牛津