序言

人類把自己這個物種命名為智人——有智慧的人類。但我們究竟配不配得上這個稱號，實在還有待商榷。

過去10萬年間，我們智人確實積攢了巨大的力量，光是要列出人類所有的發(fā)現(xiàn)、發(fā)明和征服的事物，沒有厚厚的幾本書根本就裝不下。然而，有力量并不等于有智慧，經(jīng)過10萬年的發(fā)現(xiàn)、發(fā)明與征服，人類已經(jīng)把自己推向了一場生存危機(jī)。由于濫用各種力量，人類已然處于生態(tài)崩潰的邊緣。人類現(xiàn)在還忙著創(chuàng)造像人工智能（AI）這樣的新技術(shù)，但這些技術(shù)有可能逃脫人類的掌控，反過來奴役或消滅人類。然而，人類非但沒有團(tuán)結(jié)起來應(yīng)對這些存亡挑戰(zhàn)，還讓國際緊張局勢不斷升溫，全球合作更加困難，各國大量儲備末日武器，一場新的世界大戰(zhàn)正在逼近。

我們智人如果真那么聰明，為什么還會走上自我毀滅的道路？

從更深的層次而言，人類雖然累積了海量信息，從DNA（脫氧核糖核酸）分子到遙遠(yuǎn)的星系，無所不包，卻仍然無法回答生命中最重大的問題：我們究竟是誰？我們應(yīng)該追求什么？什么才是所謂美好的生活，我們又該怎樣過上這樣的生活？我們雖然掌握了大批信息，卻還是像遠(yuǎn)古的祖先，容易受到幻想與錯覺的迷惑。即使是現(xiàn)代社會，偶爾也會出現(xiàn)群眾大規(guī)模失去理智的情形，例如納粹主義。人類如今比石器時代擁有了更多的信息和力量，這一點毋庸置疑，但我們對于是否真的更了解自己，更了解自己在宇宙中的角色，卻遠(yuǎn)遠(yuǎn)沒那么確定。

所以，為什么人類那么會積攢信息與力量，但在智慧的獲取上卻又如此不成功？縱觀歷史，許多文化傳統(tǒng)都提到，人類本性中的某些致命缺陷會讓人類追求自己根本不知道如何駕馭的力量。希臘神話里就提到有個男孩叫法厄同，他發(fā)現(xiàn)自己原來是太陽神赫里阿斯的兒子。為了證明自己是神祇之后，法厄同希望能享有一日特權(quán)，駕太陽神的四馬金車出游。赫里阿斯警告法厄同，拉著四馬金車的天馬絕非凡人所能駕馭，但經(jīng)不起法厄同再三堅持，赫里阿斯終于讓步，讓法厄同得意地駕車飛上天空。天馬還是不出意外地失控了。于是，太陽偏離了軌道，植被被烤焦，無數(shù)生物慘死，大地眼看不保。最后宙斯出手，一道閃電擊中了法厄同，這個自負(fù)的人類如同流星從空中墜落，就連自己也在燃燒。諸神終于讓天空恢復(fù)了秩序，世界也免于被毀滅。

時間過了兩千多年，工業(yè)革命邁出了第一步，機(jī)器開始在許多工作上取代了人力，歌德也寫出了類似的警世寓言，名為《魔法師學(xué)徒》。歌德的這首敘事詩（后來由迪士尼改編制作成一部廣為人知的動畫片，主角正是米老鼠）講述的是，一位年邁的魔法師在出門的時候把工作坊交給一名小學(xué)徒，讓他處理一些去河邊打水之類的雜務(wù)。小學(xué)徒想偷懶，就擅自施展了魔法師的一條咒語，讓一把掃帚幫他打水。但小學(xué)徒還沒學(xué)過怎樣叫掃帚停下來，結(jié)果水越打越多，整個工作坊都快被淹沒了。情急之下，小學(xué)徒拿斧頭把魔法掃帚砍成兩段，卻發(fā)現(xiàn)一把掃帚變成兩把，兩把掃帚一起打水灌向工作坊。等到魔法師終于回來時，小學(xué)徒向他求救：“我召喚了魔法精靈，卻無法讓它停下來。”魔法師立刻解除了咒語，阻止了大水。這給小學(xué)徒（也就是給人類）的教訓(xùn)再清楚不過了：永遠(yuǎn)別去召喚自己控制不了的力量。

法厄同與小學(xué)徒的故事，能讓21世紀(jì)的我們得到什么警示？人類顯然沒聽進(jìn)去這些警告，除了讓地球氣候失衡，還召喚了數(shù)十億的魔法掃帚、無人機(jī)、聊天機(jī)器人和其他各種算法精靈，這些精靈不但可能會失控，還可能讓各種意想不到的后果如大水洶涌而至。

那我們該怎么辦呢？這些故事并沒有給出真正的答案，似乎就只能等著某個神祇或者魔法師出面收拾殘局。但這種想法極其危險，等于鼓勵我們放任自流，轉(zhuǎn)而去相信那些神祇或魔法師。更糟的是，這些故事并沒有讓我們意識到，神祇或魔法師本身就是人類的發(fā)明，與四馬金車、魔法掃帚和算法并沒什么兩樣。創(chuàng)造出強(qiáng)大的事物，卻帶來意想不到的后果，這個現(xiàn)象并非始于蒸汽機(jī)或人工智能的發(fā)明，而是始于宗教。先知與神學(xué)家召喚出強(qiáng)大的神靈，這些神靈本該給人間帶來歡樂與慈愛，但有時留下的卻是一片血海。

不管是法厄同的神話故事還是歌德的敘事詩，之所以無法提供有用的建議，是因為它們都誤解了人類獲取力量的方式。這兩則故事都講述了某個人獲取了巨大的力量，但隨后因為傲慢與貪婪而走上歧途。于是得出這樣的結(jié)論，因為個體心理缺陷導(dǎo)致了權(quán)力濫用。但這樣的分析實在太過粗糙，而且忽略了一個重要方面：力量從來就不是個人努力的結(jié)果，人類的力量總是源于大批人的合作。

因此，真正造成人類濫用力量的原因并不在于個人的心理。畢竟，除了貪婪、傲慢與殘忍，人類還有慈愛、謙遜、快樂與同情。確實，如果去看那些最糟糕的人類，會看到貪婪與殘忍大行其道，惡人濫用力量。但究竟是什么讓人類社會選擇把力量交付那些最糟糕的人？比如在1933年，大多數(shù)德國人并非精神失常，但為什么他們會投票給希特勒？

人類之所以喜歡召喚自己控制不了的力量，問題不在于個人的心理，而在于人類在大規(guī)模合作時的一種特性。本書想提出的一個主要論點就是：雖然人類能建立大規(guī)模合作網(wǎng)絡(luò)，以此獲取巨大的力量，但這些網(wǎng)絡(luò)的建構(gòu)方式注定了人類對這些力量的運用常常并不明智。因此，人類遇到的問題歸根結(jié)底是個網(wǎng)絡(luò)問題。

講得更明確一點，這是個信息問題。信息是維持網(wǎng)絡(luò)聯(lián)結(jié)的黏合劑。數(shù)萬年來，智人正是靠著發(fā)明與傳播各種虛構(gòu)故事、幻想和大量的錯覺——內(nèi)容可能關(guān)于神祇、魔法掃帚、人工智能和許多其他事物——來打造并維持諸多的大規(guī)模網(wǎng)絡(luò)。雖然個人通常了解的都是關(guān)于自己與世界的真理與真相，但大規(guī)模網(wǎng)絡(luò)卻會使用各種虛構(gòu)故事與幻想將成員聯(lián)結(jié)在一起并創(chuàng)造秩序。舉例來說，我們過去就是這樣走向了納粹主義，納粹主義形成了格外強(qiáng)大的網(wǎng)絡(luò)，并由極具迷惑性的想法加以支撐維系。正如喬治·奧威爾的那句名言：“無知就是力量。”

納粹主義的政權(quán)基礎(chǔ)，就是一些令人痛苦的幻想和毫無羞恥的謊言，但這在歷史上實在稱不上特殊，也不代表它們注定崩潰。納粹主義可以說是史上人類創(chuàng)造出的最強(qiáng)大網(wǎng)絡(luò)。從1941年年底到1942年年初，法西斯國家聯(lián)盟（德、意、日）曾經(jīng)有望贏得第二次世界大戰(zhàn)，而斯大林最終成為二戰(zhàn)的勝者。[1]雖然在20世紀(jì)90年代自由民主國家占了上風(fēng)，但如今看來那可能只是暫時的勝利。到21世紀(jì)，過去希特勒等人沒做到的，很可能會由一些新的極權(quán)主義政權(quán)接手完成：創(chuàng)造出一個無所不能的網(wǎng)絡(luò)，甚至能夠阻止后代去嘗試揭露其中的虛構(gòu)與謊言。我們不該以為這些網(wǎng)絡(luò)的基礎(chǔ)因為都只是些虛構(gòu)妄想就注定會失敗崩潰。想要避免這些網(wǎng)絡(luò)的最終成功，我們自己將不得不付出艱苦的努力。

天真的信息觀

我們之所以很難看清這些虛構(gòu)妄想的網(wǎng)絡(luò)究竟擁有多大的力量，是因為我們對于大規(guī)模信息網(wǎng)絡(luò)（無論其信息是真實還是虛構(gòu)的）的運作方式有一種整體上的誤解，我稱之為“天真的信息觀”。如果說法厄同神話與《魔法師學(xué)徒》這樣的寓言故事呈現(xiàn)了一種對個人心理的悲觀看法，那么天真的信息觀對大規(guī)模人類網(wǎng)絡(luò)的看法則顯然太過樂觀。

天真的信息觀認(rèn)為，通過收集與處理比個人多得多的信息，大規(guī)模網(wǎng)絡(luò)能更好地了解醫(yī)學(xué)、物理學(xué)、經(jīng)濟(jì)學(xué)等諸多領(lǐng)域，于是這樣的網(wǎng)絡(luò)不但力量強(qiáng)大，還無比明智。舉例來說，通過收集更多關(guān)于病原體的信息，制藥公司與醫(yī)療保健服務(wù)機(jī)構(gòu)就能找出更多疾病的病因，從而研發(fā)出更強(qiáng)大的藥物，并就藥物的使用做出更明智的選擇。這種觀點認(rèn)為，有了足夠多的信息，就能得到真理與真相；有了真理與真相，就能得到力量與智慧。相較之下，無知似乎無法通向任何地方。雖然在某些歷史上的危急時刻，基于妄想或欺瞞而形成的網(wǎng)絡(luò)偶爾會出現(xiàn)，但長期看，這些網(wǎng)絡(luò)必然會敗給那些真實且可信的網(wǎng)絡(luò)。醫(yī)療保健服務(wù)機(jī)構(gòu)如果無視病原體的信息，或者制藥公司刻意散播不實信息，到頭來肯定都會輸給那些更聰明地利用信息的對手。因此，天真的信息觀就會相信，那些基于妄想的網(wǎng)絡(luò)肯定只是異常，而大規(guī)模網(wǎng)絡(luò)通常都值得信賴，肯定能明智地運用其力量。

當(dāng)然，天真的信息觀也承認(rèn)，在從信息到真理與真相這條路上，有很多事情可能會出問題。比如我們在收集與處理信息的時候可能會犯下一些無心的錯誤，可能有些壞人會出于貪婪與仇恨而想隱藏重要事實或試圖欺瞞。因此，有些時候信息并非導(dǎo)向真理與真相，反而導(dǎo)向錯誤。比如，信息不完整、分析有錯誤，或有人刻意散布虛假信息，都可能讓人誤入歧途，于是就連專家也可能對某種疾病的真正成因產(chǎn)生誤判。

然而，天真的信息觀會認(rèn)為，面對收集與處理信息時遇到的大多數(shù)問題，解決辦法就是收集與處理更多的信息。錯誤本來就不可能完全避免，而在大多數(shù)情況下，如果能獲取更多信息，確實能讓準(zhǔn)確率有所提高。如果想找出一場流行病的起因，一位醫(yī)生想從單一患者身上得到答案，其準(zhǔn)確性顯然比不上幾千位醫(yī)生收集幾百萬患者的數(shù)據(jù)做出的判斷。如果這群醫(yī)生密謀隱瞞真相，只要讓公眾和調(diào)查記者都能自由地取得相關(guān)醫(yī)療信息，這一隱瞞行為終將會敗露。從這種觀點看來，信息網(wǎng)絡(luò)越大，就能越接近真理與真相。

當(dāng)然，就算我們準(zhǔn)確地分析了信息，發(fā)現(xiàn)了重要事實，也無法保證我們因此得到力量之后能夠明智地加以運用。一說到明智，大部分人會認(rèn)為就是能“做出正確的決定”，但所謂“正確”是有價值判斷的，不同的個人、文化或意識形態(tài)就會有不同的想法。比如，科學(xué)家發(fā)現(xiàn)了新的病原體之后，一種想法可能是研發(fā)疫苗來保護(hù)人類，但如果這位科學(xué)家（或是其統(tǒng)治者）抱持種族主義的意識形態(tài)，一心認(rèn)為某些種族就是劣等民族，應(yīng)該被消滅，那么這項新的醫(yī)學(xué)發(fā)現(xiàn)就可能被用來研發(fā)生物武器，以此奪走數(shù)百萬人的生命。

即使在這種情境下，天真的信息觀也會認(rèn)為，只要有更多信息，至少還是能解決部分問題的。天真的信息觀認(rèn)為，只要仔細(xì)檢查就會發(fā)現(xiàn)，人之所以會有不同的價值觀，要么是因為信息缺乏，要么是有人在刻意傳播虛假信息。根據(jù)這種觀點，之所以會有種族主義者，只是因為這些人得到的信息還不充分，對生物學(xué)與歷史事實了解得還不夠。這些人誤以為在生物學(xué)上真的能把人分成不同的“種族”，他們被各種虛假的陰謀論洗腦了。因此，要想解決種族主義問題，就要向公眾提供更多關(guān)于生物學(xué)與歷史的事實。雖然這可能得花些時間，但在這種自由的信息市場上，真理與真相遲早都能勝出。

當(dāng)然，天真的信息觀其實還涉及更多細(xì)節(jié)與思考，并不是以上幾段文字就能解釋的，但其核心原則就是：信息本質(zhì)上是件好事，我們擁有的信息越多越好。只要有足夠的信息和足夠的時間，我們就一定能找出各種事物的真相（從病毒感染到種族主義偏見），不但讓人類的力量得以提升，也能讓智慧得以成長，進(jìn)而能更明智地利用這種力量。

這種天真的信息觀為發(fā)展更強(qiáng)大的信息科技提供了理由，而這種觀點也成為計算機(jī)與網(wǎng)絡(luò)時代半官方意識形態(tài)。1989年6月，就在柏林墻倒塌與鐵幕被沖破的前幾個月，羅納德·里根宣告，“極權(quán)主義的歌利亞很快就會被微晶片的大衛(wèi)打倒”，同時提到“最大的老大哥在面對通信科技時已越來越無助……信息就是現(xiàn)代社會的氧氣……能夠越過頂部裝了刺網(wǎng)的高墻，能夠飄過通了電、設(shè)了各種陷阱的邊界。電子束如同微風(fēng)，仿佛穿越蕾絲一般吹過鐵幕”[2]。2009年11月，時任美國總統(tǒng)奧巴馬到訪上海，也表達(dá)了同樣的看法，他向中國東道主表示：“我非常相信技術(shù)的作用，非常重視開放性。在信息流動方面，我認(rèn)為信息流通越自由，社會就變得越強(qiáng)。”[3]

創(chuàng)業(yè)者與企業(yè)也常常對資訊科技抱持同樣樂觀的看法。早在1858年，《新英格蘭人》（The New Englander）就有一篇社論談到電報這項發(fā)明：“既然已經(jīng)創(chuàng)造出這樣的工具，讓全世界所有國家的思想得以交流，過去的偏見與敵意必將無以為繼。”[4]在經(jīng)過將近兩個世紀(jì)以及兩次世界大戰(zhàn)之后，馬克·扎克伯格則表示，臉書的目標(biāo)“是幫助大眾分享更多信息，好讓世界變得更加開放，以及促進(jìn)人與人之間的理解”[5]。

著名未來學(xué)家、創(chuàng)業(yè)家雷·庫茲韋爾2024年出版的新書《奇點已更為臨近》（The Singularity Is Nearer）回顧了信息技術(shù)的發(fā)展史，并得出結(jié)論：“現(xiàn)實情況就是，隨著科技指數(shù)級的改進(jìn)，生活的幾乎所有方面都在變得更好。”書中回顧了人類歷史上的重大發(fā)展，列舉了印刷術(shù)的發(fā)明等例子，認(rèn)為信息技術(shù)從本質(zhì)上傾向于產(chǎn)生“一種良性循環(huán)，讓人類福祉的幾乎所有方面都得到改進(jìn)，包括識字、教育、財富、衛(wèi)生、健康、民主和減少暴力”[6]。

最能夠簡潔表達(dá)出這種天真信息觀的，或許就是谷歌的使命宣言：“整合全球信息，使人人皆可訪問并從中受益。”面對歌德的警告，谷歌顯然認(rèn)為雖然一個學(xué)徒偷走老師的魔法咒語可能造成災(zāi)難，但如果很多學(xué)徒能夠自由獲取世界上所有的信息，這些學(xué)徒就不但能創(chuàng)造出人人受益的魔法掃帚，還能學(xué)會明智地使用這股力量。

谷歌與歌德

這里必須強(qiáng)調(diào)，很多時候，擁有更多的信息確實能讓人更加了解世界，更明智地運用手中的力量。以兒童死亡率的大幅下降為例，歌德是全家7個孩子里的老大，但只有他和妹妹柯妮莉亞慶祝了7歲生日。其他孩子多半因病夭折，赫爾曼·雅各布6歲時死于疾病，凱瑟琳娜·伊麗莎白活到4歲，約翰妮·瑪麗亞活到2歲，喬治·阿道夫只活了8個月，還有一個弟弟來不及取名便胎死腹中。最后柯妮莉亞在26歲病逝，全家這一代只剩歌德一人。[7]

歌德自己后來也生了5個孩子，但除了長子奧古斯特，其余的孩子都在出生后兩周內(nèi)夭折。夭折的原因很可能是歌德和妻子克里斯典娜的血型不兼容，讓她在第一次成功懷孕后，體內(nèi)出現(xiàn)了對抗胎兒血型的抗體。這種病被稱為Rh血型不合溶血病，目前已能有效治療，死亡率不到2%，但在18世紀(jì)90年代，這種疾病平均死亡率高達(dá)50%，等于給歌德后來的4個孩子都判了死刑。[8]

18世紀(jì)末，歌德家族堪稱德國的富裕家庭，但他家這兩代的兒童存活率只有可憐的25%，12個孩子中只有3個活到成年。這個可怕的統(tǒng)計數(shù)據(jù)并非個例，歌德在1797年寫下《魔法師學(xué)徒》時，估計德國兒童只有50%能活到15歲，[9]而且當(dāng)時全球大多數(shù)地區(qū)的情況大概也是如此。[10]到2020年，全球兒童有95.6%能活到15歲，[11]這個數(shù)據(jù)在德國更是高達(dá)99.5%。[12]之所以能有這項重大的成就，當(dāng)然是因為收集、分析和共享了關(guān)于血型等要素的大批醫(yī)學(xué)數(shù)據(jù)。所以就這個案例而言，天真的信息觀其實說得沒錯。

然而，天真的信息觀并未見到事物的全貌，現(xiàn)代歷史可不只是兒童死亡率降低而已。在近幾個世代里，信息生產(chǎn)的數(shù)量與速度都經(jīng)歷了前所未有的最大增長。現(xiàn)在任何一部智能手機(jī)儲存的信息量都能超越古代的整座亞歷山大圖書館，[13]還能讓用戶實時與世界各地幾十億人建立聯(lián)系。然而，隨著這些信息以驚人的速度傳播，人類卻比過去任何時候都更接近自我毀滅。

人類坐擁大量數(shù)據(jù)（或許也正是這個原因），卻還是在不斷向大氣排放溫室氣體，污染河海，砍伐森林，破壞棲息地，讓無數(shù)物種滅絕，甚至還危及自己這個物種的生態(tài)基礎(chǔ)。人類還在生產(chǎn)著越來越強(qiáng)大的大規(guī)模殺傷性武器，從熱核彈到末日病毒，無所不包。人類領(lǐng)導(dǎo)者的手中并不是沒有關(guān)于這些危險的信息，但他們非但沒去合作尋找解決方案，反而讓大家越來越接近一場全球戰(zhàn)爭。

這個時候，坐擁更多信息是會讓事情變好還是變得更糟，我們很快就會知道。目前，許多企業(yè)與政府都在爭先恐后地研發(fā)人類歷史上最強(qiáng)大的信息技術(shù)——人工智能。一些知名企業(yè)家，比如美國投資人馬克·安德森，相信人工智能最后能夠解決人類所有的問題。2023年6月6日，安德森發(fā)表了《為何人工智能能拯救世界》（Why AI Will Save the World）一文，文中充滿了大膽的言論，比如，“我要告訴大家這項重要的好消息：人工智能非但不會毀滅世界，而且還可能拯救世界”“人工智能能讓我們關(guān)心的一切變得更好”。他最后總結(jié)道：“人工智能的發(fā)展與普及，非但不是我們該擔(dān)心的風(fēng)險，反而是我們對自己、對孩子、對未來該承擔(dān)的道德義務(wù)。”[14]

雷·庫茲韋爾也同意這種說法，他在《奇點已更為臨近》一書中表示：“人工智能這項關(guān)鍵技術(shù)，將讓人類得以應(yīng)對各種迫在眉睫的挑戰(zhàn)，包括克服疾病、貧窮、環(huán)境退化，以及人類的所有弱點。而我們就該負(fù)起道德上的責(zé)任，實現(xiàn)新技術(shù)的承諾。”庫茲韋爾很清楚這項技術(shù)的潛在危險，也對這些危險進(jìn)行了詳盡的分析，但他相信這些危險都可以被成功化解。[15]

但其他人就沒那么相信了。除了哲學(xué)家與社會科學(xué)家，許多重要的人工智能專家與企業(yè)家（例如約書亞·本吉奧、杰弗里·辛頓、山姆·奧特曼、埃隆·馬斯克、穆斯塔法·蘇萊曼）都警告公眾：人工智能可能會摧毀人類文明。[16]本吉奧、辛頓與許多其他專家在2024年共同撰寫的一篇文章中指出：“不受控制的人工智能發(fā)展，最后可能造成大規(guī)模的生命損失與生物圈傷害，以及人類的邊緣化甚至滅絕。”[17]一項2023年的研究調(diào)查了2778名人工智能研究者，結(jié)果顯示，有超過1/3的人認(rèn)為，先進(jìn)的人工智能有至少10%的可能會造成等同于人類滅絕一樣可怕的后果。[18]2023年，包括中國、美國與英國在內(nèi)的近30個國家和歐盟簽署了關(guān)于人工智能的《布萊切利宣言》，其中就承認(rèn)：“這些人工智能模型所具備的最重要的功能可能會造成嚴(yán)重的甚至是災(zāi)難性的傷害，無論是有意的還是無意的。”[19]雖然以上使用的是這種仿佛描述世界末日的語詞，但專家與政府并不是讓人聯(lián)想到那些好萊塢電影的畫面，好像有機(jī)器人造反，在街上奔跑射殺人類。這種情節(jié)一來實在不太可能發(fā)生，二來只會讓人們忽略真正的危險。專家真正要警告的是另外兩種情況。

第一，人工智能的力量可能會大幅加劇人類既有的沖突，讓人類形成內(nèi)斗。正如20世紀(jì)冷戰(zhàn)時期的鐵幕分隔出幾個彼此敵對的勢力，21世紀(jì)的硅幕（不再是鐵絲網(wǎng)，而是由硅基芯片和計算機(jī)代碼組成的）也可能區(qū)隔出不同的敵對勢力，引發(fā)一場新的全球沖突。這場人工智能軍備競賽將會制造出更具破壞性的武器，于是即使只是一個小小的火花，也可能引發(fā)災(zāi)難性的大火。

第二，硅幕所分隔的或許不是彼此敵對的人類，而是一邊為所有人類，另一邊為我們新的人工智能霸主。不論在哪里生活，我們都可能被一張看不透的算法大網(wǎng)束縛，控制著我們的生活，重塑著我們的政治與文化，甚至是去改造我們的身體與思想，但人類卻再也無法理解這些控制著我們的力量，更別說加以阻止了。如果21世紀(jì)真會有某個極權(quán)主義網(wǎng)絡(luò)成功征服世界，其背后的掌控者可能并不是人類的獨裁者，而是某種非人類智慧。有些人以為，如果人類將會迎來極權(quán)主義噩夢，主要來源應(yīng)該是俄羅斯或后民主時代的美國等國，但這是對極權(quán)主義威脅的一種誤解。事實上，不管是俄羅斯人、美國人還是其他人，真正面對的可能是由非人類智慧引發(fā)的極權(quán)威脅。

有鑒于這種危險的嚴(yán)重性，人工智能應(yīng)該引起全人類的共同關(guān)注。雖然不是每個人都能成為人工智能專家，但我們都該知道，人工智能是歷史上第一個能夠自行做決策、創(chuàng)造新想法的技術(shù)。人類過去的所有發(fā)明，都只是在為人類賦予更強(qiáng)大的力量：過去的新工具無論多么強(qiáng)大，使用的決定權(quán)都握在人類手中。刀和炸彈并不會決定要殺死誰，它們只是不會思考的工具，沒有處理信息、做出獨立決策時所必需的智能。相較之下，人工智能能夠自行處理信息，因此也就能夠代替人類做出決策。人工智能不是工具，而是能夠做出決策的行為者。

由于能夠掌握信息，人工智能就能在各種領(lǐng)域獨立產(chǎn)生新的想法，從音樂到醫(yī)學(xué)無所不包。在過去，留聲機(jī)能播放人類譜寫的音樂，顯微鏡能顯現(xiàn)人體細(xì)胞的秘密，但留聲機(jī)無法譜寫新的樂曲，顯微鏡也無法合成新的藥物。但人工智能能夠自行創(chuàng)造藝術(shù)，找出新的科學(xué)發(fā)現(xiàn)。接下來的幾十年里，人工智能甚至可能創(chuàng)造出新的生命形式，方式可能是編寫遺傳密碼，也可能是發(fā)明某種非生物的代碼，從而賦予非生物實體生命。

當(dāng)下，就算這場人工智能革命還在萌芽階段，計算機(jī)也做出了各種影響人類的決定：要不要核準(zhǔn)某人的貸款，要不要雇用某人來工作，要不要把某人送進(jìn)監(jiān)獄。這種趨勢只會愈演愈烈、越來越快，讓我們越來越難以掌控自己的生活。我們真的能相信計算機(jī)算法會做出明智的決定，并創(chuàng)造一個更美好的世界嗎？這個賭注可比相信魔法掃帚會打水要冒更大的風(fēng)險，而且這里賭上的不只是人類的生命。人工智能不但可能改變?nèi)祟愡@個物種的歷史進(jìn)程，還可能改變所有生命形式的演化歷程。

信息成為一種武器

我在2016年出版了《未來簡史》，這本書指出各種新信息技術(shù)對人類造成的一些危險。書中認(rèn)為，歷史真正的主角一直都是信息，而非智人，而且科學(xué)家已經(jīng)越來越懂得采用信息流的觀點，除了用來看歷史，也能用來看生物學(xué)、政治學(xué)和經(jīng)濟(jì)學(xué)。不論是動物、國家還是市場，都可以算是信息的網(wǎng)絡(luò)，都會從環(huán)境中吸收資料數(shù)據(jù)，據(jù)以做出決策，進(jìn)而又釋放出更多資料數(shù)據(jù)。這本書也發(fā)出警告，雖然我們都希望隨著信息技術(shù)的改進(jìn)而為人類帶來健康、快樂和力量，但事實上，信息技術(shù)得到提升之后，反而可能讓人類失去力量，同時損害人類的身心健康。《未來簡史》還假設(shè)，人類要是再不小心，就可能像泥土落入滾滾河流，直接消融在信息的洪流之中；同時放眼萬事萬物，人類只不過是宇宙數(shù)據(jù)流里的一個小小漣漪。

自《未來簡史》出版以來，事物發(fā)展變化的速度不斷加快，權(quán)力也確實已經(jīng)從人類轉(zhuǎn)到了算法手中。許多在2016年聽起來還像是科幻小說的場景，比如算法能夠創(chuàng)造藝術(shù)、假裝成人類、會做出讓人一輩子受到重大影響的決定、比我們更了解我們自己，在2024年都已經(jīng)成為現(xiàn)實。

自2016年以來，還有許多事也發(fā)生了變化。生態(tài)危機(jī)加劇，國際緊張局勢升溫，而一波民粹主義浪潮甚至讓全球最強(qiáng)大的幾個民主政體也為之動搖。民粹主義也對天真的信息觀造成嚴(yán)重的挑戰(zhàn)。不管是唐納德·特朗普、巴西前總統(tǒng)雅伊爾·博索納羅這樣的民粹主義領(lǐng)導(dǎo)人，還是像匿名者Q[20]和反疫苗者[21]這樣的民粹主義運動與陰謀論者，都認(rèn)為有些傳統(tǒng)機(jī)構(gòu)制度只是聲稱自己在收集信息、找尋真理與真相，以此取得權(quán)力，但其實都是在說謊。在他們看來，那些官僚、法官、醫(yī)生、主流記者和學(xué)術(shù)專家就是一個精英陰謀集團(tuán)，他們對真相沒有半點興趣，總在故意傳播虛假信息，犧牲“人民”的利益來謀取自己的特權(quán)。像特朗普這類政治人物以及匿名者Q這類運動的崛起，有著21世紀(jì)10年代末期美國所特有的政治背景。但如果說到民粹主義作為一種反建制的世界觀，其實早在特朗普之前便已登場，而且與過去和未來的許多情景息息相關(guān)。一言以蔽之，在民粹主義者眼里，信息就是一種武器。[22]

更極端的民粹主義會認(rèn)為世上根本沒有什么客觀真理，每個人都有自己的真理，并想以此來壓倒對手。這種世界觀認(rèn)為，只有權(quán)力才是唯一的現(xiàn)實。所有的社會互動都是權(quán)力斗爭，人類真正感興趣的也唯有權(quán)力。聲稱自己對其他事物（比如真理或正義）感興趣，只是用來取得權(quán)力的策略。無論何時何地，當(dāng)民粹主義成功地讓人們覺得信息就是一種武器而進(jìn)行傳播時，語言本身就會受到損害。不論是“事實”這樣的名詞，還是“準(zhǔn)確的”“真實的”這樣的形容詞，都會變得語義模糊，似乎無法指向一個共同的客觀現(xiàn)實。這種時候，只要一談到“事實”或“真相”，就會引起一部分人質(zhì)疑：“你說的是誰的事實、誰的真相？”

但這里應(yīng)該強(qiáng)調(diào)，這種重視權(quán)力、對信息持高度懷疑態(tài)度的信息觀其實由來已久，絕不是反疫苗者、地平論者[23]以及博索納羅或特朗普支持者等人的發(fā)明。早在2016年之前，有人就已經(jīng)提出了類似的觀點，而且有些還是史上最聰明的一群人。[24]比如在20世紀(jì)末，就有米歇爾·福柯和愛德華·薩義德這樣的左翼知識分子認(rèn)為，醫(yī)院與大學(xué)這樣的科學(xué)機(jī)構(gòu)不是為了追求什么永恒客觀的真理，而是利用權(quán)力來決定什么是真理，為資本主義與殖民主義精英服務(wù)。這些激進(jìn)的批評者甚至有時候會認(rèn)為，“科學(xué)事實”也只是資本主義或殖民主義的“話語”，當(dāng)權(quán)者永遠(yuǎn)不會真正對真理與真相感興趣，也絕不能相信這些人會承認(rèn)并改正自己的錯誤。[25]

左翼革命派的思想路線可以追溯到馬克思。1848年的《共產(chǎn)黨宣言》就指出：“至今所有一切社會的歷史都是階級斗爭的歷史。自由民和奴隸，貴族和平民，地主和農(nóng)奴，行會師傅和幫工，簡短些說，壓迫者和被壓迫者，始終處于相互對抗的地位，進(jìn)行不斷的，有時隱蔽，有時公開的斗爭。”[26]這種對歷史的二元詮釋意味著，人類的每一次互動都是壓迫者與被壓迫者之間的權(quán)力斗爭。這樣一來，某人說了某句話，最重要的問題不是說的內(nèi)容是什么、說的是不是事實，而是這句話是誰說的、他為誰的特權(quán)服務(wù)。

當(dāng)然，像特朗普和博索納羅這樣的右翼民粹主義者不太可能認(rèn)真讀過福柯或馬克思的著作，而且他們也表現(xiàn)出一副強(qiáng)烈反對馬克思主義的樣子。至于他們在稅收與福利等領(lǐng)域所提出的政策也看不出半點兒馬克思主義。然而講到社會與信息，他們的基本觀點卻出人意料地雷同，同樣將所有人類之間的互動視為壓迫者與被壓迫者之間的斗爭。比如，特朗普在2017年的就職演說中就宣稱：“我們國家首都的一小群人攫取了政府的好處，而人民卻承擔(dān)了代價。”[27]這種言論正是民粹主義的代表，政治學(xué)家卡斯·穆德認(rèn)為民粹主義就是一種“意識形態(tài)，認(rèn)為社會最終會被分成兩個內(nèi)部同質(zhì)而互相對立的群體，即‘潔凈的人民’與‘腐敗的精英’”[28]。正如馬克思主義者總在聲稱的，媒體是資產(chǎn)階級的喉舌，大學(xué)等科學(xué)機(jī)構(gòu)散布虛假信息，是為了延續(xù)資本主義的控制；民粹主義則是指責(zé)這些機(jī)構(gòu)以犧牲“人民”的利益為代價，促進(jìn)“腐敗精英”的利益。

但就像前幾個世代的激進(jìn)反建制運動，如今的民粹主義同樣有邏輯不連貫的問題。如果權(quán)力是唯一的現(xiàn)實，信息也只是武器，那這對民粹主義本身意味著什么呢？他們是不是一心只想奪權(quán)，是不是也總在對我們說謊以騙取權(quán)力？

面對這個難題，民粹主義試著用兩種方法來解決。有些民粹主義運動聲稱自己堅持現(xiàn)代科學(xué)的理想，恪守經(jīng)驗主義對一切抱持懷疑態(tài)度的傳統(tǒng)。他們告訴公眾：你們永遠(yuǎn)不該相信任何機(jī)構(gòu)制度或權(quán)威，包括那些自封的民粹主義政黨與政治人物。相反，你們應(yīng)該自己去研究，只相信自己直接觀察到的東西。[29]這種激進(jìn)的經(jīng)驗主義立場認(rèn)為，雖然我們確實無法永遠(yuǎn)相信政黨、法院、報紙、大學(xué)這些大型機(jī)構(gòu)制度，但個人要是足夠努力，還是可以找出真相的。

這種方法或許聽起來很科學(xué)，也能吸引那些個性自由奔放的人，但還是有個問題無法解決：要是真這么做，人類社群怎樣才能真正合作，比如打造出醫(yī)療保健系統(tǒng)或是通過環(huán)境法規(guī)？這些目標(biāo)的背后都需要有大規(guī)模的組織制度配合才行。如果只有一個人，難道他真的可能完成所有必要的研究，確定地球氣候是否正在變暖，并找出可行的應(yīng)對措施？如果只有一個人，他怎么收集世界各地的氣候數(shù)據(jù)，更不用說取得過去幾個世紀(jì)的可靠記錄了。只相信“自己的研究”可能乍聽之下很科學(xué)，但其實這等于相信世界上沒有客觀真理。我們在本書第四章就會看到，科學(xué)絕不是一種個人的追求，而是機(jī)構(gòu)制度的合作。

民粹主義提出的另一種解決方法，是放棄現(xiàn)代科學(xué)通過“研究”尋找真相的理想，轉(zhuǎn)而依賴神啟或神秘主義。基督教、伊斯蘭教、印度教等傳統(tǒng)宗教，常常把人類描繪成不值得信任、渴求權(quán)力的生物，唯有依靠某些神性智慧的介入，才能了解真理與真相。在21世紀(jì)10年代到20年代初，從巴西到土耳其，從美國到印度，各地的民粹主義政黨都與這類傳統(tǒng)宗教牽起了手，一方面徹底質(zhì)疑現(xiàn)代的機(jī)構(gòu)制度，另一方面卻全然深信古代的經(jīng)文典籍。這些民粹主義者聲稱，你在《紐約時報》《科學(xué)》報刊上讀到的文章只是精英主義者用來取得權(quán)力的策略，但你在《圣經(jīng)》《吠陀經(jīng)》上讀到的內(nèi)容則是絕對真理。[30]

這種解決方法的另一種形式則是呼吁公眾信賴像特朗普或博索納羅這樣的魅力領(lǐng)袖。他們的支持者將這些領(lǐng)袖描繪成上帝的使者，[31]或者說他們和“人民”有著某種神秘的聯(lián)系。如果是一般政客，他們就會對人民說謊，只為了獲得自己的權(quán)力；如果是魅力領(lǐng)袖，他們則成了人民的代言人，非但不會出錯，還會揭露一切謊言。[32]所以，民粹主義反復(fù)出現(xiàn)的悖論之一，就是一開始的時候總在警告大家，所有人類精英都是為了爭權(quán)奪利，十分危險，但常常到頭來又要求人民把所有權(quán)力都交給某位充滿野心的人。

第五章會更深入地探討民粹主義，此處我想強(qiáng)調(diào)的一點是，人類目前正在面臨生態(tài)崩潰、全球戰(zhàn)爭、技術(shù)失控等生存挑戰(zhàn)，但民粹主義卻在此時侵蝕著我們對大型機(jī)構(gòu)制度與國際合作的信任。民粹主義者不相信復(fù)雜的人類機(jī)構(gòu)制度，他們的建議就像法厄同神話與《魔法師學(xué)徒》給我們的啟示一樣：“相信會有神祇或偉大的魔法師介入，讓一切恢復(fù)正常。”如果我們接受了這種建議，從短期來看，控制我們的可能就是那些對權(quán)力欲望旺盛而且是其中最糟糕的一群人，從長期來看，控制我們的可能就是新的人工智能霸主。還有一種可能，隨著地球變得不再適合人類生存，我們會發(fā)現(xiàn)自己根本無處可去。

我們?nèi)绻幌氚褭?quán)力交給某個魅力領(lǐng)袖或是高深莫測的人工智能，首先就得更加了解“信息”究竟是什么，了解信息如何協(xié)助建立起人類網(wǎng)絡(luò)，了解信息與真理、真相以及與權(quán)力的關(guān)系。民粹主義的正確之處在于對天真的信息觀抱持懷疑態(tài)度，但偏激之處則在于認(rèn)為只有權(quán)力是唯一的現(xiàn)實，以及信息永遠(yuǎn)就是一種武器。事實是，信息既不能說肯定能帶來真理與真相，但它也不只是一種武器。在這兩種極端之間其實還有足夠的空間，能讓我們以更細(xì)致也更充滿希望的觀點來看待人類的信息網(wǎng)絡(luò)，看待人類明智地運用權(quán)力的可能。本書就是希望能探索這樣的中間立場。

前方的道路

本書第一部分將會概述人類信息網(wǎng)絡(luò)的歷史發(fā)展進(jìn)程。這里并不是要按照世紀(jì)的進(jìn)展，全面討論文字、印刷術(shù)、無線電等信息技術(shù)，而是希望通過研究幾個范例，探討各個時代人們在建立信息網(wǎng)絡(luò)時所面臨的關(guān)鍵困境，并研究了當(dāng)時解決這些困境不同的答案怎樣塑造出截然不同的人類社會。有些沖突的成因，我們一般會認(rèn)為是意識形態(tài)或政治上的不同，但實際上往往是信息網(wǎng)絡(luò)的類型不同。

在第一部分，我最先考察的是對于大規(guī)模人類信息網(wǎng)絡(luò)至關(guān)重要的兩個概念：神話故事和官僚制度。在第二章與第三章，我描述了大規(guī)模信息網(wǎng)絡(luò)（從古代王國到現(xiàn)代國家）是如何同時有賴于神話編造者與官僚制度的。舉例來說，《圣經(jīng)》中的故事當(dāng)然對基督教會至關(guān)重要，但要是沒有教會的官僚來策劃、編輯和傳播這些故事，《圣經(jīng)》也不會有這樣的地位。每個人際網(wǎng)絡(luò)都會面臨一個困境，那就是神話編造者與官僚制度常常會往不同的方向發(fā)展。各種機(jī)構(gòu)制度與社會的定義，常常取決于它們?nèi)绾卧谏裨捑幵煺吲c官僚制度的需求沖突之間達(dá)到平衡。例如，基督教就分裂成了天主教和新教等不同的教會，不同的教會正是在神話故事與官僚制度之間取得了不同的平衡。

第四章的重點是談?wù)撳e誤信息的問題，以及維持各種自我修正機(jī)制（例如獨立司法、同行評議期刊）的好處與壞處。這一章將比較不同的機(jī)構(gòu)制度：一類自我修正機(jī)制較弱，比如天主教會；另一類自我修正機(jī)制較強(qiáng)，比如科學(xué)學(xué)科。如果自我修正機(jī)制較弱，有時候如早期現(xiàn)代歐洲獵巫這樣的歷史災(zāi)難就會出現(xiàn)；但如果自我修正機(jī)制較強(qiáng)，有時候它則會從內(nèi)部破壞網(wǎng)絡(luò)的穩(wěn)定性。如果從延續(xù)、傳播與權(quán)力的角度來看，天主教會可以說是人類歷史上最成功的機(jī)構(gòu)，盡管其自我修正機(jī)制相對較弱（但這或許也是促成其成功的原因）。

在討論了神話故事與官僚制度的角色，也比較了自我修正機(jī)制強(qiáng)與弱的影響之后，第五章會以另一種對比來結(jié)束第一部分的歷史討論：分布式信息網(wǎng)絡(luò)和集中式信息網(wǎng)絡(luò)。民主制度會讓信息沿著許多獨立渠道自由流動，而極權(quán)制度則是將所有信息集中在一個核心樞紐，兩者各有優(yōu)劣。談到美國和蘇聯(lián)等不同的政治體系，如果從信息流的角度來切入，就能解釋為何它們有著不同的發(fā)展軌跡。

這本書的歷史部分對于我們理解當(dāng)下和展望未來至關(guān)重要。人工智能的興起可以說是歷史上最大的一場信息革命。但要真正理解這場革命，就必須與過去的信息革命做比較。歷史真正研究的并不是“過去”，而是“變化”。歷史能告訴我們什么是不變的、什么是變化的，以及事物又是如何變化的。這不僅與信息革命，而且與其他類型的歷史變革都息息相關(guān)。因此，如果能了解過去《圣經(jīng)》如何一步一步地成為絕對正確的經(jīng)典，我們就能從中得到寶貴的見解，來洞察當(dāng)今的人工智能是如何號稱絕對不會有誤的。同樣，研究近現(xiàn)代的獵巫行動和蘇聯(lián)的農(nóng)業(yè)集體化運動，也能提供一個嚴(yán)正的警告，讓我們知道如果賦予人工智能更大的權(quán)力來掌控21世紀(jì)的社會，可能會出現(xiàn)怎樣的問題。深入了解歷史至關(guān)重要，因為它能讓我們理解人工智能究竟有哪些是新穎的內(nèi)容，人工智能與印刷術(shù)及無線電廣播技術(shù)有什么根本差異，以及如果未來出現(xiàn)人工智能獨裁，其與過去出現(xiàn)的所有獨裁形式又有哪些不同。

本書并不是說研究過去就能預(yù)測未來。我后面還會反復(fù)強(qiáng)調(diào)，歷史不是確定的，未來將由我們所有人在未來幾年所做的選擇而塑造。我寫這本書全部的意義在于，希望我們通過做出明智的選擇，防止最糟糕的結(jié)果。如果未來真的無法改變，還去討論未來豈不是浪費時間？

以第一部分的歷史調(diào)查為基礎(chǔ)，本書第二部分“非生物網(wǎng)絡(luò)”討論的是人類如今正在打造的新信息網(wǎng)絡(luò)，重點關(guān)注人工智能興起的政治意義。第六章到第八章討論了世界各地近些年發(fā)生的例子（比如，2016—2017年社交媒體算法如何在緬甸煽動種族沖突），以解釋人工智能與過去所有信息技術(shù)的不同之處。之所以例子大多取自21世紀(jì)10年代，而不是21世紀(jì)20年代，是因為我們對21世紀(jì)10年代的事件已經(jīng)有了一些歷史性的觀點。

第二部分提出的論點認(rèn)為，人類正在創(chuàng)造一個全新的信息網(wǎng)絡(luò)，卻從來沒好好想想這有何影響。這里的重點在于，這是一種從生物到非生物信息網(wǎng)絡(luò)的轉(zhuǎn)變。過去的羅馬帝國、天主教會與蘇聯(lián)，都是依靠碳基的人腦來處理信息、做出決策，但主宰新信息網(wǎng)絡(luò)的硅基計算機(jī)的運作方式截然不同。過去，碳基的神經(jīng)元擺脫不了有機(jī)生物化學(xué)的種種限制，而無論如何，硅基芯片都能輕松擺脫這些限制。所以，硅基芯片能創(chuàng)造出永遠(yuǎn)不用睡覺的間諜、永遠(yuǎn)不會遺忘的金融家和永遠(yuǎn)不會死去的暴君。這會讓社會、經(jīng)濟(jì)與政治發(fā)生怎樣的改變？

本書的第三部分“計算機(jī)政治學(xué)”探討了不同類型的社會如何應(yīng)對非生物信息網(wǎng)絡(luò)的威脅與承諾。像我們這樣的碳基生命，還有沒有機(jī)會理解和掌控新的信息網(wǎng)絡(luò)？如上所述，歷史不是確定的，至少在未來幾年里，我們智人仍然有能力塑造我們的未來。

所以，第九章討論的是民主國家如何處理非生物信息網(wǎng)絡(luò)的興起。舉例來說，如果整個金融系統(tǒng)越來越受到人工智能的控制，金錢的意義也開始依賴人類無法理解的算法，那么有著血肉之軀的政治人物如何做出金融決策？如果我們不再能判斷自己談話的對象是真人還是偽裝成人類的聊天機(jī)器人程序，那么民主國家怎樣保持對任何議題（不管是金融還是性別）的公開對話？

第十章則探討了非生物信息網(wǎng)絡(luò)可能如何影響極權(quán)主義。雖然獨裁者很樂意擺脫所有的公開對話，但對人工智能也心存恐懼。獨裁政權(quán)要想站穩(wěn)腳跟，就得恐嚇和審查自己的代理人。但人類獨裁者又怎么可能去恐嚇人工智能、去審查人工智能高深莫測的處理程序，或者避免人工智能起身奪權(quán)？

最后的第十一章談?wù)摰氖沁@套新信息網(wǎng)絡(luò)如何左右全球民主與極權(quán)社會之間的權(quán)力平衡。人工智能是不是一定會讓天平倒向某一邊？世界會不會分裂成彼此敵對的集團(tuán)，所有人都因而成為某種失控的人工智能的獵物？或者，人類能不能團(tuán)結(jié)起來捍衛(wèi)共同的利益？

但在開始談信息網(wǎng)絡(luò)的過去、現(xiàn)在和可能的未來之前，我們得先談?wù)勔粋€看似簡單的問題——信息究竟是什么。

[1] Sean McMeekin, Stalin’s War: A New History of World War II (New York: Basic Books, 2021).

[2] “Reagan Urges ‘Risk’ on Gorbachev: Soviet Leader May Be Only Hope for Change, He Says,”Los Angeles Times, June 13, 1989, www.latimes.com/archives/la-xpm-1989-06-13mn-2300-story.html.

[3] White House, “Remarks by President Barack Obama at Town Hall Meeting with Future Chinese Leaders,” Office of the Press Secretary, Nov. 16, 2009, obamawhitehouse.archives.gov/the-press-office/remarks-president-barack-obama-town-hall-meeting-with-future-chinese-leaders.

[4] Evgeny Morozov，The Net Delusion：The Dark Side of Internet Freedom（New York：Public Affairs，2012）.

[5] Christian Fuchs，“An Alternative View of Privacy on Facebook，”Information 2，no. 1（2011）：140–65.

[6] Ray Kurzweil, The Singularity Is Nearer: When We Merge with AI (London: The Bodley Head, 2024), 121–23.

[7] Sigrid Damm, Cornelia Goethe (Berlin: Insel, 1988), 17–18; Dagmar von Gersdorff,Goethes Mutter (Stuttgart: Hermann Bohlaus Nachfolger Weimar, 2004); Johann Wolfgang von Goethe, Goethes Leben von Tag zu Tag: Eine dokumentarische Chronik (Dusseldorf:Artemis, 1982), 1:1749–75.

[8] Stephan Oswald, Im Schatten des Vaters. August von Goethe (Munich: C. H. Beck, 2023);Rainer Holm-Hadulla, Goethe’s Path to Creativity: A Psycho-biography of the Eminent Politician, Scientist, and Poet (New York: Routledge, 2018); Lisbet Koerner,“Goethe’s Botany: Lessons of a Feminine Science,”History of Science Society 84, no. 3(1993): 470–95; Alvin Zipursky, Vinod K. Bhutani, and Isaac Odame, “Rhesus Disease: A Global Prevention Strategy,”Lancet Child and Adolescent Health 2, no. 7 (2018): 536–42;John Queenan, “Overview: The Fetus as a Patient: The Origin of the Specialty,” in Fetal Research and Applications: A Conference Summary (Washington, D.C.: National Academies Press, 1994), accessed Jan. 4, 2024, www.ncbi.nlm.nih.gov/books/NBK231999/.

[9] John Knodel, “Two and a Half Centuries of Demographic History in a Bavarian Village,”Population Studies 24, no. 3 (1970): 353–76.

[10] Saloni Dattani et al., “Child and Infant Mortality,” Our World in Data, 2023, accessed Jan. 3, 2024, ourworldindata.org/child-mortality#mortality-in-the-past-around-half-died-as-children.

[11] Ibid..

[12] “Most Recent Stillbirth, Child, and Adolescent Mortality Estimates,” UN Inter-agency Group for Child Mortality Estimation, accessed Jan. 3, 2024, childmortality.org/data/Germany.

[13] 根據(jù)一項估計，亞歷山大圖書館的信息量約為1000億比特，約12.5 GB（吉字節(jié)）。參見：Douglas S. Robertson，“The Information Revolution，”Communication Research 17，no. 2（1990）：235–54.截至2020年，每部安卓手機(jī)的平均容量為96 GB。參見：Brady Wang，“Average Smartphone NAND Flash Capacity Crossed 100GB in 2020，” Counterpoint Research，March 30，2021，www.counterpointresearch.com/average-smartphone-nand-flash-capacity-crossed-100gb-2020/.

[14] Marc Andreessen, “Why AI Will Save the World,” Andreessen Horowitz, June 6, 2023, a16z.com/ai-will-save-the-world/.

[15] Ray Kurzweil, The Singularity Is Nearer: When We Merge with AI (London: The Bodley Head, 2024), 285.

[16] Andy McKenzie, “Transcript of Sam Altman’s Interview Touching on AI Safety,”LessWrong , Jan. 21, 2023, www.lesswrong.com/posts/PTzsEQXkCfig9A6AS/transcript-of-sam-altman-s-interview-touching-on-ai-safety; Ian Hogarth, “We Must Slow Down the Race to God-Like AI,”Financial Times, April 13, 2023, www.ft.com/content/03895dc4a3b7-481e-95cc-336a524f2ac2; “Pause Giant AI Experiments: An Open Letter,” Future of Life Institute, March 22, 2023, futureoflife.org/open-letter/pause-giant-ai-experiments/;Cade Metz, “‘The Godfather of AI’ Quits Google and Warns of Danger,”New York Times,May 1, 2023, www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits hinton.html; Mustafa Suleyman, The Coming Wave: Technology, Power, and the Twenty First Century’s Greatest Dilemma, with Michael Bhaskar (New York: Crown, 2023); Walter Isaacson，Elon Musk（London：Simon & Schuster，2023）.

[17] Yoshua Bengio et al., “Managing AI Risks in an Era of Rapid Progress,”Science （即將發(fā)表）.

[18] Katja Grace et al., “Thousands of AI Authors on the Future of AI,”（預(yù)印本，2024年交稿）,https://arxiv.org/abs/2401.02843.

[19] “The Bletchley Declaration by Countries Attending the AI Safety Summit, 1–2 November 2023,” Gov.UK, Nov. 1 2023, www.gov.uk/government/publications/ai-safety- summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the ai-safety-summit-1-2-november-2023.

[20] “匿名者Q”組織（QAnon）是一個源自互聯(lián)網(wǎng)的陰謀論集合，其影響力主要集中在美國。其核心陰謀論是美國表面的政府內(nèi)部存在一個“深層政府”，它由猶太金融家、資本巨鱷、好萊塢精英等構(gòu)成的集團(tuán)把持。總的來說，這是一個充滿極端和虛假信息的陰謀論集合（本書第六章對該事件有詳細(xì)論述）。——編者注

[21] 反疫苗者（anti-vaxxer），是指那些反對或拒絕接種疫苗的人群。他們普遍對疫苗持有懷疑態(tài)度，認(rèn)為疫苗有害，或者認(rèn)為制藥公司和其他相關(guān)部門掩蓋了疫苗的潛在風(fēng)險。——編者注

[22] Jan-Werner Müller, What Is Populism ? (Philadelphia: University of Pennsylvania Press, 2016).

[23] 地平論者（flat-earther）是一個堅持認(rèn)為地球是平的而非球形的群體，其觀點在科學(xué)上已被證明是錯誤的。但他們所代表的懷疑精神和獨立思考的態(tài)度在一定程度上也促進(jìn)了科學(xué)的發(fā)展和進(jìn)步。——編者注

[24] 在柏拉圖的《理想國》中，色拉敘馬霍斯、格勞孔與阿德曼托斯認(rèn)為，所有人（特別是政治人物、法官與公仆）都只在意個人的利益，為此不惜欺瞞和說謊。他們挑戰(zhàn)蘇格拉底，問他怎么反駁“外貌凌越真理”以及“正義只是強(qiáng)者的利益”。類似的觀點在古印度的經(jīng)典著作《政事論》中也被提及，并偶爾得到支持。在中國古代法家思想家的著作中，如韓非子和商鞅，也有類似的討論。在早期現(xiàn)代歐洲思想家的著作中，如馬基雅維利和霍布斯，也有相關(guān)的論述。參見：Roger Boesche，The First Great Political Realist：Kautilya and His “Arthashastra”（Lanham，Md.：Lexington Books，2002）; Shang Yang,The Book of Lord Shang: Apologetics of State Power in Early China, trans. Yuri Pines (New York: Columbia University Press, 2017).

[25] Ulises A. Mejias and Nick Couldry, Data Grab: The New Colonialism of Big Tech and How to Fight Back (London: Ebury, 2024); Michel Foucault, The Birth of the Clinic: An Archaeology of Medical Perception (New York: Vintage Books, 1975); Michel Foucault,The History of Sexuality (New York: Vintage Books, 1990); Edward W. Said, Orientalism(New York: Vintage Books, 1994); Aníbal Quijano, “Coloniality and Modernity/Rationality,” Cultural Studies 21, no. 2–3 (2007): 168–78; Sylvia Wynter, “Unsettling the Coloniality of Being-Power-Truth-Freedom Toward the Human, After Man, Its Overrepresentation — an Argument,”New Centennial Review 3，no. 3（2003）：257–337.更深入的討論請參見：Francis Fukuyama，Liberalism and Its Discontents（London：Profile Books，2022）.

[26] 卡·馬克思，弗·恩格斯．共產(chǎn)黨宣言[M]//馬克思恩格斯全集：第四卷。中共中央馬克思恩格斯列寧斯大林著作編譯局，譯.1版。北京：人民出版社，1958:465-466.

[27] Donald J. Trump, Inaugural Address, Jan. 20, 2017, American Presidency Project, www.presidency.ucsb.edu/node/320188.

[28] Cas Mudde, “The Populist Zeitgeist,”Government and Opposition 39, no. 3 (2004): 541–63.

[29] Sedona Chinn and Ariel Hasell, “Support for ‘Doing Your Own Research’ Is Associated with COVID-19 Misperceptions and Scientific Mistrust,”Misinformation Review, June 12, 2023,misinforeview.hks.harvard.edu/article/support-for-doing-your-own-research-is-associated-with-covid-19-misperceptions-and-scientific-mistrust/ .

[30] 參見：“God's Enclosed Flat Earth Investigation — Full Documentary [HD]，” YouTube，www.youtube.com/watch?v=J6CPrGHpmMs, 引自“Disinformation and Echo Chambers: How Disinformation Circulates on Social Media Through Identity-Driven Controversies,”Journal of Public Policy and Marketing 42, no. 1 (2023): 18–35.

[31] 參見：David Klepper，“Trump Arrest Prompts Jesus Comparisons：'Spiritual Warfare，'” Associated Press，April 6，2023，apnews.com/article/donald-trump-arraignment-jesus-christ-conspiracy-theory-670c45bd71b3466dcd6e8e188badcd1d; Katy Watson, “Brazil Election: ‘We’ll Vote for Bolsonaro Because He Is God,’” BBC, Sept. 28, 2022, www.bbc.com/news/world-latin-america-62929581.

[32] Oliver Hahl, Minjae Kim, and Ezra W. Zuckerman Sivan, “The Authentic Appeal of the Lying Demagogue: Proclaiming the Deeper Truth About Political Illegitimacy,”American Sociological Review 83, no. 1 (2018): 1–33.