拿起本書讀上幾行，你可能就會疑心它不是人類寫出來的。

沒關系。我不會生氣。

如果回到兩年前，你根本不會有這樣的想法。但在今天，機器生成的文章、圖書、插圖以及計算機代碼與人類的創作難分伯仲。還記得喬治·奧威爾在其反烏托邦著作《1984》中描寫的“小說寫作機器”和“流行音樂創作器”嗎？現在這些都已經成真了。科技進步如此迅猛，讓公眾猝不及防，人們不禁擔憂如今的上班族會不會在未來一兩年內就失去工作。大量白領工作者的處境突然變得岌岌可危，才華橫溢的年輕插畫家糾結是否還需要去讀藝術學校。

值得注意的是，這一切發生得如此之快。我專注科技行業寫作15年，從未見過哪個領域發展得像過去兩年的人工智能（AI）那么快。2022年11月發布的ChatGPT（聊天機器人模型）引發了一場創造全新人工智能的競賽，這種人工智能不僅能夠處理信息，還會生成信息。當時，人工智能工具可以生成歪歪斜斜的狗的圖像；而現在，它們能夠大量生成唐納德·特朗普的照片，并且照片十分逼真，特朗普的毛孔和皮膚紋理清晰可見，幾乎難辨真假。

許多人工智能締造者認為這項技術有望開辟一條通往烏托邦的道路，另一些開發者則認為它可能導致人類文明的崩潰。實際上，我們都被科幻小說般的情節遮蔽了雙眼，沒有注意到人工智能正在對社會造成危害，如延續種族主義、威脅創意產業等。

在這股無形力量的背后，一些公司已經控制了人工智能的發展，并競相使其更強大。受永不滿足的增長欲望的驅使，它們投機取巧，在產品方面誤導公眾，成為問題重重的人工智能“管家”。

歷史上沒有哪個組織能夠像今天的科技巨頭這樣積聚如此多的力量，影響如此多的人。谷歌為全球90%的互聯網用戶提供網絡搜索服務，而70%的電腦用戶使用微軟軟件。但兩家公司都不滿足。微軟想從谷歌價值1500億美元的搜索服務中分一杯羹，谷歌想奪走微軟價值1100億美元的云業務。為了打敗對方，兩家公司都汲取了其他公司的創意——這就是為什么歸根結底人工智能的未來僅僅由兩個人書寫：薩姆·奧爾特曼和德米斯·哈薩比斯。

奧爾特曼是身材瘦削、性格溫和的企業家，年近40歲，穿運動鞋上班；哈薩比斯是年近50歲、癡迷游戲的前國際象棋冠軍。他們都是智商極高、富有魅力的領導者，共同勾勒出了無所不能的人工智能圖景。這些圖景是如此振奮人心，以至于追隨者們對兩人頂禮膜拜。他們一心想贏，所以才能成功。奧爾特曼給世界帶來了ChatGPT，而哈薩比斯則加速了這一技術的落地進程。他們的經歷不僅定義了現在的人工智能競賽，也揭示了我們將面臨的挑戰，其中之一就是如何在行業巨頭的控制下艱難地引導人工智能向善發展。

哈薩比斯在科學界普遍不看好的情況下創辦了DeepMind（深度思考），這是世界上第一家致力于開發像人一樣聰明的人工智能的公司。他希望在生命起源、現實本質和疾病治療等方面實現科學突破。他說：“發現智能的本質是解決其他問題的前提。”

幾年后，奧爾特曼創辦了OpenAI（美國人工智能研究公司）并進行同樣的嘗試，但他更注重為人類帶來經濟上的富足，增加物質財富，幫助“我們所有人過上更好的生活”。他告訴我：“這是人類迄今為止創造的最偉大的工具，讓我們每一個人都能超越自己。”

他們甚至比硅谷最瘋狂的空想家更野心勃勃，計劃開發強大到可以改變社會、顛覆經濟和金融體系的人工智能。而奧爾特曼和哈薩比斯將成為賦能者。

這也許是人類最后一項發明。在開發過程中兩人都努力思索如何控制這種革命性技術。起初，他們認為谷歌、微軟等科技巨頭不該完全掌控這一領域，因為它們將利潤置于人類福祉之上。因此，多年來，他們各自在大西洋的一邊摸索建設研究實驗室的新方法，以保護人工智能向善發展。他們承諾要做人工智能的守護者。

然而，兩人都想爭第一。為了開發有史以來最強大的軟件，他們需要資金和計算能力，硅谷是最好的資源聚集地。隨著時間的流逝，奧爾特曼和哈薩比斯發現他們終究離不開這些科技巨頭。盡管創造超級人工智能的努力漸漸取得成效，但令人不安的新思想也從四面八方襲來，他們做出了妥協，放棄了崇高的目標，將控制權交給了那些急于向公眾出售人工智能工具并且嚴重缺乏監管的公司，這產生了深遠的影響。人工智能領域的權力集中會導致競爭萎縮，帶來對私人生活的新型侵擾，并滋生新形式的種族偏見和性別偏見。現今，如果讓一個流行的人工智能工具生成女性形象，她們會是性感的、衣著暴露的，首席執行官的形象會是白人男性，而罪犯的形象則經常是黑人男性。這些工具正在被安裝進我們的媒體訂閱專欄、智能手機和司法系統，而未考慮它們會如何影響公眾輿論。

這兩人的經歷與19—20世紀互相角逐的企業家托馬斯·愛迪生和喬治·威斯汀豪斯沒什么不同。愛迪生和威斯汀豪斯都想實現一個夢想，那就是創造一個為數百萬消費者供電的主導系統。他們都從發明家轉型成了企業家，也都明白自己的技術總有一天將賦能現代世界。但問題在于：誰的技術會脫穎而出？最終，由威斯汀豪斯提出的更高效的電力標準受到了全世界的歡迎。但他并未在所謂的“電力之戰”中獲勝，獲勝的是通用電氣。

在公司利益的驅使下，奧爾特曼和哈薩比斯推出了規模更大、能力更強的模型，科技巨頭們也成為最后的贏家，只不過這次競賽是復制人類自己的智能。現在，世界正走向混亂的邊緣。生成式人工智能有望提高人類的生產力，通過ChatGPT等工具給我們帶來更多觸手可及的有用信息。但每一項創新都要付出代價。企業和政府正在適應新的現實，那就是真實和人工智能生成之間幾乎沒有差別。企業投入大量資金，指望人工智能軟件取代員工并提高利潤率。一種新的個人人工智能設備正在出現，將個人監控提高到了難以置信的新水平。

本書的后半部分闡述了這些風險，但首先我要解釋一下我們是怎么走到這一步的，以及兩位創新者想讓人工智能向善發展的愿景是如何最終被壟斷力量摧毀的。他們的故事充滿理想主義、天真和自我，但也表明在科技巨頭和硅谷炮制的泡沫中，倫理準則幾乎不可能被遵守。奧爾特曼和哈薩比斯在人工智能的管理問題上亂作一團，他們明知要想避免這項技術造成不可挽回的傷害，世界就要負責任地進行管理，但如果沒有世界上最大的科技公司提供資源，他們就無法打造出擁有神一般力量的人工智能。他們以改善人類生活為目標，最終卻將權力交給了某些公司，讓人類的幸福和未來陷入企業的霸權之爭中。這就是事實真相。