引言

創造具有人類智能的機器，是一場重大的智力冒險

計算機似乎正在以驚人的速度變得越來越智能，但它們仍然會干出一些令人覺得頗具諷刺意味的事兒。幾年前，我去加利福尼亞州山景城的谷歌全球總部Googleplex參加一個人工智能研討會，雖然我用了谷歌地圖導航，但還是迷路了，而且，我是在谷歌地圖的大樓里迷路的，這是多么諷刺。

谷歌地圖的大樓很容易找到。一輛谷歌街景車停靠在大樓門前，車頂上伸出來一個巨大的金屬支架，上面頂著一個紅黑相間的足球形狀的攝像頭。走進大樓后，我戴著安全部門發給我的十分顯眼的“訪客”徽章，尷尬地在擠滿了谷歌員工的隔間中徘徊，他們中的很多人都戴著耳機，專心致志地在蘋果電腦上打著字。憑借樓里的指示牌，我終于找到了分配給這次研討會使用的會議室，順利與研討小組會合了。

2014年5月召開的這次會議由年輕的計算機科學家布雷斯·阿奎拉·阿爾卡斯（Blaise Agüeray Arcas）組織，他那時剛從微軟的高層離職，加入谷歌來領導其機器智能方面的工作。谷歌起源于1998年推出的一款“產品”：一個使用一種新穎的、非常成功的網絡搜索方法的網站。這么多年過去了，谷歌已經發展成為當今世界上最重要的科技公司之一，推出了大量的產品和服務，包括Gmail、谷歌文檔、谷歌翻譯、YouTube、Android智能手機操作系統等，還有很多你可能每天都在用的，以及一些你可能從未聽說過的產品和服務。

谷歌的創始人拉里·佩奇（Larry Page）和謝爾蓋·布林（Sergey Brin）長期以來一直受到“在計算機上創造人工智能”這一理念的激勵，人工智能現已成為谷歌重點關注的領域。在過去的10年里，谷歌雇用了大量的人工智能專家，其中最知名的要數雷·庫茲韋爾。庫茲韋爾是著名的發明家，也是備受爭議的未來學家，他提出了人工智能“奇點理論”：在不久的將來，計算機將比人類更智能。谷歌聘請庫茲韋爾擔任工程總監來幫助實現這一愿景。2011年，谷歌內部創建了一個名為“谷歌大腦”（Google Brain）的人工智能研究小組，此后，谷歌還收購了多家頗有前景的人工智能初創公司，如Applied Semantics、DeepMind和Vision Factory等。

從長遠來看，谷歌已不再僅僅是一個門戶網站了，它正在迅速成長為一家應用型人工智能公司。人工智能是將谷歌及其各種產品、服務和沒有明確目標的研究與其母公司Alphabet聯結在一起的黏合劑。公司的最終愿景是“破解智能，并用它來解決其他一切問題”¹，這和DeepMind團隊最初的使命一致。

“GEB”開啟我的人工智能追尋之旅

能來參加谷歌的人工智能研討會讓我倍感興奮。從20世紀80年代讀研究生開始，我就一直在研究人工智能的諸多方面，并且對谷歌取得的成就尤為印象深刻。雖然我也想為這次會議貢獻一些好的想法，但我必須承認，我只是作為隨行人員出現在那里。這次會議召開的目的是讓一組經過精挑細選的谷歌人工智能研究人員聽取侯世達的報告并與之交流。侯世達是人工智能界的傳奇人物，也是名著“GEB”的作者。如果你是一名計算機科學家，你很可能聽說過、讀過“GEB”這本書。

“GEB”成書于20世紀70年代末，是侯世達對諸多學術領域研究熱情的流露，匯集了數學、藝術、音樂、語言和文字游戲等諸多領域的知識，旨在探討智能、意識甚至自我意識這些人類基本技能是如何從非智能、無意識的生物細胞基質中產生的。“GEB”也是一本關于計算機最終將如何獲得智能和自我意識的著作，這是一本獨一無二的書，我不知道還有哪本書能與之媲美。這本書讀起來并不容易，但卻成了暢銷書，并獲得了普利策獎和美國國家圖書獎。毫無疑問，“GEB”激勵了非常多的年輕人去研究人工智能，這是其他大部分書籍都做不到的，而我，就是那些年輕人當中的一員。

20世紀80年代初，從大學畢業取得了數學學士學位之后，我在紐約市的一所預科學校教數學，但我過得很不開心，因為我一直在苦苦思索自己這一生真正想做的是什么。我是在閱讀了《科學美國人》（Scientific American）雜志上一篇熱情洋溢的評論文章后發現了“GEB”的，然后就立刻去買了這本書。接下來的幾個星期里，我便如饑似渴地閱讀這本書，越來越確信自己不但想成為一名人工智能的研究人員，而且尤其想與侯世達共事。我從來沒有對其他任何一本書或一種職業有過如此強烈的渴望。

當時，侯世達是印第安納大學計算機科學系的教授，我異想天開的計劃是申請那里的計算機科學博士學位，然后說服他接受我做他的學生。然而，有一個“小”問題：我從未上過哪怕一門計算機科學課程。不過，我從小就對計算機非常熟悉。我父親是20世紀60年代一家科技創業公司的硬件工程師，作為一項業余愛好，他在我們家的書房里組裝了一臺大型計算機——一臺像冰箱一樣大的“Sigma 2”機器，上面有一個磁性按鈕，寫著“我用FORTRAN⁽⁹⁾祈禱”。當我還是個孩子的時候，我半信半疑地以為它確實是在祈禱，尤其是在夜深人靜，家人都睡著的時候。20世紀六七十年代，隨著我的成長，我對當時流行的各種計算機編程語言都略有了解：先是FORTRAN，然后是BASIC，再然后是Pascal，但我對規范的編程技術幾乎一無所知，更不用說那些對即將入學的計算機系研究生來說所必須知道的知識了。

為了加快我的計劃，我在學年末辭去了教職，搬到波士頓，開始學習計算機科學的入門課程，來為我的新職業做準備。開始新生活幾個月后的某一天，我在麻省理工學院（MIT）的校園里等著上課，無意間瞄到了一張關于侯世達講座的海報，而且舉行時間就在兩天后。我簡直不敢相信自己的好運。我去聽了這場講座，在一大群崇拜者中排了很長時間的隊后，終于和侯世達說上話了。原來他正在麻省理工學院度過他為期一年的學術假期，在這之后他會從印第安納州搬到密歇根州安娜堡的密歇根大學。

經過不懈的努力，我成功地說服侯世達讓我做他的研究助理，先是一個暑假，然后在接下來的6年里，我又成了他的碩士生、博士生，并最終作為密歇根大學的計算機科學博士畢業。這些年來，侯世達和我一直保持著密切的聯系，我們曾多次就人工智能進行討論。他知道我對谷歌的人工智能研究很感興趣，所以特別好心地邀請我陪同他參加在谷歌舉行的會議。

國際象棋和第一顆懷疑的種子

在那個谷歌地圖App定位不到的會議室里，有大約20名工程師（包括侯世達和我），大都是來自谷歌各個人工智能團隊的成員。會議像往常一樣從自我介紹開始，許多人提到，他們選擇人工智能研究作為自己的職業，是受到了在年少時閱讀的“GEB”的驅動。他們都很興奮且好奇，久負盛名的侯世達會如何評價人工智能。自我介紹環節結束后，侯世達站起來講道：“總體上說，關于人工智能特別是谷歌人工智能的研究，我想說的是，”他的聲音變得激昂起來，“我被嚇壞了，真的嚇壞了！”

侯世達繼續發表他的評論。²他描述了當他在20世紀70年代剛開始研究人工智能時，那是一番令人興奮的景象，根本沒有意識到近在眼前的危險實際上正在發生！創造具有人類智能的機器，是一場重大的智力冒險，是一項被認為至少需要“100個諾貝爾獎”作為奠基的長期研究項目³。侯世達認為，從原則上講，人工智能是有可能實現的：“它的‘敵人’是那些說人工智能不可能實現的人，比如約翰·瑟爾（John Searle）、休伯特·德雷福斯（Hubert Dreyfus）以及其他懷疑論者。他們不理解大腦是一堆服從物理定律的物質，也不理解計算機可以模擬任何東西，更不用說神經元、神經遞質等層面的內容了。從理論上講，這是可以實現的。”實際上，侯世達在“GEB”一書中詳盡地討論了在從神經元到意識的各個層面上模擬智能的想法，這也是他數十年來的研究重點。直到最近，侯世達似乎才認識到，通用的、人類水平的人工智能在他甚至是他下一代的一生中都不可能出現，所以他對這點并不是特別擔心。

在臨近“GEB”一書結尾的地方，侯世達列出了關于人工智能的“十大問題和猜想”。其中一個問題是：“會出現能夠打敗人類的國際象棋程序嗎？”侯世達的猜想是“不會。有可能出現在國際象棋中擊敗人類的程序，但它們不會成為專業的棋手，它們只是通用智能的程序”⁴。

在2014年的那次谷歌會議上，侯世達指出自己“大錯特錯”，他回想起20世紀八九十年代國際象棋程序的快速發展，為他對人工智能短期前景的設想埋下了第一顆懷疑的種子。盡管人工智能的先驅赫伯特·西蒙（Herbert Simon）在1957年就預測國際象棋程序將會在10年內獲得世界冠軍，但直到20世紀70年代中期，也就是侯世達寫“GEB”時，最好的計算機國際象棋程序也就只能達到一個優秀但非卓越的業余棋手的水平。侯世達與國際象棋冠軍、心理學教授艾略特·赫斯特（Eliot Hearst）是好朋友，赫斯特曾就人類國際象棋專家與計算機國際象棋程序的不同寫過大量文章。實驗表明，專家級的人類棋手依靠快速識別棋盤上的局勢來決定下一步棋的走向，而所有國際象棋程序使用的都是大量簡單粗暴的前向預測搜索。在一局對弈中，頂級的人類玩家能夠將棋子位置的排列組合感知為一種特定的、需要“某種策略”來應對的“局勢”，也就是說，這些玩家可以快速地將特定的排列組合識別為更高級別概念的實例。赫斯特認為，計算機國際象棋程序如果沒有這種感知模式和識別抽象概念的通用能力，那么將永遠無法達到頂級人類棋手的水平。侯世達被赫斯特說服了。

20世紀八九十年代，計算機國際象棋程序的能力經歷了一次大飛躍，這要歸功于計算機運算速度的急劇提升。頂級的程序仍在以一種非人類的方式運行，執行大量的前向預測搜索來決定下一步行動。到90年代中期，裝備國際象棋專用硬件的IBM深藍計算機（Deep Blue）已經達到了大師級水平。1997年，深藍在一場六局的比賽中擊敗了世界冠軍加里·卡斯帕羅夫（Garry Kasparov）。國際象棋大師，曾一度被視為人類智慧的巔峰，也向這種粗暴的前向預測搜索的方法屈服了。

音樂，人性的堡壘

盡管深藍的勝利引發了媒體關于智能機器崛起的諸多報道，然而“真正的”人工智能似乎仍然遙不可及。深藍能夠下棋，但并不能做其他任何事情。侯世達對國際象棋的預測是錯誤的，但他仍然堅持他在“GEB”中的其他猜想，尤其是他列出的第一個猜想：

問題：計算機會譜寫出優美的音樂嗎？

猜想：會，但不會很快實現。

侯世達繼續講道：

音樂是一種關于情感的語言，在程序能夠擁有我們人類所擁有的如此復雜的情感之前，它絕無可能譜寫出任何優美的作品。可能會出現對早期音律的膚淺模仿的“偽造品”，但不管一個人最開始會怎么想，音樂表達的內容遠比他在音律規則中能捕捉到的要多得多……認為我們可能很快就能用一個預先編程好的、批量生產的、郵購僅需20美元的臺式音樂盒，通過消過毒的電路元件“譜寫”出肖邦或巴赫可能會譜寫出的那種音樂，這絕對是對人類精神之深度的一種荒誕而可恥的錯誤估計。⁵

侯世達將這一猜想描述為“‘GEB’最重要的部分之一，我愿為此賭上性命”。

然而，到了20世紀90年代中期，侯世達對人工智能的信心再次產生動搖，這次更加徹底。他接觸到了音樂家大衛·科普（David Cope）編寫的一個程序，這個程序名為“音樂智能實驗”（EMI）。科普是一名作曲家和音樂教授，他研發EMI的最初目的是讓它自動地按照自己規定的特定風格來創作音樂片段，幫助自己完成樂曲的創作。不過，EMI變得出名是因其能夠創作巴赫和肖邦等古典作曲家風格的音樂作品。EMI遵循由科普研發的大量規則來作曲，這些規則用于捕捉作曲的通用語法，把這些規則應用于某一個作曲家的大量作品上，就可以產生符合這位作曲家風格的一個新作品。

再說回那次谷歌會議，侯世達懷著非同尋常的情感談到了他與EMI的相遇：

我坐在鋼琴前，彈了一首EMI“創作”的肖邦風格的馬祖卡舞曲。曲子聽起來并不完全像肖邦，但已經足夠像了，而且像一首連貫的樂曲，我對此感到深深地不安。

從孩童時期開始，音樂就令我心潮澎湃，并能將我帶入它最核心的地方。對于我所鐘愛的每一件作品，我都能感受到它是來自作曲之人情感深處的一封“私信”，那感覺仿佛使我能夠直抵作曲者靈魂的最深處，這讓我覺得世界上沒有任何一樣東西比音樂的表達更具人性。然而，對最淺顯的音節排序進行模式操縱，卻能夠產生聽起來仿佛來自人類內心的音樂，一想到這里，我就非常非常不安。

侯世達接著講述了他在紐約州羅切斯特市著名的伊士曼音樂學院的一次演講。在介紹了EMI之后，侯世達請聽眾猜一猜：由一位鋼琴家為他們演奏的兩首曲子中，哪一首是肖邦鮮為人知的馬祖卡舞曲，哪一首是EMI創作的樂曲。這些聽眾中包括幾位從事音樂理論和作曲研究的教員。正如一位聽眾后來所描述的：“第一首馬祖卡舞曲優雅且有魅力，但缺少‘真正肖邦式’的創作深度和更強的流暢性……第二首顯然是真正的肖邦，有抒情的旋律，大幅的、優美的半音階轉調，以及一種自然、平衡的形式。”⁶令侯世達感到震驚的是：許多聽眾都同意這位聽眾的觀點，認為第一首是EMI的創作，而相信第二首是“真正的肖邦”。然而，正確答案恰恰相反。

在谷歌的會議室里，侯世達忽然停下來，凝視著我們的臉，大家都靜靜的不說話。最后，他繼續說道：“我被EMI嚇壞了，完全嚇壞了。我厭惡它，并感受到了極大的威脅——人工智能對我最珍視之人性的威脅。我認為EMI是我對人工智能感到恐懼的最典型的實例。”

我們將成為遺跡，我們將被塵埃淹沒

接下來，侯世達談到了他對谷歌試圖在人工智能領域取得的目標懷有一種深深的矛盾心理，包括自動駕駛汽車、語音識別、自然語言理解、語言翻譯、計算機生成的藝術、音樂創作等領域，而谷歌聘請庫茲韋爾以及庫茲韋爾對奇點的愿景進一步加重了侯世達的擔憂。奇點是指在不久的將來，在某個假設的時間點上，出現了具有自我提升和自主學習能力的人工智能，隨后，這種人工智能將很快成為達到進而超過人類水平的智能，谷歌似乎正竭盡一切努力來加速這一愿景的實現。盡管侯世達強烈懷疑奇點的假設，但他承認庫茲韋爾的預言仍然困擾著自己。

我被這些場景嚇壞了。我認為他們的時間表可能是錯誤的，當然，也有可能他們是對的。我們將會完全措手不及，我們可能會認為什么都沒有發生，但是突然之間，在我們意識到之前，計算機已經變得比我們人類更聰明了。

如果這真的發生了，我們將被取代，我們將成為遺跡，我們將被塵埃淹沒。也許這就是正在發生的現實，但我不想讓它發生得太快。我不想讓我的孩子們淹沒在塵埃中。

最后，侯世達用一句話結束了他的演講，這句話是對在場的所有谷歌的研究人員說的，所有人都全神貫注地聽著，侯世達說：“我發現這非常可怕，非常令人困擾，非常令人悲傷、困惑、迷茫，非常糟糕、可怕、奇怪，因為，人們正在盲目地、極其興奮地向前沖，去創造這些東西。”

最為珍視的人性，結果只不過是“一套把戲”？

我環顧了一下房間，聽眾看起來困惑不已，甚至有些尷尬。對于谷歌的人工智能研究人員來說，前文所述的那些一點兒也不可怕，事實上，那都是老新聞了。當深藍擊敗卡斯帕羅夫時，當EMI開始創作肖邦風格的馬祖卡舞曲時，當庫茲韋爾撰寫他關于奇點的第一本書⁽¹⁰⁾時，這些研究者中的許多人都還在上高中，他們可能讀過“GEB”并喜歡這本書，盡管其中有些對人工智能的預測已經有點過時了。他們之所以在谷歌工作，正是為了讓人工智能出現在當下，且越早越好，而非在100年之后。他們不明白侯世達為什么如此緊張。

在人工智能領域工作的人早就已經習慣了這個領域之外的人的各種恐懼，他們可能是受到了科幻電影刻畫的超級智能機器會變邪惡等情節的影響。人工智能研究人員也熟悉這樣的擔憂：日益復雜的人工智能將取代人類在某些工作中的地位；人工智能應用于大數據后可能會侵犯個人隱私，并造成難以察覺的歧視；那些被允許做出自主決定的、難以被人理解的人工智能系統，則有可能會制造一場浩劫。

侯世達的恐懼針對的則是完全不同的方面。他不是擔心人工智能變得太聰明、太有侵略性、太難以控制，甚至太有用。相反，他擔心的是：智能、創造力、情感，甚至意識本身都太容易產生了，這些他最為珍視的人性特征和人類精神，結果只不過是“一套把戲”，一套膚淺的暴力算法就可以將其破解。

正如在“GEB”中所充分闡明的那樣，侯世達堅信：精神及其所有特征完全來自大腦及身體的其他部分組成的物質基礎，以及身體和外界物理世界間的交互，其中沒有任何非物質或無形的東西。令他擔心的問題其實是一個關于復雜性的問題。他擔心人工智能可能會展現給我們，我們最看重的人的品質可以通過簡單的機械化方法獲得，這讓人十分沮喪。會后，侯世達又向我進一步解釋了他的想法，他說的是關于肖邦、巴赫以及其他杰出人類的看法。他說：“如果人類這種無限微妙、復雜且具有情感深度的心靈能被一塊小小的芯片所簡化，這將會摧毀我對人性的理解。”

混亂與噪聲，高尚使命與召喚惡魔的對抗

在侯世達的演講后有一個簡短的討論，困惑的聽眾試圖進一步向侯世達探詢他對人工智能特別是對谷歌人工智能研究之恐懼的解釋，但溝通障礙依然存在。會議繼續進行，與會者展示了他們當前正在研究的項目，之后是小組討論、茶歇等環節，一切都很正常，只是這一切都與侯世達的觀點無關了。在會議接近尾聲的時候，侯世達詢問了與會者對于人工智能近期的發展前景有什么看法。谷歌的一些研究人員表示，他們預計通用的、人類水平的人工智能很有可能在未來30年內出現，這在很大程度上要歸功于谷歌在深度學習領域的優勢。

我滿懷困惑地離開了會場。我知道侯世達曾為庫茲韋爾的一些關于奇點的文章所困擾，但我以前從未理解他的這種感情和焦慮的程度。我也知道谷歌一直在大力推進對人工智能的研究，但谷歌某些研究人員對于將很快達到通用的、人類水平的人工智能如此樂觀，這讓我感到震驚。我個人的觀點是：人工智能在某些細分領域已經取得了很大的進步，但仍然離通用的、人類水平的人工智能差得很遠，可能一個世紀后都無法實現，更別說30年了。我認為，那些持相反觀點的人大大低估了人類智能的復雜性。我讀過庫茲韋爾的書，發現大部分都很荒謬。然而，聽完會上來自我所尊敬和欽佩的人的所有評論后，也迫使我更批判性地審視自己的觀點。如果說這些人工智能研究人員低估了人類的復雜性，那么我是否也低估了當今人工智能的力量和發展前景呢？

在接下來的幾個月里，我開始更加關注與這些問題有關的討論。然后，我就注意到有大量知名人士的系列文章、博客和書籍在告訴我們，從現在開始應當要擔心超級智能的危險了。2014年，物理學家斯蒂芬·霍金（Stephen Hawking）宣稱：“完全的人工智能的發展將導致人類種族的終結。”⁷同年，Tesla和Space X公司的創始人埃隆·馬斯克（Elon Musk）說：“人工智能可能是我們最大的生存威脅，而我們正在用人工智能召喚惡魔。”⁸微軟創始人比爾·蓋茨（Bill Gates）表示：“我同意埃隆·馬斯克和其他人對此的觀點，我不明白為什么有些人對此毫不關心。”⁹哲學家尼克·波斯特洛姆（Nick Bostrom）的《超級智能》（Superintelligence）一書，闡述了機器變得比人類更加智能后會出現的危險，盡管枯燥乏味，但卻出人意料地成了暢銷書。

其他一些著名的思想家則提出了相反的觀點。他們認為，我們的確應該確保人工智能程序是安全的，而不是冒著傷害人類的風險，但是近期關于超級智能的報道都被嚴重地夸大了。企業家和活動家米歇爾·卡普爾（Mitchell Kapor）勸告道：“人類智能是一種不可思議的、微妙的、難以理解的東西，短期內不會有被復制的危險。”¹⁰麻省理工學院人工智能實驗室前主任、機器人專家羅德尼·布魯克斯（Rodney Brooks）同意這一觀點，他說：“我們嚴重高估了機器在當下和幾十年后的能力。”¹¹心理學家和人工智能研究專家蓋瑞·馬庫斯（Gary Marcus）⁽¹¹⁾甚至斷言，在尋求創造“強人工智能”的過程中，“幾乎沒有任何進展”，這里的強人工智能指的是通用的、人類水平的人工智能¹²。

我可以引用許多雙方辯論的話，簡而言之，我發現：人工智能領域正處于一片混亂之中。人工智能的確取得了巨大的進展，但也的確幾乎沒有任何進展。可能我們離真正的人工智能只有咫尺之遙，但也可能還有數世紀之遠。人工智能將解決我們所有的問題，或令我們所有人失業，或貶低我們的人性，甚至消滅人類種族。這項研究要么是一個高尚的使命，要么就是在“召喚惡魔”。

一路狂飆的人工智能，我們應該如何重新思考它

這本書源于我對人工智能領域發展的真實狀態的嘗試性理解：計算機現在能做什么，我們在未來幾十年又能從它們身上期待什么。侯世達在谷歌人工智能研討會上的啟發性言論，以及谷歌的研究人員對人工智能的近期前景充滿信心的言論，對我而言就像一個警示。在接下來的章節中，我嘗試厘清人工智能的發展現狀，并闡明其迥然不同、有時甚至相互沖突的目標。與此同時，我將描述一些最著名的人工智能系統實際的工作原理，并分析它們的成功之處以及它們的局限性在哪里。我將著眼于計算機如今可以在多大程度上做到我們認為需要高水平智能才能做到的事情，比如，在對智能要求最高的游戲中擊敗人類、在不同語種之間進行翻譯、回答復雜問題、在充滿挑戰的地形中進行導航等。我還會考查計算機在那些我們認為理所當然的、在無意識情況下執行的日常任務上的表現，如識別圖像中的人臉和目標、理解口語和書面文字，以及應用最基本的常識。

我還將努力弄清楚人工智能自創立以來就備受爭論的、那些更廣泛的問題：我們所說的通用智能甚至超級智能到底是什么意思？當前的人工智能是否接近這個水平？或者是否在接近的道路上會遇到什么危險？人類智能的哪些方面是我們最為珍視的？人類水平的人工智能會在多大程度上影響我們對于自身人性的思考？用侯世達的話來說，我們應該要害怕到什么程度？

《AI 3.0》這本書不是關于人工智能的綜述或歷史，確切地說，它是對一些人工智能方法的深入探索，這些方法可能正在影響或者即將影響我們的生活。本書還將論述那些在挑戰我們人類獨特性方面發展程度最高的人工智能成就。寫作本書的目的是與讀者一同分享我自己在這一領域的探索，幫助讀者更加清楚地認識這個領域已經取得了什么成就，以及機器距離“能夠為自身之‘人性’進行辯護”還有多長的路要走。