譯者序

未來智能：人有人用，機有機用

王飛躍

中國自動化學會監事長

中國科學院自動化研究所復雜系統管理與控制國家重點實驗室主任

當今最好的人工智能程序到底有多智能？它們是如何工作的？能做些什么？我們有必要擔心機器比人類聰明且將很快奪取我們的工作嗎？以上這些問題都頗受人們的關注，梅拉妮·米歇爾教授的人工智能新著《AI 3.0》以最合適的方式給出了以上問題的答案。這是一本以獨特的方式觀察、分析人工智能的優秀著作，不但巧妙地把創造歷史的人物與改變世界的技術交織起來，而且深入淺出地介紹了人工智能的發展歷史及其未來的前進方向。正如本書英文版的副書名（“A Guide for Thinking Humans”）所示，這是一本為思考的人類而準備的著作，值得每位想要弄清人工智能的影響與意義的專業或非專業人士認真地閱讀并思考。

初見梅拉妮·米歇爾之名，還是20世紀80年代末研究她與侯世達關于類比推理的開創性程序“Copycat”（拷貝貓）時，只因其與當時主流的認知推理方法相去太遠，就沒有再深入地研究。20世紀90年代我參加圣塔菲研究所（SFI）的研討時，與她雖有交集，但無深入交流，不過對她的遺傳算法著作An Introduction to Genetic Algorithms印象深刻，她不愧為遺傳算法之父約翰·霍蘭德（John Holland）教授的高足。21世紀初，我在就任中國科學院自動化研究所復雜系統管理與控制國家重點實驗室主任之后，一直想寫一本關于“復雜性科學”（complexity science）的科普書，在籌備復雜系統管理與控制國家重點實驗室期間著手搜集資料，又與米歇爾的《復雜》（Complexity: A Guided Tour）不期而遇。粗讀之后，我認為暫時沒有必要再寫一本關于復雜性科學的科普書了，因為很難超越她的水平。

2019年初，湛廬詢問我是否有興趣組織翻譯米歇爾正在創作的Artificial Intelligence: A Guide for Thinking Humans，我讀過作者已完成的部分后，十分喜愛其內容與風格，特別是書中的許多觀點引起了我的共鳴，于是我隨即向學生們推薦，并得到王曉研究員、即將博士畢業的李玉珂和張慧同學的積極響應。巧合的是，這三位都在從事人工智能的一線研究，且都有在美工作、學習和交流的經驗，特別是王曉研究員具有主持翻譯《機器崛起》（Rise of the Machines：A Cybernetic History）和《社會機器》（Social Machines: The Coming Collision of Artificial Intelligence, Social Networking, and Humanity）等數部重要著作的經驗，因此，她們是翻譯此書難得的人選，并能夠從學術性和可讀性兩個方面保證質量。2019年底，借赴波特蘭參加英特爾年度研發會議的機會，我來到米歇爾的辦公室拜訪了她，并討論了本書的翻譯工作和大家對人工智能的基本認識。

借此機會，我就本書中所提出的一些人工智能的基本問題，特別是對本書最后提出的6個問題談一些自己的認識，希望有助于讀者更加開闊地去思考智能技術的影響與意義，以及如何推動人工智能和智能科學的健康發展，使其以更加安全可信的方式促進人類社會的發展與繁榮。

“廣義歌德爾⁽⁶⁾定理”

本書是以米歇爾的導師、“GEB”的作者侯世達教授在谷歌的一次內部研討會上表示自己被人工智能的快速發展“嚇壞了”開始。更具體地說，侯世達是被“音樂智能實驗”（Experiments in Musical Intelligence，EMI）的優美創作嚇壞了，他曾這樣說道：“我被EMI嚇壞了，完全嚇壞了。我厭惡它，并感受到了極大的威脅——人工智能對我最珍視之人性的威脅。我認為EMI是我對人工智能感到恐懼的最典型的實例。”我曾聽說過侯世達對人工智能的擔憂，但當時不以為然，我認為一個對人工智能了解如此之深、認識如此之深刻的學者不應過度害怕智能技術。

作為一個堅信人工智能只是一項技術，不會主動侵害人類的科技工作者，我當時覺得這可能是由于侯世達遠離科研一線太久或年紀增長的原因，但書中侯世達的自白，讓我認識到我的猜測都不對，真正的原因在于音樂在他的心里有著一種十分神圣甚至神秘的地位。米歇爾在書中也提到了侯世達與EMI第一次相遇時所說的話：

從孩童時期開始，音樂就令我心潮澎湃，并能將我帶入它最核心的地方。對于我所鐘愛的每一件作品，我都能感受到它是來自作曲之人情感深處的一封“私信”，那感覺仿佛使我能夠直抵作曲者靈魂的最深處，這讓我覺得世界上沒有任何一樣東西比音樂的表達更具人性。然而，對最淺顯的音節排序進行模式操縱，卻能夠產生聽起來仿佛來自人類內心的音樂，一想到這里，我就非常非常不安。

在“GEB”一書的最后，侯世達曾列出關于人工智能的“十大問題和猜想”，其中第一個就是關于音樂的。那時他認為計算機可以譜寫出優美的音樂，但并不會很快實現，因為音樂是一種關于情感的語言，在程序能夠擁有我們人類所擁有的這種復雜的情感之前，它絕無可能譜寫出任何優美的作品。

我認為，侯世達由此對人工智能產生的“恐懼”是中國藝術家潘公凱⁽⁷⁾“錯構”理論的一種典型的體現，它不是一種在理性或技術層面的反應，而是一種本然的藝術或哲學性的反映。對此，我希望結合智能研究的起源以及我一直提倡的“廣義歌德爾定理”來說明我的看法。

近代以來，人們對智能的認識源自數學家希爾伯特（D. Hilbert）的夢想，即數學推理機械化的“希爾伯特綱領”。伯特蘭·羅素（Bertrand Russell）與阿爾弗雷德·懷德海（Alfred N. Whitehead）為了給這一夢想奠定堅實的基石，二人花了10年的心血成就了一部三卷本的《數學原理》。但是不久，這基石就讓三個年輕人擊碎。先是歌德爾證明了不完備定理，接著圖靈提出了圖靈機，并將計算的本質歸于機械的操作，進而約翰·馮·諾依曼（John von Neumann）建立了數字計算機的邏輯操作結構。自此，我們有了現代計算機，并開始了人工智能研究，成就了今日之信息產業“舊”IT（information technology，信息技術），目前，已開始邁向智能產業“新”IT（intelligent technology，智能技術）。在這一智能的計算化過程中，從邱奇-圖靈論題（Church-Turing thesis）開始，在諾依曼有意無意的引導下，學界關于智能的思考和認識逐漸形成了兩個派別：“圖靈派”和“歌德爾派”。

圖靈派本質上是計算主義，認為基于簡單規則的計算可以涌現出復雜的行為和智能。從物理符號系統的邏輯智能到聯結主義的計算智能，這一思想主導了人工智能至今的發展歷史，是構建智能系統的主要理論和方法源泉。歌德爾派認為根本沒有構建智能的一般規律和方法，而且現有的一些規律和方法不應成為第一性的，只有動因和信念才是本質，接受現狀繼續演化是發展人工智能的唯一途徑。歌德爾派在人工智能的研究上至今并沒有產生很大的影響，然而，在理解智能的影響和意義方面，歌德爾派的認識則非常重要，而且對智能科學的未來發展更具有指導性意義。

歌德爾認為，存在先于可計算的不可計算，即存在不可計算的客觀存在。存在不可計算的物理、生命和數學過程，且計算機不能真正理解語言和想象等相關的活動。研究人工智能的第一位華人學者王浩晚年曾致力于歌德爾的思想與哲學的研究，他總結道：“歌德爾認為機器不可能超越人腦，除非數學不是人類發明的。而且，就算數學不是人類發明的，機器還是無法超越人腦。”

我曾把歌德爾關于智能的思想總結為“廣義歌德爾定理”，即智能分為算法智能（algorithmic intelligence，AI）、語言智能（linguistic intelligence，LI）和想象智能（imaginative intelligence，II）三個層面，算法智能無法超越語言智能，語言智能又無法超越想象智能。正如歌德爾在普林斯頓高等研究院的同事愛因斯坦所言：“智能的真正標識不是知識，而是想象。”

我們可以從兩個方向來理解廣義歌德爾定理：一是圖靈的想法，即AI的全體和極限是LI，LI的全體和極限是II；二是II的局部和具體化是LI，而LI的局部和具體化是AI。計算機的智能只能是AI，無法達到人類所具有的LI和II層面。

歌德爾對智能的認識及理解與中國哲學史上人們對《道德經》開頭的兩種不同解讀十分相似：一是“道可道，非常道”，即凡是能被言說的道，就不再是永恒的本源之道，就像世上每一個能被看到的具體的圓形，都無法符合圓形的抽象定義一樣；二是“道，可道，非常道”，即道有三種形態，自然中可執行的道（算法之道）、只能說出來的道（語言之道）、只能想象出來的道（想象之道）。總之，“道”一經說出，就不是本來的自然之道了。

哲學家伏爾泰曾說：“定義你的術語……否則我們將永遠無法相互理解。”然而，前文的討論使我們認識到，即便有了定義，我們在語言和想象層面上可能也無法徹底理解。而且，正如本書所言，在人工智能領域，“智能”“思維”“意識”“認知”“情感”等術語很難定義，且至今沒有達成共識。這也正是20世紀的科學哲學家托馬斯·庫恩（Thomas Kuhn）在其“3C”理論中所闡述的：在人類語言詞典及其多維結構里，我們進入一種本質上不可公度⁽⁸⁾、不可比較、不可交流的境地。或許，在量子力學中的“薛定諤的貓”或海森堡的“測不準原理”之外，我們在智能的AI、LI、II層面上是否分別存在各自的“算不清原理”“說不明原理”“想不準原理”？

回到侯世達對人工智能的“過激反應”這一問題，我想再用世界圍棋高手柯潔的例子加以說明。在李世石以1：4輸給AlphaGo之后，柯潔發表了迫不及待想要挑戰AlphaGo的聲明：“就算AlphaGo戰勝了李世石，但它贏不了我。”在以0：3的比分負于AlphaGo之后，柯潔渾身顫抖，只想大聲痛哭，認為AlphaGo實在太完美了，并稱它就是“上帝”。我記得在《時代》雜志上首次看到這一報道時，我的第一反應就是：“上帝？誰的上帝？反正不是我的上帝。”在我看來，柯潔的反應與侯世達是一樣的，是專業執著后的應激錯構，我們沒有因為柯潔的失利而對AlphaGo感到畏懼，也無須因侯世達而對人工智能感到擔憂。實際上，我認為，對這類問題進行持續深入的討論應是哲學家或有閑階級培養智能科學素質的腦力練習，專業人員更應關注探索人工智能技術及應用的合法、合規、合理與合情問題。

廣義杰文斯悖論

討論完對人工智能的“恐懼”之后，我們再來看看人工智能對人類工作的沖擊。近年來，在這方面總有許多令人擔憂的言論，如“機器取代人”“人工智能將使50%～70%的人失業”，有些世界著名的科學家和企業家甚至聲稱人工智能的興起意味著人類文明的終結。關于人工智能是否會導致人類大規模失業，作者在本書中做了許多論述。

正如哲學家黑格爾所揭示的：歷史給我們的教訓是，人們從來都不知道汲取歷史的教訓。實際上，人類在過去100多年內至少經歷了三次這種擔心，這就是“老”“舊”“新”三次IT變革。當年，人們對老IT（工業技術）的擔心遠大于今天我們對新IT（智能技術）的擔心。在工業革命的發源地英國，紡織工業誘發“羊吃人”現象，女王擔心機器的大規模使用將使她的臣民變成乞丐，民眾更是揭竿而起，干脆一把火將機器燒了。

70多年前，諾伯特·維納的控制論和數字計算機的出現開啟了舊IT（信息技術）的變革，又一次引發社會對機器取代人類工作的擔心。為此，維納還發表了《人有人的用處》（The Human Use of Human Beings）來專門討論這一問題，其中特別強調“信息永遠不能取代啟迪”（Information will never replace illumination.）。啟迪是語言和想象的核心功能，因此機器及其生產的代碼與信息根本無法取代人類，而且，計算機還為“機器取代人”做了一個絕好的說明。20世紀50年代之前，英文中“computer”一詞其實是指從事計算工作的人類，但今天作為機器的“computer”已經完全代替了作為人類的“computer”；然而，被稱為“computer”的機器，不但沒有使人類大規模失業，而且還為人類創造了更好、更多的新工作，比如程序員、架構師、算法工程師、網絡管理員，等等。事實勝于“恐”辯，盡管機器可能造成一定程度的短暫的社會錯位，使一些人失去工作，但不會造成人類的大規模失業，相反，機器能夠創造出更多、更好、適合人類的工作，推動社會進步。

其實，這個問題在100多年前就已被研究清楚，這就是著名的“杰文斯悖論”（Jevons paradox）。威廉姆·斯坦利·杰文斯（William Stanley Jevons）是19世紀英國的數學家、哲學家和經濟學家，現代經濟學中的邊際效用理論的主要奠基人。在英國工業革命時期，工業大量消耗煤資源并產生了嚴重的污染，引發了利用技術提高燃煤效率的討論，但杰文斯的研究表明：燒煤效率越高，耗煤量將會越大。這就是杰文斯悖論：技術進步可以提高自然資源的利用效率，但結果是增加而不是減少人們對這種資源的需求，因為效率的提高會導致生產規模的擴大，這會進一步刺激需要。

計算機的“機器取代人”的例子說明廣義的杰文斯悖論也成立：技術進步可以提高人力資源的利用效率，但結果是增加而不是減少社會對人力資源的需求，因為效率的提高將導致生產規模的擴大。計算機的確完全消滅了名為“computer”的職業，使其變成了一種真正的機器，但同時也擴大了社會對計算機生產、操作等相關人員的需求。還有很多這方面的例子，比如全球定位系統取代了許多測量工作崗位，但卻產生了更多基于位置的服務（location based services，LBS）的相關工作以及導航算法工程師等崗位；機器學習取代了很多統計員，但卻增加了更多不同的數據工程師工種。可以預見的是，隨著智能技術的發展，這類例子將會越來越多。

我們相信，表面上以取代人力為目標的智能技術，將產生更多更適合人類的新的工作崗位，例如學習工程師、決策工程師、法務工程師，等等。智能技術可能會將今日之“碼農”解放出來，使其變成明日之“智農”，成為“人機結合，知行合一，虛實一體”的“合一體”智慧員工。如此一來，維納所說的：“人有人的用途，機有機的用處”將會實現。

未來智能的方向與體系

40多年前，侯世達在“GEB”之末提出了關于智能的十大問題和猜想，吸引了年輕的米歇爾轉行隨其學習和研究人工智能。現在，米歇爾在本書的結語中也提出了當下人工智能領域備受關注的六個問題及其答案或推測，這本質上也是對未來智能技術發展的探討與期望。在此意義下，將本書中文版命名為《AI 3.0》也算合理。我個人更是堅信人工智能必須從長期占據主導地位的邏輯智能（AI 1.0）和近20年來作為主力的計算智能（AI 2.0），向人機混合、虛實交互的平行智能（AI 3.0）邁進。

未來的智能科技，必須將人以新的方式置于核心地位，切實落實“人有人用，機有機用”的根本原則。社會物理信息系統（cyber-physical-social systems，CPSS）將成為智能系統的基礎設施，進而保證數據之力、計算之力、算法之力、網絡之力和區塊鏈之力能夠“五力合一”，使智能科技能上“真”[TRUE=trust（可信）+reliable（可靠）+useful（有用）+effective（有效）]之“道”[DAO=distributed/decentralized（去中心化的）+automated/autonomous（自動的）+organized/ordered（有序的）=decentralized autonomous organizations（分權自治組織）]，實現系統學習和系統智能，邁向智能組織和智慧社會。

政治哲學家和經濟學者弗里德里希·哈耶克（Friedrich Hayek）曾說：“科學走過了頭，自由將無容身之地。”同理，智能越過了界，人性將無處安身。如何保證人工智能不越界？根據廣義哥德爾定理，我們不是不相信智能技術，我們只是不相信智能技術背后的人類。因此，人工智能的合法合規，必須依靠人類本身的文明和法制保證，智能科技只能起輔助作用。人類社會發展的歷史告訴我們，隨著技術的發展，我們需要越來越多的法務工作者。將來，或許罪犯會非常少，但“智警”或“法務工程師”會成為智慧社會的重要從業人員，遠多于普通的警察和法官。這是隨智能產業發展而來的智慧社會的可能形態，也是我們研發新一代人工智能應該考慮的問題。

前段時間，明略公司的研究院院長吳信東教授和創始人吳明輝先生向我介紹了他們的“好智能”（“HAO”intelligence）計劃，就是將人類智能、人工智能和組織智能融合起來，創造出“HAO”好智能。我十分贊同，不但是因為這與我個人的理念相同，更因為這是通向“6S”智慧社會的唯一途徑。所謂的“6S”是指，未來的智能技術必須使人類社會在物理空間安全（safety），在網絡空間安全（security），在生態空間可持續（sustainability），具有個性化的敏捷感知能力（sensitivity），完成有效的服務（service），展示有益的智慧（smartness）。

我個人的興趣在于知識自動化和平行智能，且部分研究已發表于清華大學出版社出版的《人工智能：原理與技術》一書。對我來說，知識自動化和平行智能曾經是一個遙遠的目標，然而，時至今日“云計算”“邊緣計算”以及“數字孿生”技術的迅猛發展使平行智能變得可行。目前，我和團隊正在研究“Copycat”及其后繼者“Metacat”在平行智能和知識自動化中的可能應用，期望今后有機會與米歇爾和相關學者就此合作，讓AI 3.0早日成為現實。

最后，再次祝賀米歇爾的又一力作《AI 3.0》問世。希望能有更多的讀者有機會閱讀此書，正確地理解人工智能，促進智能科技的健康發展。