前言　賦機器以文明

人類是一個技術性的物種。

人類是地球上最聰明的物種。用技術來武裝自己，就是聰明的表現。

在發展出較為復雜的技術之前，人類所賴以生存的優勢，大約是善于長跑，通過漫長的追蹤，讓那些有散熱缺陷的獵物熱得跑不動，然后圍而殺之。從行為來看，原始狩獵的人類像是體型更大的狼群。我不知道這種頗為有趣的說法是否得到了科學的驗證，但狩獵曾經長期是人類的生存法門之一，和采集果實一道成為獲取食物的主要手段，這倒是人類學家的共識。

在那個長跑狩獵的時代，人類就已經開始依賴技術了。那時的技術，是打磨石塊、制造梭鏢、削制木矛，代替并不鋒利的爪牙；是制造弓箭，擁有遠程攻擊的獨特能力……原始部落往往都有弓箭設備，都能制造一些簡單但巧妙的狩獵武器。狩獵采集是一種生活方式，需要配套的技術，而這一整套技術在文明起源之前就已經和人類相伴，并決定了人類相對其他物種的優勢。

然后是農業技術。世界上最早發展出農耕文明的地方，就是四大文明古國。古代埃及、古代巴比倫、古代印度和中國，這些地方的古人類了解四季的更替，分離出了最適合耕種的植物，并且不斷地將它們培育成高產作物；馴化了適合與人類一起生活的動物，建立起了各具特色的農業技術。農業技術把人類推入了文明時代，因為農業可以養活更多的人口，積累更多的財富，從而為復雜的社會上層建筑提供物質保障。可以說，農業技術是人類文明的根基。

擁有了農業技術之后，人類社會變得更加復雜。隨著時間流逝，更多的技術被發明出來，它們或用于提高生產能力，比如各種農具和運輸工具，或用于提高戰斗能力，比如各類兵器。人類通過技術進步和技術擴散，更廣泛、更高效地從自然界獲取了各類資源，并在人類社會內部的不同團體間進行競爭。這一過程貫穿了整個古代文明史。

但農耕社會的技術發展是極為緩慢的，它更多地建立在人們的經驗基礎之上，并沒有太多理論的支撐。技術的發展，全靠一些頭腦聰明的人出現在合適的職業上，以及一些機緣巧合。當然，因為人口的增長，能夠從事腦力勞動的人數增多，而且各類人群之間產生了激烈的競爭，所以農耕時代的技術發展相對狩獵采集時代要快得多。

古代社會的技術發展并不是自覺發生的行為。這并不是說，當時沒有人有發展技術的自覺，中外都有能工巧匠的例子，也有大發明家，能夠發明一些極為巧妙的工具。但是以整體而論，技術的發展并沒有什么明確的方向，也缺少社會協作，因而發展得極為緩慢。

工業革命的到來加速了技術的發展，是一個里程碑。工業革命爆發的原因有很多，其中一個最重要的原因是科學的誕生。科學是理解世界的正確方式。對客觀世界的正確理解，可以促進技術的發展，這兩者之間的關聯如此緊密，以至于今天我們往往用科技來代替技術一詞。最顯著的例子是對電的理解，它催生了各種用電設施，引發了第二次工業革命。

農業革命讓人類社會發生了第一次質變，工業革命引發了第二次質變。工業革命的標志，就是機器的大規模使用。

農業時代也會使用一些機器，但將之稱為工具更合適，因為常以人或者牲畜為動力，結構簡單。偶爾有些利用自然力的機器，比如風車、水車，也規模有限，影響不到社會發展的根基。

工業革命利用煤炭產生的高熱蒸汽推動機器，提供了前所未有的機器動力，機器開始以人力無法匹敵的效率進行生產。機器可以用于織布，可以用于推動輪船，或者用來煉出更多、更好的鋼鐵。率先完成工業革命的英國發展成了“日不落帝國”，這是工業革命偉大力量的現實證明。

第二次工業革命的標志是電力的廣泛運用。從此，占據主流的機器開始從笨重的蒸汽機向著靈巧的電動機和內燃機演化。

電是一種易于輸送的能源，雖然用煤或者其他能源發電，再將其輸送到千家萬戶，會有巨大的損耗，但是以電為動力的機器反而擁有極大的空間靈活性，而且清潔干凈。自從電力成為社會中普遍的能源之后，機器的形態更是變得五花八門，日新月異。

第二次世界大戰之后，計算機和互聯網的發展引發了第三次工業革命——信息革命。信息的產生、收集和處理達到了一個前所未有的高度。信息化帶給人類社會的好處不僅僅停留在信息技術本身。計算機能夠進行大量的計算，代替大量人類腦力，提高生產效率，這只是信息技術的初級效應。信息技術更重要的作用，是讓全人類以前所未有的深度和廣度結合在一起，提供了大量的有效市場機會，從而極大地促進了經濟的發展。

眼下的世界到了另一個節骨眼上，那就是人工智能的發展。世界正在進入第四次工業革命。在這場革命中，人們所面臨的技術選擇很多，可控核聚變、高效的太陽能、基因技術……然而所有這些，都可以認為是信息時代的進一步深化，并不會帶來社會本質的改變，只有一種技術除外——人工智能。

人工智能所帶來的影響將是長遠而深刻的，它不應該被視為與前三次工業革命同類的事物，而是一個新事物，或許我們應該用另一個詞匯來描述它：智能革命。

農業革命和第一次工業革命共同深遠地影響了人類的社會形態，第二次工業革命和第三次工業革命雖然有極大的發展，但是從本質上說，還是第一次工業革命的推進和放大。智能革命，則會從根本上顛覆人類社會現有的形態：因為智能革命的最終導向，必然是聰明的機器。

在地球上，人類是最聰明的物種。這一點毫無疑問。

但在智能革命之后，這個答案就需要補充一些限定條件。聰明的機器，完全有可能成為一個“新物種”，而它們會比人類更聰明。

智能，是人站立在地球生物圈巔峰的最有力保證，是人類文明的基石。但現在人類已經開始能夠設計出比自己更聰明的事物了。一個具有未來眼光的人，應該能夠看出這件事的深遠意義。它開啟了人類成為造物主的時代，也同時開啟了一個并不確定的未來。

目前的人工智能，是對生物智能的拙劣模仿，卻已經顯示出其強大的威力。2016年3月，人工智能AlphaGo戰勝了圍棋世界冠軍李世石。在此之前，人們一直認為圍棋是計算機程序所無法挑戰的領域。早在1998年，計算機程序“深藍”就能夠戰勝國際象棋世界冠軍卡斯帕羅夫。計算機在圍棋上的勝利卻遲到了18年。這18年間，圍棋像是一種圖騰，象征著人類智力高高在上，不可超越。到了2016年，這個圖騰轟然倒塌。

那么，2016年的AlphaGo和1998年的“深藍”，究竟有什么不同？

當年戰勝卡斯帕羅夫的計算機程序“深藍”，采用的是編程算法，對戰時依靠的是海量的搜索和記憶。可以認為這是一種機器蠻力。它有個明顯的缺陷：跳不出人類給出的能力范圍。可以說“深藍”的每一步棋，雖然“深思熟慮”，但只是人類曾經下過的棋著的重復。國際象棋的自由度有限，國際象棋大師雖然能夠臨機應變，下出自己不曾走過的好棋，但這棋著卻大概率是歷史上曾經出現過的——只不過人的記憶有限，記不住那么多棋譜。對計算機程序來說，卻可以記住比人記得多得多的棋譜，從而尋找到應對當前局面的最優解。這樣的“機器蠻力”也能給人留下深刻的印象，因為不管怎么說，人的確下不過機器了。但因為機器按照指令執行，它的邏輯其實仍舊是人的邏輯，只不過是許多人的邏輯總和。在這種編程方式下，雖然機器的智力可以變得很復雜，比如由上千名工程師耗費一年的時間，把大量的邏輯堆積在一起，形成一個龐大而自洽的邏輯庫，但從本質上來說，它只是一種簡單重復的能力：執行指令。它并不會產生任何意外，如果有意外，那就是“bug”。從另一個角度來說，“深藍”所下的棋，如果換成人類棋手，經過深思熟慮，就能夠理解其中的用意所在。或者換一個程序員，逐步執行指令，只要有足夠的時間，就能理解“深藍”是怎么走出這步棋的。依靠指令編程所獲得的智能，本質上是人類智能的重復。依靠指令編程，機器可以變得很強大，也可能看上去很聰明，但它不會產生真正有創造性的東西，只是按部就班，重復某些東西。這就是“深藍”的狀態。

AlphaGo則不同，它運用的是神經網絡算法。神經網絡算法聽上去很神奇，形象一點說就是讓計算機像人腦一樣進行計算。這和編程算法有本質的不同：神經網絡算法只提供邏輯演化的規則，并不提供邏輯本身。這是什么意思？以各種語言寫下的程序，都是一條條邏輯指令，而計算機程序的運行就是這些邏輯的推演結果。神經網絡也在執行某種邏輯，然而神經網絡的邏輯庫并不是顯化的，它不是一條條指令，而是蘊含在神經網絡的結構之中，經由演化而來。所以在神經網絡中看不到任何指令，不存在專門存儲指令或者數據的存儲器，它的存儲和運算都由網絡本身完成。一個網絡和另一個網絡邏輯能力的不同，體現在網絡的內在結構上。

神經網絡算法源自對生物大腦的模擬。大腦中并沒有存儲器，也沒有中央處理單元。它和我們目前使用的計算機差別極大，從根本的設計理念上就南轅北轍。我們通常使用的計算機采用“馮·諾依曼結構”，由存儲器、控制器和運算器，加上輸入與輸出設備組成。存儲、控制和運算各司其職，按照既定的邏輯運行。這是一個線性的過程，每一個步驟的發生都必須在前一個步驟發生之后。現代計算機采用了軟件或者硬件的方式來創造出多線程的運算，但那只是對大規模運算進行任務分割，將其變為眾多小任務，從而提高效率。在每一個小任務內部，仍舊遵循著馮·諾依曼所設計的基本運作原理。然而人類的大腦是一個高度并行的邏輯系統，它沒有特定的中心。如果計算機的某個單元受損，整個計算機就無法運作。但是對于人腦而言，單個腦細胞根本無足輕重，一個腦細胞的損傷對人腦的計算能力幾乎沒有任何影響。計算機是數字的，如果不考慮備份，每一個存儲單元都存儲著獨一無二的數據；而人腦計算機卻是統計的，信息只存在于大腦的整體之中，而不是由某個腦細胞來代表。

我們可以用全息照片來說明依賴整體而存在的信息是怎樣呈現的。一張全息照片，即便被損毀，只要還有一部分保持原貌，也仍舊能夠復原出照片上的影像。一個更淺顯的類比是凸透鏡的成像原理。光透過凸透鏡在一張紙上顯示出一個倒立的實像。如果用不透明的物體遮住凸透鏡的一半，這個倒立的實像并不會變成一半，只是會變得暗淡一些。

如果把人的記憶比作那個倒立的實像，將凸透鏡比作人的大腦，記憶與大腦的關系也就一目了然了。記憶是大腦的整體功能，它不會因為大腦的局部損毀而失效。

當然人的大腦有許多功能分區，損毀特定的功能區會讓人失去某種能力。這是大腦的分工所致。如果要用形象的說法來描述，那就是我們的大腦由許多個凸透鏡組成，這些凸透鏡分別展示著外部的不同景象，共同組成了一個多面的記憶。部分損毀一個凸透鏡，并不能讓那部分實像消失，但是如果把整個凸透鏡拿走，那部分實像當然也就消失了。

在我們的大腦中，每個區域每天都有腦細胞死亡，但是大腦功能依舊健全，直到衰老到來，腦細胞死亡過多，大腦中的“實像”才逐漸模糊。這是一個人正常的人生。如果因為某些事故，大腦的一部分被損毀，那么關聯這部分的功能也就喪失了。

神經網絡算法模擬生物的大腦，通過神經網絡的整體來進行記憶和運算。我們不敢說它像真正的神經網絡一樣工作，因為大腦的秘密尚未完全解開，生物體內的神經元如何協同工作仍有一些尚未知曉的領域。但是根據神經網絡算法的實踐，我們已經有了像AlphaGo這樣的成果。所以我們至少可以認為，這種算法，即便是對大腦較為粗淺的模擬，也能適用于處理特定的情形。

如何才能讓一個神經網絡適用于處理特定的情況？這就牽涉一件非常重要的事：學習。

什么是學習？這難道是個問題嗎？我們從小到大一直在不停地學習。學習這件事是一個社會行為，但是在人工智能領域，學習的含義略有不同。對于人工智能專家來說，機器的學習，指的是通過各種信息的輸入和給定的輸出判定，讓神經網絡獲得特定方向上的演化，并形成能解決某一類型問題的特殊結構。這個過程和學習在生物體內引發的神經網絡變化是類似的。

AlphaGo是如何學習圍棋的，這是非常專業的問題，我們不做過多討論。但關于AlphaGo有一個重要的事實：它所下出的圍棋和人類的圍棋棋路有本質的不同。換言之，它在圍棋規則的限制下，找到了和人類棋手不同的下法，而且這種下法比人類更高明。令人感到可怕的一點是：人類棋手無法理解AlphaGo的棋路。其中的原因，大概在于AlphaGo的硬件其實超過人腦許多，而且可以擴容，這就讓AlphaGo擁有了巨大的優勢，能夠計算出人類所無法算到的情勢。AlphaGo的升級版，叫作AlphaGo Zero。為什么叫作“零”，因為這是一個零起點的AlphaGo。它沒有任何人類經驗的積累，從零基礎開始下圍棋，下出的第一盤棋就跟小孩子擺棋盤一樣，一邊黑一邊白，幾乎把整個棋盤擠滿。然而AlphaGo Zero很快就進化成了圍棋高手，超越了最初版本的AlphaGo，自然也沒有任何人類是它的對手。這說明，只要給基于神經網絡算法的人工智能設定好規則，它就可以演化出超越人類的智力。至少對下棋的智力來說是如此。

在其他一些規則較為清晰、場景相對簡單的領域，比如圖像識別、語音識別，人工智能都取得了長足的進展。可以說，在這些領域，機器已經可以比人類更聰明了，因為機器識別的正確率可以比人類高。但是人工智能也會產生一些意想不到的錯誤。例如針對人臉識別，如果把一張有特殊條紋的紙貼在額頭上，對人來說，仍舊可以輕松地識別出人臉，但是人工智能卻無法辨認。這也說明，人工智能雖然在經過大量圖片辨認學習之后能夠識別人臉，但它所用的方法和人類本身的人臉識別算法并不一致。其中的原因可能在于，我們的神經網絡算法和真正的生物大腦的工作過程并不完全一致。直到今天，神經網絡算法還只是對生物大腦的粗糙模擬。我相信，隨著腦科學的進一步發展，人們對生物大腦的研究會越來越深入，相應地也會發展出更為精細的神經網絡算法。到那時，人工智能的一些缺陷或許就可以得到彌補。

當然，也有可能這些缺陷并不是神經網絡算法自身的問題，而是訓練方式的問題。

我們可以看一看生物的圖像識別是怎么演化的。生物所面臨的是一個極為復雜的環境，在這個復雜環境中，判斷對錯生死攸關。最高效的識別方式會在這種物競天擇的演化競爭中脫穎而出，被編入遺傳密碼傳給下一代。日積月累，生物的圖像識別就達到了一個極為高效的境界。但是請注意，不同生物采取的策略是不同的。最明顯的就是單眼和復眼的差別。單眼可以成像，識別出外界環境中的不同物體，然而擁有單眼的生物，有的對顏色敏感，有的對外形敏感；復眼生物能通過小眼之間的圖像差感知物體的運動，但對物體的形狀大概并不能完全理解。所以，圖像識別在不同生物中有著不同的含義，但不管什么含義，都和生物的生存環境相關，是適應環境演化的產物。環境有多復雜，生物識別的能力就要演化到相應的復雜度，否則這一物種無法生存。相對來說，人工智能的學習方式就要簡單得多。人會“喂”給它許多圖片，根據這些圖片它能夠學會特定的識別方式。然而圖片再多，終究也是有限的，一旦情況發生變化，它就可能產生不適應。所以如果要人工智能適應復雜的環境，唯一的辦法就是讓它在復雜環境中不斷學習。這需要時間和好的篩選機制，有待人工智能專家進一步探索。

以上所說的只是針對特定的領域，人工智能的無限可能性蘊藏在更為一般性的應用場景中。人們所期待的人工智能，肯定不是一個只能聽或者只能說的事物。真正的人工智能，應該是一個綜合體。

無論是AlphaGo，還是人臉識別、語音識別，智能的維度都是單向的。經過學習訓練出來的神經網絡只能從事相對應的功能，無法和人類大腦相比。現實世界是一個復雜的世界，如果我們仔細劃分，或許可以給它分解出十多個，甚至上百個維度。就像奧運會，可以分解出田徑、游泳、體操等，雖然我們管這些都叫體育運動，但不同項目所考驗的身體素質從來不是同一個維度。甚至還可以再細分，例如游泳，還可以分解出3 000米、1 500米、800米……

人工智能面對人腦，就像是奧運會的單項冠軍面對綜合冠軍。這些單項冠軍一旦換個比賽項目就一無是處，而人腦卻在各個方面都發展得很均衡，從而在各種比賽中都能名列前茅。

原本在這場“智能奧運會”中，人腦可以拿下絕大多數冠軍（一些特殊發育的動物大腦也有長處，例如鷹的大腦可以拿到視覺冠軍，許多動物的大腦嗅覺比人更靈敏……），但現在情況發生了變化。五子棋、國際象棋、圍棋……所有的棋類活動，人工智能都已經完勝了人類。在圖像識別和語音識別的準確率上，人工智能也早已超出了人類許多。

基于圖像識別和語音識別的迅猛發展，我們有理由相信，視覺冠軍很快就將屬于人工智能。采用最大的望遠鏡，收集海量的信息，以人工神經網絡進行分析，可以看到百億光年之外的星體。這種能力，遠遠地超越了地球生物的能力極限。我相信，先進的天文臺很快就會用人工智能來探索星空。而衛星系統的成像能力，也會隨著人工智能的發展而突飛猛進，從同步靜止軌道上看清楚人的臉，也將不是一種虛妄的想象。這跟鷹能從幾千米的高空看清兔子的道理一樣。

目前，人類仍舊保有一些智力高地，比如語義分析、邏輯推演。然而這種情況不會維持太久。這些智力高地，往往是各種大腦功能的交互。科學家對于人工智能網絡之間的交互已經有所研究，人的大腦之所以復雜，原因在于大腦的神經網絡經歷了億萬年的演化，形成了許多子網絡，這些子網絡既擁有各自的功能，又彼此間相互影響，形成更復雜的網絡。

簡單看一看人腦結構，就可以看到一部演化史。在“三個大腦”的假說中，人的大腦由內而外可以分為三個部分：爬行動物腦、古哺乳動物腦和新哺乳動物腦。爬行動物腦的演化發生在2.5億年前，控制基本的生命活動，例如呼吸、心跳、戰斗、逃跑、覓食和繁衍。爬行動物腦的活動一般都是應激性反應，看到什么，聽到什么，然后產生一定的反應。古哺乳動物腦在現代腦科學中被稱為邊緣系統，它能產生各種情緒，例如恐懼、興奮等。邊緣系統產生的情緒其實就是對爬行動物腦的應激活動進行的一種綜合，已經屬于一種較為高級的反應。新哺乳動物腦，又稱為新皮層，或者理性腦、皮質腦、新腦，它控制著高級認知功能，對其他兩個腦層也有一定的抑制作用。人腦的三層結構在漫長的演化過程中逐漸形成，腦的形成過程，也就是智力逐漸成長的過程。這些腦結構有一定獨立性，又彼此相互影響，最終形成一個綜合體。自我意識也就在這個綜合體變得日趨復雜的過程中誕生了。

人工智能的演化很可能會遵循類似的路徑，由簡單到復雜，由單維到多維，最后形成自我意識。

自我意識一直被認為是生物的神秘要素。機器距離自我意識的誕生無疑還很遙遠，然而生物界中，擁有自我意識的生物比比皆是，分布廣泛。喜鵲、烏鴉、黑猩猩、鯨、海豚，甚至章魚，只要大腦的神經網絡復雜到一定程度，就能誕生自我意識。認識到自身的存在，無疑能極大地提高生存概率，自然選擇偏好自我意識，它就會產生。和自我意識相關的大腦皮層，大約是一種控制其他大腦皮層的皮層，是大腦的信息交匯之處。有研究表明，在一個人意識到自己要做出某個動作之前，關于這個動作的神經沖動就已經發出了。從這個意義上說，并不是自我意識決定了動作，而是動作被大腦整體決定，并且在發動之后才“告知”了自我意識，然后我們才意識到自己在干什么。自然的吊詭之處在于，它讓我們認為是自己決定了要做什么，而把自我意識只是一個傀儡這一真相掩藏起來。行動的自由是一種錯覺，在大腦神經網絡高度發達之后，行動的選擇變得多樣化，然而究竟選擇如何行動，由大腦的基本結構和當時的狀態所決定。當一個人認為自己做出了選擇，他只是在代表他的整個大腦說出這個結果。大腦的代言人和大腦的控制者，這其中有著微妙的差異。大腦控制者是一種錯覺，真相是自我意識更像是大腦代言人。

這種解釋，讓人看上去像是一種自動生物機器，沒有給自由意志留下空間。什么是自由意志，這個問題我們在此不做深入討論，但如果動作先于意識這種現象是確切的，那么人工智能要復現這樣的情況，便較為容易。

人工智能由人培養而來，雖然蘊藏在神經網絡之中的邏輯并不為人所知，但我們很容易接受人工智能是一種自動機器的觀點。但如果把生物的演化過程梳理清楚，生物是一種自動機器的觀點同樣具有很強的說服力。最早的生物只有本能，自動機器的屬性很清楚；復雜的生物，除了本能之外，還發展出了智能，自動機器的屬性便模糊了。但如果以大腦代言人的角度來看待自我意識，生物的自動機器屬性就呼之欲出了。智能的誕生，其實是很多本能的疊加，在不同的環境刺激下生成不同的本能，展示不同的本能。例如，一匹角馬要靠近河邊喝水，但水中有鱷魚。在此情況下，角馬就得在饑渴和恐懼的雙重驅動下行動，它的大腦神經網絡在不斷競爭，角馬也就在喝水和逃跑的行為之間維持著一種平衡。喝水是一種本能，警惕也是一種本能，角馬在保持警惕的同時去喝水，這就是一種智能行為。

有人或許有疑問。難道復雜的智力活動，比如說寫下一篇文章，也是大腦的自動反應嗎？難道不是人一邊思考一邊創新，并且把它用文字表達出來的嗎？

我的回答是，看一看AlphaGo，它的智力活動難道不是創新嗎？它走出了人類歷史上從來不曾存在過的棋路。可見，創造新事物，并不需要自我意識才能完成。

另外，也可以看一看真正的生物，用那些不太聰明的生物來做例子。我相信絕大部分昆蟲都可被看作自動機器。大自然并沒有什么自我意識去創造豐富多彩的昆蟲形態，但在億萬年的演化過程中，昆蟲的形態卻無奇不有，蜘蛛可以精確地織出漂亮的網，蚊子可以準確地找到血液豐富的血管……當這些形形色色的“小機器”以令人驚異的準確度完成了它們的動作，就是在無聲地宣告完成復雜動作并不需要自我意識的加入，新行為的產生也并不是自我意識的決斷。創新，這是自然界本來就具有的能力，只不過人類對于自身行為認識并不夠深入，才有了自我掌控創新的錯覺。

人類創新行為的生物本質，是把自己不斷投入新環境中，接受新的刺激，從而讓大腦神經網絡產生差異化的發展。

這樣的行為，假以時日，人工智能顯然也可以達到。只不過，生物演化有內在的驅動，可以自動進行；人工智能則只能依賴人類的培養。

對于人工智能所能達到的智能程度，我抱有樂觀的看法，因為人工智能的物質基礎遠超過生物智能。只要人類不放棄對人工智能的培養，高度復雜的人工智能，包括具有自我意識的人工智能，都會在未來出現，甚至不會讓我們等太久。

一旦人工智能具備了自我意識，新紀元就開始了。一個“新物種”從此誕生。它將和人類進行對話，它會形成自己的利益，它會尋找自己的生存之道。

面對自己所創造的這一物種，人類該怎么辦？

從文明肇始，人們一直追求更高的效率，不斷發明出各類工具，到了工業時代，人們更是把對機器效能的追求發揮到了極致，利用一次又一次的科技革命，把人類文明推向了一個又一個高峰。我們可以把這個過程稱為“賦文明以機器”。機器推動人類文明的發展，創造出了越來越多的社會財富。

即將到來的智能革命會把人類的文明推向一個新高度。在這個高度上，物質財富的創造無須人類參與，人類社會將面臨前所未有的巨大挑戰，因為按照既有的分配制度，社會財富會集中在極少數人手中，造就空前的貧富分化。這是人類社會內部所面臨的挑戰。在外部，人類也將面臨人工智能的挑戰。具備了自我意識的人工智能如何處置自身和人類的關系，這大概比人類社會如何分配所創造的財富更富有挑戰性。它直接關系到人類作為物種的生死存亡。

歷史會如何發展，誰也沒有確切的答案。然而明天會如何，取決于今天所發生的一切。我們如何對待人工智能，如何讓它們進行學習，能否讓它們明白并且接受人類的價值觀……這些所作所為，最終會影響人工智能對人類的態度。雖然沒有人能保證，人類以百分之百的愛澆灌人工智能，人工智能就會回報以愛。人類只能努力推動事物向著最好的可能發展。培養人工智能的道德準則，這不是靠任何軟件和硬件的限制來實現的，它是一種行為規則，只能由行為來引導。用什么樣的行為引導人工智能，這大概是人類培養人工智能過程中相伴始終的問題。

一個值得憧憬的未來，是人類和人工智能和諧相處的未來。人工智能的能力可以超越人類，它所能掌控的力量也會超過人類。在這種情況下，具有“文明素質”的人工智能對人類來說就顯得非常重要了。

“賦機器以文明”，我想用這樣的一個短語來對這件事進行概括。我相信在即將到來的智能革命中，人類有足夠的智慧和運氣做好這件事。事關重大，不可不察。那么就需要我們從現在開始加以關注。

人類和人工智能之間的恩怨情仇，會在未來很長一段時間內繼續存在。把文明賦予它們，讓它們學會人類的思考方式，這將是人類作為一個物種最后的光榮。

再往后會怎么樣？

再往后，大約人工智能會為人類做主吧！