人工智能時代的關聯(lián)和直覺：個體智慧與集體智慧
——與黃時進、成素梅對談

黃時進：當前人工智能發(fā)展迅猛，您認為會對人類的思維方式帶來哪些新的沖擊？需要人們做什么樣的改變？這些改變和您在《改變思維》中論述的核心思想是否一致？人工智能時代，應確立怎樣的思維框架？

錢旭紅：《改變思維》一書的目的就是強調思維的多樣性差異、集成與升華，強調全面而多樣的思維、超越性思維、超限性思維，真正做到道法自然，以跟上或者引領發(fā)展。七年過去了，書中一些內容需要進一步充實增訂。我不敢講此書能對發(fā)展人工智能有多少幫助，但對人們接受人工智能會有些許益處。

首先聲明，我不是研究人工智能的，我無權也無能力對人工智能作出判斷。但我們的研究可能與人工智能有一定關聯(lián)。我的專業(yè)屬于綠色化學與分子識別，經(jīng)常涉及在量子物理和量子化學基礎之上的分子識別現(xiàn)象和機理，可能對我們理解人工智能會有幫助。

人工智能會在很大程度上改變人類思維，其中，最大的改變就是人們更能理解和運用數(shù)據(jù)科學（大數(shù)據(jù)）。以前在我們的習慣中起主導作用的是確定性思維，那么在數(shù)字人工智能時代，不確定思維將發(fā)揮更大作用，規(guī)律和其呈現(xiàn)方式，取決于次序時間、數(shù)據(jù)的大小規(guī)模和涉及的條件范圍。不確定思維，不是沒有規(guī)律，它符合不確定的那種思維規(guī)則，不是像我們通常所講的。我們通常認為的不確定，就是什么都沒有，什么都隨便，其實根本不是那么回事，它是在看似雜亂無章的不確定基礎上形成新的規(guī)律，呈現(xiàn)出以前從未發(fā)現(xiàn)的并出人意料的非傳統(tǒng)規(guī)律。

比如說我們的味覺，味覺是感受體感知對應的分子而產(chǎn)生的。我們以前喜歡強調選擇性，相比選擇性更高的叫專一性，什么叫專一性？比如說這是糖分子，對應的是糖的受體，糖受體認出糖以后，會給出個信號，它們相互結合，即表示認識；如果是酸的東西，糖受體幾乎不認識，響應信號接近背景噪音。如果受體是專一性的，它對不對應的分子的響應信號就都為零。這就是我們通常喜歡的單一的、確定的方式。這樣的分子識別效率高。并且人們會據(jù)此認為效率越高效果越好。但這就帶來一個問題，自然界糖的分子各式各樣，有果糖的、阿拉伯糖的，等等。如果我們要識別一個具體的糖，就得有一個對應的受體，因為它高度專一。所以，為了識別每一個糖，我們就要有無數(shù)種受體，為了識別酸，我們也要有無數(shù)個酸的受體，看似聰明無比的策略，最后物極必反，識別的負荷越來越大，這個系統(tǒng)最終必將走向崩潰。為什么崩潰？它承擔不起這樣高度專一、種類繁多的壓力。這就是我們通常熟悉的一種思維方式，也是自然界存在的一種表達方式。

但自然界還有另一類更高效的識別方式或者更有趣的思維方式，比如，人的舌苔上有無數(shù)個受體，即味蕾，但并不是每個味蕾都非常聰明，它們做不到高度專一性地識別對象，只能具有一定的選擇性。從傳統(tǒng)的經(jīng)典識別角度看，這些味蕾很笨，似乎分辨能力很弱，用途不大。其實這種認識是錯誤的。就識別單個受體而言，它們的能力很差，而一旦無數(shù)這樣的水平一般、小有差異的受體集成起來互相配合，形成一個體系化的系統(tǒng)，就會有令人震驚、超凡脫俗的本事。這點和神經(jīng)元與神經(jīng)系統(tǒng)的作用有些相似。味蕾大概有感受酸甜苦辣之不同，每種味蕾不僅僅識別優(yōu)先對象（如甜），也識別非優(yōu)先對象（如酸），它們對優(yōu)先對象的響應略微靈敏、略微快捷、信號稍強。味蕾的識別不具有確定性，每個味蕾不具備高度選擇性，更談不上專一性。但是它們集成在舌苔上，根據(jù)區(qū)域和對象來識別，然后，形成一個響應信號的圖案，即模式識別。無數(shù)個識別能力弱小、相互有微小差異的個體匯聚在一起，遇到任何東西都會給出信號響應，而響應也會有大致的特定的信號響應圖案。所以人們會覺得，有的東西是甜當中有點酸，或者苦中有點咸。就算對象千差萬別，味覺都可以給出非常準確的判斷，即幾乎專一性的識別。即使看似愚笨、非專一性，甚至選擇性都不強的味覺放在一起，通過相互配合、分工協(xié)調，經(jīng)過模式識別，也可以產(chǎn)生高度專一性的效果，簡單而便捷。

在人工智能時代，只有那種單線性的確定性思維肯定是不行的，必須允許差異多樣而靈活的思維方式。單一的只能做到某個方面性能最佳，有小聰明；而群體中雖然每個個體微弱，但集成后，性能獨特而全面，會展現(xiàn)出大智慧。因此，單個數(shù)據(jù)，就像單個的個體，不一定能顯示什么規(guī)律，但是在不確定基礎之上，數(shù)據(jù)足夠多，就會揭示或者呈現(xiàn)新的規(guī)律。這就是人工智能可能呈現(xiàn)出的一種圖景，這是我個人理解的，在人工智能時代將會出現(xiàn)的與過去的思維方式的重要區(qū)別。

成素梅：您的意思是說，人工智能能夠基于無數(shù)不確定的數(shù)據(jù)，找出確定性的規(guī)律嗎？

錢旭紅：是的，就像計算機上無數(shù)個點數(shù)據(jù)，單看幾個點根本沒啥規(guī)律，但無數(shù)個點出來以后，你會突然發(fā)現(xiàn)它有規(guī)律。

成素梅：但是，現(xiàn)在計算機的模式識別本身是非常單一的，還遠遠沒有達到您所比喻的舌苔對味道的識別那么通用的程度。

錢旭紅：這是目前的狀況。

成素梅：那么，您認為未來會是什么樣的？

錢旭紅：未來一定會像我說的。過去概念中的機器人和人工智能，沒有大數(shù)據(jù)，沒有網(wǎng)絡，沒有現(xiàn)代的技術和應用場景，只是一個一個笨笨的單元，作為個體，其競爭力永遠比不上人，永遠無法和人的能力相抗衡。而一旦這些笨笨的元素個體以適當?shù)姆绞疥P聯(lián)結合在一起，形成一個新的智慧系統(tǒng)，即人工智能2.0，新一代的人工智能就會橫空出世！其強大之處就在于不是一個一個單元的簡單加和，而是能力倍增的集成增效，形成了系統(tǒng)以及系統(tǒng)才能有的競爭力！

人工智能2.0，將從計算機和機器人的方式切入，借助網(wǎng)絡和大數(shù)據(jù)去模擬人的思維和言行，最后肯定逼近人的大腦思維，盡管其思維與人的大腦相比還是有重大區(qū)別，但正是在能力上而不是在結構上，逐步向人逼近。逼近到最后，容易實現(xiàn)的是對數(shù)據(jù)的收集和處理，現(xiàn)在人工智能的難題可能是對圖像的處理能力比較弱，將來它會在圖像、文字處理性能方面達到新的高度。比如說分析和采集數(shù)據(jù)，如消費數(shù)據(jù)，對個體而言，數(shù)據(jù)多與少意義不是很大，僅僅是一個記錄或者描述。但當數(shù)據(jù)達到特別大的規(guī)模乃至無限規(guī)模，意義就會越來越明顯，規(guī)律性就會越來越強，不僅可以預測和把握群體趨勢，而且可以預測個體行為。我個人理解的人工智能時代，就是數(shù)據(jù)科學（大數(shù)據(jù)）+網(wǎng)絡+模擬人，從而實現(xiàn)對原有的人和計算機以及機器人的超越。

成素梅：是指統(tǒng)計意義？也就是說，主要強調它的統(tǒng)計價值？

錢旭紅：是的，越是去統(tǒng)計，規(guī)律就越明顯，當然統(tǒng)計包括經(jīng)典的、量子的。在數(shù)據(jù)、統(tǒng)計、判斷的基礎上實現(xiàn)優(yōu)化。這個時代最大的意義和基礎就是海量數(shù)據(jù)，網(wǎng)絡化地組織在一起，這非常有價值。

黃時進：您在《改變思維》中強調思維自由和精神獨立，那么在當下人工智能時代，這方面有什么新的表現(xiàn)形式？

錢旭紅：我在《改變思維》中強調，當一個人具有以質疑為第一要素的科學精神、以關愛為第一要素的人文精神、以使命為第一要素的信仰精神，這個人的精神就是獨立的、完美的；當一個人具有邏輯思維能力、形象思維能力、系統(tǒng)思維能力，這個人的思維就是自由的、純真的。因此，用三個不同的方面描述某個人或事物，就基本能描述得比較完整。所以，在我看來，“三”是認識人或事物的幸運數(shù)！人工智能也不例外，它可以被描述為由三個部分組成的系統(tǒng)，即大數(shù)據(jù)+計算機網(wǎng)絡+模擬人。

老子講“三生萬物”，這話真的很正確，它包含了多樣性、差異性、復雜性、創(chuàng)造性。當你遇到什么事情，或者進行分析，或者講話，找三個不同的切入點或者支點，就能在一定程度上代表整體，此方法簡單易行、融會貫通。

老子強調的“大制無割”，即整體和相互關聯(lián)的重要性、系統(tǒng)的重要性。它強調用一個模型去理解另一個模型，用一個整體去模擬另一個整體，當然是好的方法，但在開始時，用三個不同的點作為起始的模擬角度，不失為一個便捷的開端。

和人有關的概念，我在《改變思維》第一版中，只講了思維自由、精神獨立，但從“道法自然”“三生萬物”的角度，這還不夠，似乎還缺了點什么——缺少一個點。當我們強調思維、強調精神，最后的落腳點是什么？應該是能力！你的能力能否超出常人？能力如何超出常人？并不是你真的能超出常人，而是你能最大程度尊重自然，符合真理，如此才能得道多助，如有神助。

在修改增訂版《改變思維》中，我將增加第三個和人有關的概念，即“超能善成”。為什么？因為在《道德經(jīng)》的“巧用章”中，老子講“善行者無轍跡”。就是說一個人很有能力，他做出的事情是不會有紕漏、有后遺癥、有痕跡的。老子在此篇中還講：“善言無瑕謫；善數(shù)不用籌策；善閉無關楗而不可開；善結無繩約而不可解。是以圣人常善救人，故無棄人；常善救物，故無棄物，是謂襲明。故善人者，不善人之師；不善人者，善人之資。不貴其師，不愛其資，雖智大迷，是謂要妙。”

這正是通過“大數(shù)據(jù)+計算機網(wǎng)絡+模擬人”三者融合的人工智能，有可能在能力集成的層面，超越自然人、超越數(shù)據(jù)和計算機、超越機器人。當然，盡管如此，人工智能不可能代替人。

成素梅：您講的落腳點，可以用德雷福斯所闡述的技能獲得模型講下去。德雷福斯是美國加州大學伯克利分校的哲學教授，以研究海德格爾而著名，早在20世紀60年代，他就根據(jù)海德格爾的思想批判當時盛行的人工智能的符號主義范式。在這些研究的基礎上，他提出了技能獲得模型。這個模型把人的能力分成七個階段：新手階段、高級初學者階段、勝任階段、精通階段、專長階段、駕馭階段、實踐智慧階段。您所說的做完事情以后不留痕跡，指的就是當學習者進入了高級階段之后才能達到的境界，初學者在做同樣的事情時，比如開車，由于還沒有掌握技能，因此一定是很笨拙的。在這個簡單的等級模型中，前三個階段屬于低級階段，第四個階段是一個關鍵的轉折點，達到了能夠熟練應對的階段，后三個階段屬于高級階段，分別對應于專家、大師和實踐智慧階段。學習者對技能的掌握達到專長階段之后，就達到了您所說的能夠很圓滑和很漂亮地完成任務的階段。因此，圓融和漂亮地做事，說起來容易，做起來難。如果學習者沒有經(jīng)過長期的訓練過程，是做不到的，但也不是說經(jīng)歷了這個過程之后，就必然能做到。在這個技能獲得模型中，從前三個階段上升到后三個階段，學習者發(fā)生了三個轉變：第一個是情感轉變，即從面對“突發(fā)情況”的一籌莫展和恐懼無助的情感狀態(tài)，轉變?yōu)椤跋硎芎腕w驗”情境變化帶來的刺激感和滿足感的狀態(tài)；第二個是實踐轉變，即從處理情況的“手忙腳亂”和“應接不暇”的狀態(tài)，轉變?yōu)椤暗眯膽帧焙汀靶赜谐芍瘛钡臓顟B(tài)，具備了針對問題域的直覺應對能力，也能前瞻性地修改現(xiàn)有的技能訓練程序或規(guī)則，形成獨特風格，成為值得依賴的專家；第三個是認知轉變，即從域境無關（context-free）的狀態(tài)轉變?yōu)橛蚓趁舾校╟ontext-sensitive）的狀態(tài)，體現(xiàn)在思維方式上就是從理性思維上升到直覺思維。理性思維對應于技能的低級階段和遇到無法進行常規(guī)處理問題的高級階段，在這個階段，理性的分析思維占主導，根據(jù)理性判斷來采取應對措施；直覺思維對應于技能的高級階段，在這個階段，實踐者與世界融為一體，直覺判斷占主導地位。因此，我們可以說，不費勁的直覺思維是在理性思維的基礎上成長出來的，這也揭示了實踐技能的意向導向性在認知過程中所起的重要作用，即認知方式從“慎重考慮”的主客二分狀態(tài)轉變?yōu)椤爸庇X應對”的身心一體化狀態(tài)，也就是說，達到了應對自如的狀態(tài)。

錢旭紅：而且本身這兩者是不能夠完全區(qū)分的。

成素梅：對的，到了專長階段的時候，專家的應對是由域境喚起的，不再是主客二分的了，我稱之為“域境誘導”，用海德格爾的話說就是人們處于“寓居于世”的狀態(tài)。

錢旭紅：在酶催化和分子識別中，就有一個類似概念，叫“誘導契合”。

成素梅：這就是說，專家處理事情的能力已經(jīng)內化到身體之中了。這是身體哲學研究的主要內容之一。也就是說，專家處理問題的能力必須在具體域境中才能表現(xiàn)出來，離開特定的域境，就發(fā)揮不出來。比如說，打籃球的時候，運動員如何接球和傳球是由球場的場景決定的，不是事先安排好的，運動員的應對技能是由變化莫測的球場激發(fā)出來的。到了大師階段，專家的技能將從個體層面上升到社會層面，形成新的技能訓練規(guī)則，打上自己特有的烙印，形成特定的風格或團隊，而這些新的規(guī)則與應對技能進一步產(chǎn)生了更普遍的社會影響，當形成某種文化時，就進一步上升到了亞里士多德講的實踐智慧階段，即內化為引導他人做事的一種行動向導，這是最高層面。

錢旭紅：您解釋得太好了！我用“超能善成”這四個字對應思維自由、精神獨立，就是強調能力，而且不是普通的能力，這種能力就像老子講的……

成素梅：直覺，即intuition。

錢旭紅：如果不叫“超能善成”，改叫“能力直覺”，可以吧？人工智能應該具有這個能力，因為它有大量的數(shù)據(jù)分析，會提供明確的甚至便捷的導向。舉個例子來講，剛才你提到，為什么人們最初看到的問題是整體性的，要把很多數(shù)據(jù)采集過來加以判斷——比如說怎么知道危險？假如一只老虎跑來，人們首先看到它的眼睛和皮毛，然后判斷說這家伙是個危險的東西。但是到了一定時候，人們就對所見的東西加以抽象，不需要用所有特征比對，只需要幾個簡單特征的比對，這樣判斷和反應的速度大大加快，就是說進入比較高級的第二階段了，這時他根本不看老虎的眼睛、形狀，單憑直覺就能判斷。

成素梅：對，是整體性的，不是看到某個部位或部分，而是看到某種神態(tài)。

錢旭紅：我有個老朋友A. P. de Silva，從事熒光分子識別，他用化學方法來闡明人們的眼睛是如何識別形狀的。形狀識別很重要，最初你不會這么做，見多了老虎，你就會篩選各識別要素，最后很可能集中于形狀識別，看到老虎就像看到簡筆畫，三兩筆就能判斷對面是不是老虎。最初人在認識對象時，是把所有信息全部收集過來，實際很多信息并沒有必要。老虎見多了，記住所有特征，后來就知道該怎么辦，然后代代相傳，就抽象出最能代表它的關鍵部位的那些簡單信息。這信息只要一出現(xiàn)，人就會知道有危險了，第一個警告信號就出來了，根本不需要經(jīng)過很長時間的計算判斷。這個發(fā)展到最后就是所謂的出神入化了，我想人工智能到這個境界一定會出神入化。

黃時進：我們現(xiàn)在的科學家，實際上也是受近代以來牛頓力學方法論，即因果性思維的影響。而在人工智能時代，也就是在我們剛才提到的特定語境，相關性在一定程度上超過了因果性。作為科學家，您是怎么理解的？

成素梅：也就是說，科學家在進行研究時一定是信奉因果性思維的，某個結果必然是由某些或某種原因引起的，科學研究就是要尋找那些或那種原因。但是，隨著大數(shù)據(jù)時代的到來，當數(shù)據(jù)具有了認知價值時，通常會用相關關系替代因果關系。比如，谷歌對禽流感發(fā)生地的預測，是根據(jù)對感冒藥的查詢結果來進行的，而不是通過研究引發(fā)禽流感的病因來進行的，這種預測方式不再關注尋找原因，只關注尋找相關性。

錢旭紅：很有道理！世界上因果性和相關性是同時存在的。我們以前只關注了因果性，沒關注相關性。此外，你在關注相關性的時候，有時候也要注意因果。比如說，因果性主要是時間次序，是跟時間次序有關的，所謂前因后果。兩件事同時發(fā)生，就不存在因果，就像所謂的量子糾纏或者兩個雙胞胎間的心有靈犀，這種狀況應該說就不是因果性，完全是相關性。我們剛才舉的因果性和相關性的例子，基本是極端，是兩個極端，而我們大多數(shù)時候遇到的人或事物，都應該是這兩者的結合。所以在大數(shù)據(jù)時代，你看到的是相關性，這是對的，規(guī)律必定有因果，或者說必定有一者與另外一者直接相關。我認為，在大多數(shù)情況下，這兩者都重要。

黃時進：您在《改變思維》中從工具和圖騰兩個維度重新定義“人”，您會不會覺得人工智能的興起會重新定義“人”？

錢旭紅：我是這樣想的，每個人都具有獨特價值，每個人都是圖騰，尊重每個人是全人類自由本身的價值。同時，我們每個人又回避不了工具性，個人是社會的工具，是家庭的工具。過去，人的工具性色彩明顯，但是如果進入人工智能時代，人的工具性以及很大一部分工具性特征將會被人工智能所代替，這樣，人的價值性應該有更大的體現(xiàn)。這是一個重大區(qū)別。人的價值更得到體現(xiàn)，以后主要凸顯的很可能是人的精神追求。因為人工智能時代到來以后，危險的、費時費力的、簡單的技能勞動，將部分或者全部由人工智能代替了。那自然就留下一個重要問題：人將來干什么？

黃時進：關于這一點，您和成素梅教授的思維高度吻合。她就此提出：人工智能把人從很多的體力勞動中解放出來，但是人在閑暇時間該怎么辦？

成素梅：我認為，就人類的發(fā)展而言，“人成之為人”有兩個過程。第一次“人成之為人”的過程是人與自然界的分離，原始人是自然界的一部分，人靠自然而生，受制于自然，聽天由命，所以，出現(xiàn)了圖騰崇拜、宗教、神學等。當人從自然界中分離出來之后，自然界成為刪除了人的場所，人與自然界的關系成為對象性關系，人依靠聯(lián)合的力量來抗擊自然災害，走上了征服自然的征程，也為大力發(fā)展科學技術提供了社會土壤。比如，以前人們依靠祭拜或祈禱等儀式來祈求下雨，現(xiàn)在，我們可以通過技術手段來達到目標。現(xiàn)在，人工智能的發(fā)展將會為我們提供“人成之為人”的第二個過程。如果說，“人成之為人”的第一個過程，塑造了人類追求物質、追求控制、追求擁有來達到美好生活，那么，“人成之為人”的第二個過程，則有可能塑造人類去追求精神、追求合作、追求享有美好生活。

因為人工智能的發(fā)展，將會使人類從繁重的勞動中解放出來，改變過去習慣于為生活而奔波的方式，真正擁有屬于個人自由支配的時間，將會進入休閑時代。我們當下正處在這個時代的大門口。如何塑造這個時代的文明形態(tài)？人類會過怎樣的生活？如何重新設計相關制度？這些都是人工智能向人類提出來的現(xiàn)實問題，原來我們思考最多的是如何發(fā)展經(jīng)濟，未來可能思考最多的是何為人類。這與錢校長剛才講的觀點相一致。

錢旭紅：這就迫使人們往“神”靠近，就使人們更提高一步，因為人能做的事，人工智能都能做，而且效率可能比人更高。

黃時進：就是人被人工智能重塑了。

錢旭紅：對，重塑。重塑以后，如果應對不佳，也可能你會更痛苦，因為你無事可做。

成素梅：這是因為，人工智能變得越來越像人，做人所做的事情，而人變得越來越像機器，按機器的方式去做事與生活。這是一種顛倒。這種顛倒的思維會給人類帶來無窮的災難。因此，我們對人工智能的警惕，事實上是對我們自己的警惕，我們需要為人工智能時代的到來作好準備。

錢旭紅：有多種可能性，人可能會變得更幸福，也可能變得更痛苦。痛苦的原因就是當人工智能代替人時，人本身沒有得到進一步升華和提高，沒有充分認識到自己已處于新時代，那就很危險。無事就生非，以前要生非還沒時間，每天要上班，朝九晚五，現(xiàn)在時間多了，閑極無聊，就可能樂極生悲。

成素梅：現(xiàn)在有些社會問題的發(fā)生就與精神問題有關。只通過物質性的社會救助，根本解決不了精神問題。精神救助比物質救助更重要。所以說，人工智能的出現(xiàn)讓人變得有閑以后，人類如何面對自己，是一個很大的問題。

錢旭紅：我們通常認為，人從繁重的勞動中解脫出來會變得更幸福，但這僅僅是一瞬間的幸福，隨后就會更痛苦——如果人不能進入更高的精神境界。

成素梅：所以說，精神境界更重要。

錢旭紅：有精神境界，或者說有精神追求，就可以更幸福。某些人，就一個人一杯茶，能坐兩個小時不動，但他的大腦在動，一直在思考，所以兩個小時對他來說就是十幾秒鐘！對一個大腦不動的人來說，讓他靜坐十幾秒鐘，簡直就像靜坐兩個小時一般痛苦。

成素梅：我翻譯過一本書叫《人類思想中的休閑》，我非常贊成這本書的作者論證的一種觀點。這種觀點是：如果說，解決經(jīng)濟問題是人類面臨的第一次挑戰(zhàn)，那么，解決休閑的問題是人類面臨的比解決經(jīng)濟問題更大的挑戰(zhàn)。因為有史以來，我們根本沒有為解決休閑問題作好任何思想準備、教育準備、制度準備、社會準備等。追求經(jīng)濟最大化、追求物質利益最大化等思維方式已經(jīng)根深蒂固，當物質生活不再成為人們追求的唯一目標時，我們就應該為提升精神境界作準備。反過來說，如果缺乏這方面的思想準備，我們在面對休閑時代的到來時，就會感到束手無策！所以，提高精神境界、倡導精神追求以及改變思維方式并不比解決經(jīng)濟問題更容易。

黃時進：您剛才提到的恰恰是《改變思維》中很有前瞻性的一個預測，就是說在改變思維的過程中，需要走科學和人文融合之路，您認為這能幫助人類走出精神絕對貧困。但是，人工智能可能創(chuàng)造新的精神、新的精神貧困，如果有此危險，怎么破解？

錢旭紅：人工智能可以幫我們解決很多問題，這些問題基本都和物質方面相關。人工智能并沒有在精神創(chuàng)造的層面上有什么貢獻，因為它現(xiàn)在的情形還是受人影響的。比如，我要給它設定程序，告訴它數(shù)據(jù)如何進行采集、怎么分析，我如何思維它就怎么思維，基本上人工智能不太會超過人的思維。

問題就在于，人工智能主要解決物質層面的事情，那么精神層面，比如說人要擁有藝術享受，擁有對音樂、美術的鑒賞力，包括體育鍛煉，這些都必須親身體驗，人工智能代替不了你。人工智能可以說，危險的場所我?guī)湍闳z查一下，看工礦會不會發(fā)生瓦斯爆炸，這個它可以代替你。但是它說一幅畫很漂亮，能代替你嗎？沒法代替的。這完全是精神層面上的事情。所以，我們在精神層面還要更多地依賴人文。

黃時進：您覺得破解之道還是在人文？

錢旭紅：人文與科學結合，就是要防止走歷史的老路，不能過度依賴科學。科學很重要的一點就是強調本質和共性。人文是非常個性化的，而科學強調有一個共同的認知基礎，有一個參照系和坐標。可以有個性化，但前提是不能毀掉共同的基礎。人文與科學結合，就是既要強調共性，也要強調個性。

黃時進：成素梅老師認為現(xiàn)在的人工智能有誘導功能。比如說，在淘寶上買東西，在攜程訂票，自動有歷史記錄，那么下次當你打開網(wǎng)站時，網(wǎng)站就能自動推送相關內容。人工智能可以根據(jù)人的行為進行有針對性的引導或誘導。青少年電子游戲中也潛存著一種誘導，使玩者上癮，這就是為什么網(wǎng)游、手游會如此火熱的原因。對此，您是怎么看待和理解的？

錢旭紅：對程序分析結果的運用，是有一定選擇性和一定主觀目的的。人工智能要從海量數(shù)據(jù)中提煉出其中的規(guī)律。我們知道，自然界存在各式各樣的規(guī)律，有已知的規(guī)律和未知的規(guī)律，有主流的規(guī)律和支流的規(guī)律。受人控制的人工智能會把其他較小的可能性去掉，而被忘卻了的支流，有時會成為主流，也可能與其他支流匯合成主流；或者換一種算法和演化方法，某些支流實際是被忽視的或者潛在的主流。如果人工智能在數(shù)據(jù)分析中將支流去掉，把所謂的主流保留下來，就會不停強化這一點；如果人工智能以盈利為目的，就會抓住人的特征和嗜好，以及具體的場景，以多種方式不停地強化，不停地給人以刺激，最后連你自己都認為自己就是這個主流了。然后，人的一些方面就開始退化，另一些方面就得到進化和強化，最后就成為其身體特征。

黃時進：您覺得它有意識地抓住了人？

錢旭紅：當然，人工智能有意識地進行了對數(shù)據(jù)的取舍，取舍是受人影響的。因為預先的初值或者條件是由人設定的。有人可能不贊成，認為是機器自身設定的，其實不對。機器可能被設定某些規(guī)則，但它的初值或者條件也是人設定的，后期只是自動不停地復雜化而已。所以絕對不能說是人工智能中的機器程序自己在篩選，它的源頭還是人的篩選。很顯然，人工智能是有預置值或者邊界條件的。人工智能的預置值是誰提出來的？是人。我們是人工智能的上帝，是人工智能時代的上帝。就像宗教里說上帝創(chuàng)造了人，人創(chuàng)造了人工智能。

黃時進：在《改變思維》中，您從形式和辯證的偏好出發(fā)分析了東西方思維的邏輯差異，那么您覺得人工智能是否能夠幫助人們逐步地消解這種差異？如果您認為是，那么它是通過什么路徑來消解的？

錢旭紅：我覺得這種差異通過人工智能應該是能夠消除的。為什么？很多計算都是通過形式邏輯，但大數(shù)據(jù)集成之后，則會出現(xiàn)所謂辯證邏輯。微小的變化積累到了一定程度，其性質可能發(fā)生突然的改變。這在原先的小樣本數(shù)據(jù)中并不明顯，而在大樣本數(shù)據(jù)中會非常明顯。人工智能時代涉及形式邏輯與辯證邏輯兩個方面，并且兩者會更好地融合在一起，這是人工智能的一大優(yōu)點。這兩種思維方式，我們人類本來就具有，但是與人工智能相比，人的運算速度實在太慢了，感受不會特別明顯。

黃時進：是不是存在一種通過人工智能——包括大數(shù)據(jù)——放大科學共同體的集體智慧的情形？

錢旭紅：對智慧進行延伸式放大是可能的，進而可以改變習慣性思維，改變科學家群體的思維方式。但在大多數(shù)情況下，人工智能并沒有超出人的思維方式范圍。人工智能的運算速度非常快，人達不到，在計算速度相關的判斷上，人是比不上人工智能的。但是，人工智能不可能創(chuàng)造出測不準原理、量子理論及其思維方式。

黃時進：您在《改變思維》中有個非常創(chuàng)新的觀點，就是通過論證知識的正負效應打破知識的神話。那么您覺得人工智能是否放大或縮小了知識的正負效應？或者，是放大還是縮小了知識的融合效應？

錢旭紅：大部分情況下，在人類比較熟知的領域，人工智能是會縮小知識的正負效應，因為它超越了單點的知識而看整體。我們傳統(tǒng)的知識，就是某幾個點的知識，它與整體知識相比差得很遠。我們的許多失誤就是因為誤認為知識都是很準確的，不知道知識是否有效是有前提條件的。無數(shù)的知識、不同的知識在一起會形成一個新的圖像，這方面人工智能會做得比較好。但問題在于，人工智能最初的很多東西，如條件、邊界、閾值、預置值都是人給的，有一個設定范圍。在人們熟悉的范圍里，人工智能能很清楚地把控；但對于另一些領域，人類的了解本身就很有限，人工智能也就難以發(fā)揮，這時候人工智能導致的知識正負效應更明顯。你原來還知道這僅僅是知識，現(xiàn)在人工智能判定說這就是規(guī)律，如果你輕易相信而不進行核實，就有可能被誤導。

發(fā)展人工智能要有一個先決條件，那就是要在社會倫理的引導下發(fā)展和提高。為什么要提這個條件？這是因為人工智能將會極大地改變我們的社會，超越以前所有的科學技術。過去自然科學技術和社會倫理是沒有多少關聯(lián)的。卡遜女士的《寂靜的春天》出版后，人類才有了生態(tài)環(huán)境概念。在此之前，人們都是用科學沖破倫理，不停地沖擊倫理，進而重塑倫理。但科技的發(fā)展速度越來越快，對社會的沖擊越來越大，社會和生態(tài)環(huán)境因之而改變的速度和程度也越來越讓人瞠目結舌。人們因此想到在發(fā)展科學時必須要顧及社會和自然的倫理，所以就有了動物倫理、醫(yī)學倫理等。這時候遲到的倫理還是在追趕先行的科學。然而發(fā)展到當代，情況有所改變，最新的例子就是綠色化學，這時候就是真正產(chǎn)生了一門科學與倫理融為一體的學科。人們總結了過去的經(jīng)驗，發(fā)現(xiàn)了倫理的重要性。進入人工轉基因時代，為什么有那么大的沖擊？這是因為人在轉基因出來之前沒有任何倫理學準備。根據(jù)歷史發(fā)展軌跡，我們現(xiàn)在進入了人工智能時代，難道還要重復以前的故事嗎？不能拿著倫理的安全帽跟在快速進步的科學后面追趕。人工智能的沖擊力比以前任何一種科學技術都要強，進展速度更快，影響面更大，而且直接針對人類本身。

人工智能幾乎能發(fā)展到和我們人類平起平坐的地步。全世界現(xiàn)在是70多億人口，如果造70多億個人工智能2.0的機器人，問題就大了。這個時候倫理學應該超前配置。在問題出來之前，就要提出人工智能時代的倫理規(guī)范，控制負面效應。而不能像以前化學化工材料制藥行業(yè)出現(xiàn)時，先污染，后治理。后治理的代價會很大。當時的代價還算承受得起，因為污染的是環(huán)境生態(tài)，只是間接影響人類，而人工智能不同，它會直接影響人類。

成素梅：也就是說，精神污染和環(huán)境污染還不一樣，有時候根本無法治理，無法挽回。

錢旭紅：是的，所以發(fā)展到這個階段，科學技術與哲學和倫理的界限已經(jīng)消失了。但是我們如果仍然按照以前的做法，先有科學上的發(fā)展，后有倫理跟隨，或者倫理與科學同期而動，必將貽誤戰(zhàn)機，追悔莫及。我們需要未雨綢繆，在人工智能充分發(fā)展起來之前，大力發(fā)展相關的倫理學，并適當超前。所以，如上海等科技發(fā)展比較好的富裕地區(qū)，應該首先開始研究倫理學和社會學問題，制定一整套人工智能的倫理規(guī)則，在促進科學技術發(fā)展的前提下，建立最基本的倫理規(guī)范。如果沒有人工智能的倫理規(guī)范，就可能出現(xiàn)一系列的社會問題。

原載《哲學分析》2019年第5期