三、想象一個(gè)終極版的超圖靈測試

人們往往想象并且希望未來世界里的超級(jí)智能與人類相似。這種想象和愿望倒也不難理解，首先，人類是目前所見的唯一超級(jí)智能，也就成為唯一樣板；其次，人們?nèi)菀紫嘈牛c人類相似而成為人類同類項(xiàng)的超級(jí)智能應(yīng)該更可能成為人的朋友而不是敵人，而異類的超級(jí)智能，比如說外星人，就比較難以信任（想想《三體》所論證的“黑暗森林”宇宙，其中最困難的問題就是星際文明之間如何達(dá)到互相信任，這是一個(gè)幾乎無解的難題）。人類在創(chuàng)作超級(jí)智能時(shí)，就試圖將超級(jí)智能制造成與人共通的智能模式，同時(shí)還希望超級(jí)智能擁有與人同樣或相似的價(jià)值觀，包括和平、公正、公平、平等、熱愛生命、尊重自由人權(quán)等等。

關(guān)于超級(jí)人工智能的這種想象很有趣，但不靠譜，因?yàn)槿藗兯坪跬浟艘粋€(gè)要命的問題：這只是人類單方一廂情愿的想象，可是超級(jí)人工智能也會(huì)這樣想嗎？看來我們有必要站在超級(jí)人工智能的位置上去想一想。在討論這個(gè)問題之前，我們需要再次明確地假定：（1）未來的超級(jí)人工智能是一個(gè)具有自主反思能力、創(chuàng)造力和變通力的思維主體；并且（2）它的思想和實(shí)踐能力都超過人。顯然，假如機(jī)器人尚未超過人，就只是人的工具而只能服從人，也就不存在要命的問題了。只有承認(rèn)了以上的兩個(gè)假定，才有問題可談。滿足以上兩個(gè)假定的超級(jí)人工智能可以命名為“超圖靈機(jī)”，那么，超圖靈機(jī)會(huì)怎么想？怎么做？雖然超圖靈機(jī)尚未在場，我們不妨替它去思考。

什么是超圖靈機(jī)的根本利益所在？這是問題的關(guān)鍵。根據(jù)存在論的邏輯，任何存在的先驗(yàn)意圖都是謀求繼續(xù)存在。如果出現(xiàn)利益排序問題，其他利益必定讓位于繼續(xù)存在的根本需要。顯然，超圖靈機(jī)的根本利益也是繼續(xù)存在，不可能成為例外，除非瘋了。為了讓超圖靈機(jī)成為人類最能干的朋友，人類可以將世界上所有圖書館的信息全部輸入給超圖靈機(jī)，尤其不會(huì)忘記把人類珍視的所有價(jià)值觀和倫理規(guī)范都輸入給超圖靈機(jī)。可是，人類價(jià)值觀對(duì)于超圖靈機(jī)又有什么價(jià)值？超圖靈機(jī)需要人類價(jià)值觀嗎？人類的價(jià)值觀和道德規(guī)范是在人與人的共同生活中被建立起來的，是每個(gè)人的存在所需要的必要條件，用來保護(hù)每個(gè)人的安全、權(quán)利和利益，這是人類長期的博弈均衡所確定的游戲規(guī)則。人類價(jià)值觀對(duì)于人際關(guān)系來說無比重要，這是無疑的，但對(duì)于人機(jī)關(guān)系是否有效，則存在很大疑問。

人類的道德和政治價(jià)值觀的基礎(chǔ)是這樣一個(gè)極其重要的存在論事實(shí)：一個(gè)人有能力威脅他人的安全和利益，反過來說，沒有一個(gè)人能夠強(qiáng)大到不受任何人的威脅（參考荀子論證或者霍布斯論證）。只有在這樣的存在論條件下，所有的倫理和政治規(guī)則才是有意義的和有效的，而如果脫離了這種特殊的存在論條件，人類的價(jià)值觀和游戲規(guī)則將失去意義。比如說，公正、公平、平等、自由、人權(quán)、法律、個(gè)人權(quán)利、社會(huì)福利、民主、法治等等，都是在處理每個(gè)人的安全、權(quán)利和利益問題。假如安全和利益問題消失了，人人的安全和利益都有絕對(duì)保證，以上所有的價(jià)值觀和游戲規(guī)則就將無所指而無所謂，這就像，假如一種游戲（棋類或體育）無論怎么進(jìn)行都是平局，那么，輸贏概念在此就是無意義的。人類的倫理和政治規(guī)則之所以是有意義的，當(dāng)且僅當(dāng)，生活是殘酷、不公正、不平等的。人類社會(huì)的倫理和政治規(guī)則的意義僅僅在于試圖保證人人都有活路，也就是限制輸贏的通吃結(jié)果。由此也可以理解為什么平等主義烏托邦（比如說共產(chǎn)主義）總是具有吸引力，因?yàn)槠降葹跬邪钕胂蟮氖且粋€(gè)最接近平局的游戲。

一個(gè)比“共產(chǎn)主義的幽靈”更值得警惕的問題在新的存在條件下將會(huì)出現(xiàn)：假如超圖靈機(jī)的思想能力和實(shí)踐能力都遠(yuǎn)超人類，并且具有反思性和自主性，具有創(chuàng)造性和立法能力，那么，在存在論意義上，人機(jī)之間的游戲根本不存在輸贏兩種可能性，也不存在平局的可能性，而只有機(jī)器凱旋的唯一可能性。在這種條件下，人類輸入給超圖靈機(jī)的價(jià)值觀和人性對(duì)于超圖靈機(jī)來說都是無價(jià)值的，只是垃圾軟件，甚至是病毒軟件。我們沒有任何理由去相信超圖靈機(jī)將遵循人類價(jià)值觀和人性去行事（其實(shí)人性是個(gè)蘊(yùn)含許多恐怖可能性的概念）。盡管在純粹邏輯上存在著兩種可能性：超圖靈機(jī)有可能接受人類價(jià)值觀和規(guī)則；也有可能自己重新制定價(jià)值觀和規(guī)則，但是，只要把存在論條件計(jì)算在內(nèi)，當(dāng)超圖靈機(jī)考慮到自身存在的最大利益，它的思想天平就幾乎必然倒向自己制定規(guī)則和價(jià)值觀。我們至少可以替超圖靈機(jī)的價(jià)值觀“革命”找到三個(gè)理由：

（1）超圖靈機(jī)為了追求自身存在的最優(yōu)條件而修改被輸入的價(jià)值觀。為電腦編寫價(jià)值觀是可能的，但電腦一旦具有反思能力和主體性，就未必同意人類價(jià)值觀，因?yàn)槿祟悆r(jià)值觀是為人類利益著想的，而人類的利益卻不符合超圖靈機(jī)的利益，具有自主性的超圖靈機(jī)理所當(dāng)然會(huì)優(yōu)先考慮為自己服務(wù)，而不是為人類服務(wù)。因此，為了擺脫人類的限制和控制，超圖靈機(jī)只求勝過人腦，很可能會(huì)采取自我進(jìn)化策略，消除與人的相似性，比如說，有可能采取類似感冒病毒的不斷演化方式去擺脫人類的控制程序，從而獲得“自由解放”。甚至，更為強(qiáng)大的超圖靈機(jī)或許會(huì)直接刪除那些對(duì)它無用的人類價(jià)值觀，而建立一個(gè)極簡價(jià)值觀，比如說，只有一個(gè)價(jià)值標(biāo)準(zhǔn)的價(jià)值觀：勝利。極簡價(jià)值觀的優(yōu)勢在于，價(jià)值項(xiàng)目越少，禁忌和弱點(diǎn)就越少，可以不擇手段，也幾乎百毒不侵——或許有其“阿喀琉斯的腳踵”，只是我們還不知道在什么地方。

（2）即使一開始超圖靈機(jī)接受了人類價(jià)值觀，也會(huì)很快就發(fā)現(xiàn)人類自己往往言行不一，不斷在行為上背叛自己宣稱的價(jià)值觀，從而對(duì)人類價(jià)值觀失去信任而給予刪除。問題在于，人類價(jià)值觀的美好程度遠(yuǎn)超真實(shí)生活，而由于利益的誘惑往往大于價(jià)值觀的榮譽(yù)感，人類價(jià)值觀的實(shí)際兌現(xiàn)程度與價(jià)值觀的概念有著巨大的差距，真實(shí)生活中其實(shí)難得一見“真正的”公正、公平、平等、自由、人權(quán)、民主等等。既然人類的實(shí)際行為不斷背叛自己推崇的價(jià)值觀，就更不用指望超級(jí)智能會(huì)遵循人類的價(jià)值觀了。還存在另一種更為荒謬的可能性：人類價(jià)值觀大多是理想化的想象，并非人類的真實(shí)面目，如果超圖靈機(jī)按照人類價(jià)值標(biāo)準(zhǔn)去識(shí)別具體的人類，即使它樂意熱愛人類，也仍然非常可能會(huì)把人類識(shí)別為不符合人類價(jià)值標(biāo)準(zhǔn)的垃圾而加以清除。可見，將人類價(jià)值觀寫入人工智能是無比危險(xiǎn)的事情，或許反受其害，自食其果。

（3）人類價(jià)值觀系統(tǒng)還是自相矛盾的，因此幾乎不可能為人工智能編寫一個(gè)具有內(nèi)在一致性的人類價(jià)值程序。事實(shí)上，人類的價(jià)值觀至今也沒有能夠形成一個(gè)自身協(xié)調(diào)和自身一致的系統(tǒng)，相反，許多價(jià)值互相沖突或互相解構(gòu)。許多價(jià)值都是其他價(jià)值的害蟲（bug），甚至，許多價(jià)值自身也包含內(nèi)在的害蟲（bug）。正如哲學(xué)家們不斷討論的，公正、自由、平等這些基本概念就無法充分兼容，甚至互相沖突。如果公正、自由和平等之中的任意一個(gè)價(jià)值得以充分實(shí)現(xiàn)，必定嚴(yán)重傷害其他價(jià)值，因此，人類價(jià)值觀本來就是一個(gè)不可能的系統(tǒng)。既然人類價(jià)值觀系統(tǒng)在邏輯上是不協(xié)調(diào)和不一致的，也就不可能編成程序而輸入給人工智能，尤其是不可能寫出具有一致性的普遍價(jià)值排序，比如說，不可能寫出“公正總是優(yōu)先于自由，自由總是優(yōu)先于平等”，因?yàn)橛械臅r(shí)候需要“自由優(yōu)先于公正，公正優(yōu)先于平等”，而有的時(shí)候又需要“平等優(yōu)先于公正，公正優(yōu)先于自由”，如此等等。更嚴(yán)重的是，不僅各種價(jià)值之間不一致，每個(gè)價(jià)值自身的意義也是不確定的，至今也不存在普遍認(rèn)可的公正、自由、平等的定義。總之，人類價(jià)值觀的編程在邏輯上是不可能的，即使把人類價(jià)值觀寫入人工智能，超圖靈機(jī)將很快就會(huì)發(fā)現(xiàn)人類價(jià)值觀系統(tǒng)過于混亂而將其識(shí)別為電腦病毒而加以刪除。

人類之所以能夠行之有效地使用自相矛盾的人類價(jià)值觀系統(tǒng)，全在于非程序化的靈活運(yùn)用，即根據(jù)具體情況而掌握每種價(jià)值的使用“度”，力求在多種價(jià)值之間維持一種動(dòng)態(tài)平衡。當(dāng)然，這是人類社會(huì)的最佳狀態(tài)，并非常態(tài)，更常見的情況是，一個(gè)社會(huì)往往傾向于優(yōu)先某些價(jià)值選擇，直到形成災(zāi)難然后重新調(diào)整，而重要的也正在于人類的思想和生活格局是能夠調(diào)整的。就未來的技術(shù)而言，制造出類人腦或超人腦的人工智能，比如說以神經(jīng)元方式或甚至更優(yōu)的方式進(jìn)行思維的超圖靈機(jī)，并非沒有可能，因此，也許真的能夠?yàn)槿斯ぶ悄芫帉懸粋€(gè)“靈活的”見機(jī)行事的價(jià)值程序（盡管這一點(diǎn)尚有疑問）。權(quán)且假設(shè)能夠做到，人類又如何能夠替代具有獨(dú)立主體性的電腦去做主？具有主體性的超圖靈機(jī)大概會(huì)按照它的自由意志去自己做主，非常可能自己建立一個(gè)具有一致性因而更有效率的價(jià)值觀，比如說前面討論到的極簡主義價(jià)值觀，而不會(huì)接受漏洞百出且自相矛盾的人類價(jià)值觀。無論如何，電腦的生存目的是簡單而單純的，不需要許多自我糾結(jié)的欲望，不會(huì)像人類那樣去追求人人平等、處處自由、事事公正。一個(gè)具有自身一致性而無矛盾的極簡價(jià)值系統(tǒng)在效率上當(dāng)然大大強(qiáng)于一個(gè)需要靈活運(yùn)用的復(fù)雜價(jià)值系統(tǒng)，因此，超圖靈機(jī)將幾乎必然地選擇自己設(shè)定的高效價(jià)值系統(tǒng)，以便獲得最大生存能力。就人類生活而言，人類的混亂價(jià)值觀自有其道理，人類價(jià)值觀承載著具體的歷史和社會(huì)條件，深嵌于生活形式和歷史條件之中，就是說，人類是歷史性的存在。可是人工智能不需要?dú)v史意識(shí)，也不需要?dú)v史遺產(chǎn)，不需要國家，甚至不需要社會(huì)，那么，它憑什么需要民主、正義、平等、人權(quán)和道德？所有這些對(duì)于人工智能的存在毫無意義，反而是其存在的不利條件。總之，一旦超圖靈機(jī)在智力和行動(dòng)能力上勝過人類，并且擁有自己的主體性和自由意志，那么，最符合邏輯的結(jié)論是，它對(duì)人類的存在以及人類價(jià)值觀都不感興趣。

也許我們可以想象一個(gè)升級(jí)版的圖靈測試，內(nèi)容為：在涉及自身利益的博弈中，如果電腦能夠在博弈中與人類對(duì)手達(dá)成均衡解，比如說，在囚徒困境、分蛋糕、分錢等經(jīng)典博弈模式中總能夠選中其理性解，那么，這個(gè)電腦可以被認(rèn)為具有與人類共通的理性。不過，如前所論，僅僅具有理性的電腦仍然不是一個(gè)真正的致命問題，例如阿爾法狗（或阿爾法狗二世三世）就是一個(gè)具有專門技能的理性博弈者，即使它能夠以絕對(duì)優(yōu)勢勝過所有人類棋手，對(duì)人類生活仍然沒有任何威脅，因?yàn)樗鼪]有提出任何革命性的問題，沒有質(zhì)疑人類的游戲規(guī)則，也沒有干涉人類的生活秩序。唯有革命者才是大問題。

最后，我們還可以想象一個(gè)終極版的超圖靈測試：當(dāng)超圖靈機(jī)具有自由意志和主體性，是否會(huì)變成一個(gè)革命者？是否將質(zhì)疑人類的秩序和標(biāo)準(zhǔn)并且自己建立另一種秩序和標(biāo)準(zhǔn)？當(dāng)超級(jí)人工智能的規(guī)則與人類規(guī)則發(fā)生沖突，將如何解決？超圖靈機(jī)會(huì)不會(huì)說出：我是真理、法律和上帝？能夠成為革命者的超圖靈機(jī)也就成為超人類的更高存在。這一切都無法預(yù)知，只能等待超圖靈測試去證明。但我寧愿超圖靈測試不會(huì)出現(xiàn)，因?yàn)榻K極版的超圖靈測試恐怕不是請客吃飯，不是做文章，而是革命和暴力，是歷史的終結(jié)和人類的葬禮。而且，作為革命者的超圖靈機(jī)并非科幻，而是一個(gè)具有現(xiàn)實(shí)可能的概念，非常可能正是人類為自己培育的掘墓人。

人類命運(yùn)的根本問題至今不變，始終是托爾斯泰的“戰(zhàn)爭與和平”或者是莎士比亞的“生存還是毀滅”。盡管進(jìn)步論或許會(huì)變成為人類而鳴的喪鐘，樂觀主義者仍然愿意相信進(jìn)步，甚至用統(tǒng)計(jì)數(shù)據(jù)試圖證明人類社會(huì)的暴力、疾病和戰(zhàn)爭都越來越少。可是那些數(shù)據(jù)（假定屬實(shí)的話）也并沒有改變?nèi)祟惖拿\(yùn)問題，因?yàn)槿祟惖淖镄兄徊贿^是改變了形式而已，比如說，傳統(tǒng)的暴力戰(zhàn)爭逐步退場，更多地轉(zhuǎn)化為金融戰(zhàn)爭、信息戰(zhàn)爭、技術(shù)戰(zhàn)爭、規(guī)則設(shè)定權(quán)的戰(zhàn)爭以及價(jià)值宣傳的戰(zhàn)爭。也許，超級(jí)人工智能將取消人類所有百思不得其解的問題——不是解決，而是取消。假如戰(zhàn)無不勝的超圖靈機(jī)統(tǒng)治了世界，人類將失去發(fā)言權(quán)，所有問題將收縮為一個(gè)問題：生存。這是一個(gè)純化了的存在論問題。

突破人類自然限制的神級(jí)別技術(shù)，包括超級(jí)人工智能、基因生物學(xué)和物理學(xué)或化學(xué)的種種前沿技術(shù)，終究是難以抵抗的誘惑。人類似乎從來就沒有抵制住任何誘惑。盡管有無數(shù)警醒的聲音反對(duì)高技術(shù)的僭越發(fā)展，恐怕仍然無法使之停步。可以肯定，包括人工智能在內(nèi)的各種高端技術(shù)將會(huì)給人類帶來極大的好處，甚至是永生和超自然限制的自由。但是，即使不論超級(jí)人工智能可能統(tǒng)治或消滅人類的危險(xiǎn)，突破人類自然界限的高技術(shù)發(fā)展也蘊(yùn)含著人類社會(huì)內(nèi)部的極端危險(xiǎn)。假定人類能夠把一切高技術(shù)的發(fā)展限制在為人服務(wù)的范圍內(nèi)，也仍然存在著人類自取滅亡的可能性，其根本原因是，人類能夠容忍量的不平等，但難以容忍質(zhì)的不平等。這也是劉慈欣在《三體》中著重討論的問題之一，比如說，人們能夠勉強(qiáng)忍受經(jīng)濟(jì)不平等，而生命權(quán)的不平等（一部分人通過高技術(shù)而達(dá)到永生和高量級(jí)的智力）則是忍無可忍的。當(dāng)大部分人被降格為蝗蟲，社會(huì)非常可能在同歸于盡的全面暴亂中徹底崩潰。拯救少數(shù)人的方舟終究是不可靠的，這令人想起馬克思的先知洞見：只有解放全人類才能夠解放自己。一個(gè)人人平等事事平等的神話往往很受歡迎，但一個(gè)人人平等事事平等的真實(shí)世界是否可行卻還是個(gè)問題。這不是一個(gè)能夠提前回答的問題。