11
THE SINGULARITY—AN URBAN LEGEND?
奇點(diǎn)—一個都市傳奇？

奇點(diǎn)，即人工智能超越人類并接管世界命運(yùn)的瞬間，是一個值得我們深思的模因。它有點(diǎn)兒都市傳奇的意味，一方面有科學(xué)的合理性（“從原理上看，似乎是有可能的”）；另一方面，它聽起來又像個冷笑話（“我們竟然會被機(jī)器人統(tǒng)治”）。但類似的事情也確實存在，比如，你如果同時打噴嚏、打嗝和放屁的話，你會沒命的！在經(jīng)過了幾十年對人工智能的炒作之后，你也許會認(rèn)為奇點(diǎn)只是惡搞，只是個笑話而已。但是，它正一點(diǎn)點(diǎn)地自證其名。而且，像埃隆·馬斯克、斯蒂芬·霍金、大衛(wèi)·查默斯這些杰出天才都在警告奇點(diǎn)的危險性，我們又怎能不重視？不管這驚人的一刻發(fā)生在10年、100年還是1000年以后，我們難道不應(yīng)該提前做好準(zhǔn)備，做好必要的預(yù)防措施，并留意預(yù)言的災(zāi)難后果嗎？

我認(rèn)為情況正相反，以上危險警告分散了我們的注意力，讓我們忽視了一個更加緊迫的問題。這是一場即將發(fā)生的災(zāi)難，無須摩爾定律的幫助，也無須理論進(jìn)一步突破到接近引爆點(diǎn)的程度：經(jīng)過數(shù)個世紀(jì)對大自然的來之不易的理解，我們有史以來首次能夠在多方面掌控自身的命運(yùn)，但是現(xiàn)在，我們卻要把這種掌控權(quán)讓位于不會思考的人工智能體，貿(mào)然地把我們的文明切換到自動航行模式。這個過程是陰險狡詐的，因為每一步都讓我們先感受到明顯的好處，以至于我們無法拒絕。

◎現(xiàn)在的計算機(jī)已經(jīng)非常強(qiáng)大可靠了，今天你如果還用筆和紙去做大量的算術(shù)計算的話，那就顯得太愚蠢了，因為用計算器要快得多，而且?guī)缀跏峭耆_的（不要忘了舍入誤差）。

◎既然列車時刻表已經(jīng)可以立即出現(xiàn)在智能手機(jī)上，我們又何必再去記它們呢？

◎不要再看地圖了，導(dǎo)航到你的全球定位系統(tǒng)（GPS）吧，它雖然沒有意識，也不能進(jìn)行有意義的思考，它卻能比你更好地跟蹤你的位置或引導(dǎo)你到想去的地方。

更進(jìn)一步看，現(xiàn)在的醫(yī)生也在逐步依賴比人類診斷更加可靠的診斷系統(tǒng)。當(dāng)遇到生死攸關(guān)的治療時，你希望醫(yī)生否決掉機(jī)器的診斷結(jié)果嗎？IBM的超級計算機(jī)沃森是這方面應(yīng)用最具說服力的例子，至于沃森是不是一個合格的思考者，那是另外一個問題。如果沃森能夠利用已有數(shù)據(jù)，作出比人類專家更精確的診斷，那么我們就會更信任、依賴它的結(jié)果，而那些藐視它的醫(yī)生則有可能惹上醫(yī)療官司。對于這種增強(qiáng)版的智能假體而言，沒有哪個人類領(lǐng)域是它們所不能涉足的。而無論在哪個領(lǐng)域，一旦它證明了自己，人類就會一如既往地接受它、相信它。手工制作也可以逐漸占據(jù)手工陶器和手工針織毛衣等利基市場。

在人工智能發(fā)展的早期，人們努力嘗試著對人工智能和認(rèn)知模仿（cognitive simulation）作出嚴(yán)格的區(qū)分。前者被視為工程學(xué)的分支，只是要千方百計地讓機(jī)器有效地運(yùn)轉(zhuǎn)起來，而無須模仿人類思考的過程，除非它有助于提升工程的效率。而后者則不同，認(rèn)知模仿是由計算機(jī)模型主導(dǎo)的心理學(xué)和神經(jīng)科學(xué)的范疇。一套認(rèn)知模仿模型如果能夠清晰地辨識并展示出人類的錯誤或困惑，就會被視作勝利而非失敗。雖然還有人堅持這種劃分，但是在公眾的認(rèn)知中，早已沒有這種區(qū)別。對于大眾而言，人工智能就是能通過圖靈測試的類人機(jī)器。最近在人工智能領(lǐng)域取得的突破，原因之一是，它很大程度上脫離了（我們認(rèn)為自己已經(jīng)理解的）人類的思維過程；其二是利用超級計算機(jī)強(qiáng)大的數(shù)據(jù)挖掘能力，挖掘有價值的聯(lián)系和模式，而不是試圖讓它們明白自己在做什么。具有諷刺意味的是，這種傲人的成績卻重新引發(fā)了認(rèn)知科學(xué)家的興趣。他們發(fā)現(xiàn)，在數(shù)據(jù)挖掘技術(shù)和機(jī)器學(xué)習(xí)的幫助下，我們能夠更好地了解大腦是如何完成它“創(chuàng)造未來”的出色工作的。

不過，在大眾看來，任何能夠?qū)崿F(xiàn)最新人工智能成就的黑盒子，都會被想象成跟人類一樣的智能體。而實際上，盒子里面不過是一堆橫截面奇形怪狀的二維構(gòu)造。它們會精確地使用自己的能量，不會增加如人類心智那樣的日常消耗，例如分心、焦慮、情感承諾、記憶、忠誠等。因此，它并不是什么類人機(jī)器人，不過是一個沒頭腦的奴隸、一個最新式的自動駕駛儀罷了。

把思考這種辛苦的工作移交給人工智能這種高科技，到底有何不妥呢？其實，只要能做到以下兩點(diǎn)，就不會有什么問題：一是不要自欺欺人；二是要在某種程度上保持我們自身的認(rèn)知能力不衰退。

◎設(shè)想（并牢記）這種能夠作為人類寶貴助手的實體的局限是非常困難的，而且人們總是傾向于過度賦予它們理解能力。自從20世紀(jì)60年代約瑟夫·魏澤堡（Joseph Weizenbaum）臭名昭著的“伊莉扎”計劃以來，人類就一直致力于提高計算機(jī)對自然語言的理解能力。這是有巨大風(fēng)險的，因為我們總是要求它們完成其力所不能及的事情，而且又對它們的輸出結(jié)果過度信任。

◎要繼續(xù)使用它們還是拋棄它們的問題。當(dāng)我們越來越依賴這些智能機(jī)器后，一旦它們癱瘓了，我們將面臨孤立無援的巨大風(fēng)險。就好比互聯(lián)網(wǎng)，雖然它不是一個智能體（在某些方面是），但是當(dāng)它崩潰時，幾天之內(nèi)我們就會陷入恐慌。這足以讓我們驚醒，并提前做好預(yù)防措施，因為這可能隨時會發(fā)生。

因而，真正的危險并不是智能機(jī)器會強(qiáng)大到篡奪人類的統(tǒng)治權(quán)，而是因為愚蠢的機(jī)器被人類賦予了遠(yuǎn)超出它們自身能力的權(quán)利。

注：丹尼爾·丹尼特的《直覺泵和其他思維工具》即將由湛廬文化策劃出版，敬請期待。