01
從起源到遭遇寒冬，心智是人工智能一直無法攻克的堡壘

達(dá)特茅斯的兩個(gè)月和十個(gè)人

創(chuàng)造一臺(tái)和人類一樣聰明，甚至比人類更聰明的智能機(jī)器的夢(mèng)想，已有幾個(gè)世紀(jì)的歷史，而隨著數(shù)字計(jì)算機(jī)的崛起，這一夢(mèng)想已成為現(xiàn)代科學(xué)的一部分。第一臺(tái)可編程計(jì)算機(jī)的構(gòu)建想法，實(shí)際上來自數(shù)學(xué)家將人類思想，特別是邏輯，當(dāng)作“符號(hào)操縱”的機(jī)械過程的嘗試。數(shù)字計(jì)算機(jī)本質(zhì)上是符號(hào)操縱器，操縱符號(hào)“0”和“1”的各種組合。艾倫·圖靈和約翰·馮·諾伊曼等計(jì)算機(jī)領(lǐng)域的先驅(qū)認(rèn)為，人腦與計(jì)算機(jī)之間存在著極強(qiáng)的相似性，因而可以將人腦類比為計(jì)算機(jī)，并且在他們看來，人類智能顯然能夠被復(fù)制到計(jì)算機(jī)程序中。

人工智能領(lǐng)域的大多數(shù)從業(yè)者認(rèn)為，該領(lǐng)域的正式確立可以追溯到1956年由一位名叫約翰·麥卡錫的年輕數(shù)學(xué)家在達(dá)特茅斯學(xué)院舉辦的一場(chǎng)小型研討會(huì)。

1955年，28歲的麥卡錫進(jìn)入了達(dá)特茅斯學(xué)院的數(shù)學(xué)系。在讀本科時(shí)，他就學(xué)過一點(diǎn)兒心理學(xué)和“自動(dòng)機(jī)理論”（后來演變?yōu)橛?jì)算機(jī)科學(xué)）這一新興領(lǐng)域的知識(shí)，并對(duì)創(chuàng)造一臺(tái)能夠思考的機(jī)器產(chǎn)生了興趣。在普林斯頓大學(xué)數(shù)學(xué)系的研究生學(xué)院，他遇到了和自己一樣對(duì)智能計(jì)算機(jī)的潛力十分著迷的學(xué)長(zhǎng)馬文·明斯基（Marvin Minsky）⁽¹²⁾。畢業(yè)后，麥卡錫在貝爾實(shí)驗(yàn)室和IBM曾經(jīng)短暫任職，其間，他分別與信息論的發(fā)明者克勞德·香農(nóng)（Claude Shannon）以及電氣工程先驅(qū)內(nèi)森尼爾·羅切斯特（Nathaniel Rochester）合作過。在達(dá)特茅斯時(shí)，麥卡錫曾說服明斯基、香農(nóng)和羅切斯特幫助他組織一個(gè)人工智能研究項(xiàng)目，這個(gè)項(xiàng)目計(jì)劃在1956年夏天開展，為期兩個(gè)月，共10個(gè)人參與¹。“人工智能”一詞就是麥卡錫發(fā)明的，他希望將這一領(lǐng)域與一項(xiàng)名為“控制論”²的研究區(qū)分開來。麥卡錫后來承認(rèn)：“當(dāng)時(shí)沒有人真正喜歡這個(gè)名字——畢竟，我們的目標(biāo)是‘真正的’智能，而非‘人工的’智能，但是我必須得給它起個(gè)名字，所以我稱它為‘人工智能’。”³

他們4位組織者向洛克菲勒基金會(huì)遞交了一份提案，請(qǐng)求其為這一夏季研討會(huì)提供資助。他們寫道，這一提案是基于“學(xué)習(xí)的每個(gè)方面，或者說智能的任何特征，從原則上來說都可以被精確地描述，因此，可以制造一臺(tái)機(jī)器來進(jìn)行模擬”⁴。該提案列出了一系列需要討論的主題，如自然語言處理（natural-language processing, NLP）、神經(jīng)網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)、抽象概念和推理、創(chuàng)造力等，這些主題至今仍定義著人工智能這一領(lǐng)域。

在1956年，即便是最先進(jìn)的計(jì)算機(jī)，其速度也達(dá)不到現(xiàn)代智能手機(jī)的百萬分之一，但麥卡錫和他的同事依舊非常樂觀地認(rèn)為人工智能是觸手可及的：“我們認(rèn)為，只要精心挑選一組科學(xué)家共同針對(duì)這其中的一個(gè)或多個(gè)課題研究一整個(gè)夏天，就能夠取得重大的進(jìn)展。”⁵

然而很快就出現(xiàn)了問題，一個(gè)對(duì)今天任何一位科學(xué)研討會(huì)的組織者來說都很熟悉的問題——洛克菲勒基金會(huì)只批準(zhǔn)了他們所需資助金的一半，而且事實(shí)證明，說服參與者來參加會(huì)議并留下來做研究，要比麥卡錫想象的困難得多，更別提在任何問題上達(dá)成共識(shí)了。會(huì)上出現(xiàn)了很多有趣的討論，但并沒有達(dá)成什么一致意見，這類會(huì)議常常就是這樣：每個(gè)人都有不同的想法和強(qiáng)烈的自我意識(shí)，并對(duì)自己的計(jì)劃充滿熱情⁶。盡管如此，達(dá)特茅斯的這次夏季人工智能研討會(huì)還是獲得了一些非常重要的成果：該領(lǐng)域得到了命名；其總體目標(biāo)也基本明確了；即將成為該領(lǐng)域“四大開拓者”的麥卡錫、明斯基、艾倫·紐厄爾（Allen Newell）和西蒙得以會(huì)面，并對(duì)未來做出了一些規(guī)劃，而且不知出于什么原因，這4個(gè)人開完會(huì)后都對(duì)該領(lǐng)域持極大的樂觀態(tài)度。20世紀(jì)60年代初，麥卡錫創(chuàng)立了斯坦福人工智能項(xiàng)目（Stanford Artificial Intelligence Project），其目標(biāo)是：“在10年內(nèi)打造一臺(tái)完全智能的機(jī)器。”⁷大概在同一時(shí)間，后來的諾貝爾獎(jiǎng)得主西蒙預(yù)測(cè)：“用不了20年，機(jī)器就能夠完成人類所能做的任何工作。”⁸不久之后，麻省理工學(xué)院人工智能實(shí)驗(yàn)室（MIT AI Lab）的創(chuàng)始人明斯基就預(yù)言：“在一代人之內(nèi)，關(guān)于創(chuàng)造‘人工智能’的問題將得到實(shí)質(zhì)性的解決。”⁹

定義，然后必須繼續(xù)下去

這些預(yù)期事件至今一件都沒有發(fā)生。那么，我們距離構(gòu)建一臺(tái)“完全智能的機(jī)器”的目標(biāo)還有多遠(yuǎn)？構(gòu)建這樣的機(jī)器會(huì)需要我們對(duì)人腦的所有復(fù)雜性進(jìn)行逆向工程嗎？或者，是否存在一條捷徑、一套智能但未知的算法，可以產(chǎn)生我們所認(rèn)為的完全智能？完全智能究竟意味著什么？

“定義你的術(shù)語……否則我們將永遠(yuǎn)無法相互理解。”¹⁰這一來自18世紀(jì)的哲學(xué)家伏爾泰的忠告，對(duì)于任何談?wù)撊斯ぶ悄艿娜藖碚f都是一個(gè)挑戰(zhàn)，因?yàn)槿斯ぶ悄艿暮诵母拍睢爸悄堋保╥ntelligence）仍然沒有明晰的定義。針對(duì)類似“智能”及其引申詞，如“思想”（thinking）、“認(rèn)知”（cognition）、“意識(shí)”（consciousness）、“情感”（emotion）這樣的詞語，明斯基創(chuàng)造了“手提箱式詞匯”（suitcase word）¹¹這一術(shù)語，其意思是：每個(gè)詞語就像是打包封裝了不同含義的手提箱。人工智能就經(jīng)過了“打包”，在不同的上下文中承擔(dān)不同的含義。

大多數(shù)人會(huì)認(rèn)同人類是智能的，而塵埃顆粒不是。同樣的道理，我們普遍認(rèn)為人類比蟲子更加智能。對(duì)于人類智能，智商（IQ）是在單一尺度上衡量的，但我們也會(huì)探討智能的不同維度，如情感、語言、空間、邏輯、藝術(shù)、社交等。因此，智能的定義可能是二元的（一個(gè)物體是或不是智能的）、在一個(gè)連續(xù)統(tǒng)⁽¹³⁾上的（一個(gè)物體比另一個(gè)物體更智能），或者是多維的（一個(gè)人可以具有高語言智能和低情感智能）。確實(shí)，“智能”這個(gè)詞語是一個(gè)滿載的手提箱，而拉鏈就在隨時(shí)可能撐破的邊緣上。

然而，人工智能領(lǐng)域在很大程度上忽略了這些各式各樣的區(qū)別，它聚焦于兩方面的工作：一方面是科學(xué)性工作；另一方面是實(shí)踐性工作。在科學(xué)性工作中，人工智能研究者通過將“自然的”即生物學(xué)上的智能機(jī)制嵌入計(jì)算機(jī)的方式來研究它；而在實(shí)踐性工作中，人工智能研究者單純地希望創(chuàng)造出像人類一樣，甚至可以比人類更好地執(zhí)行任務(wù)的計(jì)算機(jī)程序，并不擔(dān)心這些程序是否真的在以人類的思維方式進(jìn)行思考。當(dāng)被問及他們的研究動(dòng)機(jī)來自哪一方面時(shí)，人工智能領(lǐng)域的很多從業(yè)者會(huì)開玩笑地說，這取決于他們目前的資助是來自哪一方。

2016年，一份關(guān)于人工智能領(lǐng)域現(xiàn)狀的報(bào)告稱，由著名研究人員組成的某委員會(huì)將該領(lǐng)域定義為“一個(gè)通過合成智能來研究智能屬性的計(jì)算機(jī)科學(xué)分支”¹²。是的，這有點(diǎn)兒拗口，但該委員會(huì)也承認(rèn)很難對(duì)該領(lǐng)域進(jìn)行定義，而這可能是一件好事：“缺乏一個(gè)精確的、得到普遍接受的人工智能的定義，可能有助于該領(lǐng)域更快地成長(zhǎng)、繁榮和進(jìn)步。”¹³此外，該委員會(huì)還指出：“由于以上各種不確定，人工智能領(lǐng)域的實(shí)踐者、研究者以及開發(fā)者都在一個(gè)大致的方向感和勢(shì)在必行的信念的引導(dǎo)下繼續(xù)前進(jìn)。”

任何方法都有可能讓我們?nèi)〉眠M(jìn)展

1956年，在達(dá)特茅斯的研討會(huì)上，不同領(lǐng)域的參會(huì)者對(duì)采用何種方法來研究人工智能產(chǎn)生了分歧。數(shù)學(xué)家提倡將數(shù)學(xué)邏輯和演繹推理作為理性思維的語言；另一些人則支持歸納法，這是一種運(yùn)用程序從數(shù)據(jù)中提取統(tǒng)計(jì)特征，并使用概率來處理不確定性的方法；其他人則堅(jiān)信應(yīng)該從生物學(xué)和心理學(xué)中汲取靈感來創(chuàng)造類似大腦的程序。令人驚訝的是，這些不同研究方法的支持者之間的爭(zhēng)論一直持續(xù)到了今天，每一種方法都形成了自己的一套原則和相關(guān)技術(shù)，它們又通過在各自領(lǐng)域的專業(yè)會(huì)議和期刊上傳播得以鞏固，但這些有待深入研究的領(lǐng)域之間卻幾乎沒有交流。2014年，有一篇人工智能調(diào)研文章對(duì)此總結(jié)道：“因?yàn)槲覀儾⑽瓷钊肓私庵悄埽膊恢廊绾蝿?chuàng)造通用人工智能，因此，想要真正取得進(jìn)展，我們應(yīng)當(dāng)擁抱人工智能‘方法論的無政府狀態(tài)’，而不應(yīng)切斷任何一種探索途徑。”¹⁴

2010年以后，有一類人工智能研究方法已經(jīng)超越這種“無政府狀態(tài)”成了主流的人工智能研究范式，那就是深度學(xué)習(xí)，其工具就是深度神經(jīng)網(wǎng)絡(luò)（deep neural network，DNN）。事實(shí)上，在大眾媒體上，“人工智能”這一術(shù)語基本上已經(jīng)等同于深度學(xué)習(xí)了，然而，這是一種令人感到遺憾的、不準(zhǔn)確的描述，我需要澄清這兩者之間的區(qū)別。人工智能是一個(gè)包括廣泛研究方法的領(lǐng)域，其目標(biāo)是創(chuàng)造具有智能的機(jī)器，而深度學(xué)習(xí)只是實(shí)現(xiàn)這一目標(biāo)的一種方法。深度學(xué)習(xí)本身是機(jī)器學(xué)習(xí)領(lǐng)域眾多研究方法中的一種，后者又是人工智能的一個(gè)子領(lǐng)域，著重關(guān)注機(jī)器從數(shù)據(jù)或自身的“經(jīng)驗(yàn)”中進(jìn)行學(xué)習(xí)。為更好地理解這些不同領(lǐng)域的區(qū)別，了解早期人工智能研究領(lǐng)域出現(xiàn)的一個(gè)哲學(xué)分歧是很重要的，那就是所謂的符號(hào)人工智能和亞符號(hào)人工智能之間的分歧。

符號(hào)人工智能，力圖用數(shù)學(xué)邏輯解決通用問題

我們先來看一下符號(hào)人工智能。一個(gè)符號(hào)人工智能程序里的知識(shí)包括對(duì)人類來說通常可以理解的單詞或短語（即“符號(hào)”），以及可供程序?qū)@些符號(hào)進(jìn)行組合和處理以執(zhí)行指定任務(wù)的規(guī)則。

舉個(gè)例子，一個(gè)早期的人工智能程序被創(chuàng)建者自信地命名為“通用問題求解器”¹⁵，其英文簡(jiǎn)稱為“GPS”。這個(gè)首字母縮寫的確讓人感到困惑，但通用問題求解器的出現(xiàn)早于全球定位系統(tǒng)（global positioning system, GPS）。通用問題求解器可以解答諸如“傳教士和食人者”之類的智力游戲題，但這些題目你可能在孩童時(shí)期就已經(jīng)知道如何解決了。在這個(gè)眾所周知的難題中，3個(gè)傳教士和3個(gè)食人者都需要過河，但一艘小船上只能載2人。如果河岸一邊饑餓的食人者的數(shù)量超過了“美味的”傳教士的話……好吧，你知道會(huì)發(fā)生什么。那么，他們?nèi)绾纬晒Φ囟蛇^這條河？

通用問題求解器的創(chuàng)建者，認(rèn)知科學(xué)家西蒙和紐厄爾，記錄了幾個(gè)學(xué)生在解決這個(gè)問題以及其他邏輯難題時(shí)“自言自語”的過程。西蒙和紐厄爾隨后設(shè)計(jì)了他們認(rèn)為能夠模仿學(xué)生的思考過程的程序。

這里我就不詳細(xì)介紹通用問題求解器的工作原理了，但是從其程序指令的編碼方式中可以看出它的符號(hào)性質(zhì)。為了解決這個(gè)問題，人類會(huì)為通用問題求解器編寫類似以下內(nèi)容的代碼：

         CURRENT STATE:
         LEFT-BANK = [3 MISSIONARIES, 3 CANNIBALS, 1 BOAT]
         RIGHT-BANK = [EMPTY]
         DESIRED STATE:
         LEFT-BANK = [EMPTY]
         RIGHT-BANK = [3 MISSIONARIES, 3 CANNIBALS, 1 BOAT]

上面這組代碼描述了這樣一個(gè)事實(shí)：最初，河的左岸（LEFT-BANK）包含了3名傳教士（3 MISSIONARIES）、3名食人者（3 CANNIBALS）和1艘船（1 BOAT），而右岸不包含以上這些元素。理想狀態(tài)表示程序的目標(biāo)：讓他們?nèi)慷嫉胶拥挠野丁?/p>

通用問題求解器每運(yùn)行一步，都會(huì)試圖改變當(dāng)前狀態(tài)，以使其更接近理想狀態(tài)。通用問題求解器的代碼中，有能夠把當(dāng)前狀態(tài)轉(zhuǎn)變到一個(gè)新狀態(tài)的“運(yùn)算符”（operators，以子程序的形式存在），還有能夠編碼任務(wù)約束的規(guī)則。例如，有一個(gè)運(yùn)算符是把一定數(shù)量的傳教士和食人者從河岸的一邊移動(dòng)到另一邊：

     MOVE（# MISSIONARIES, # CANNIBALS, FROM-SIDE, TO-SIDE）

括號(hào)內(nèi)的單詞稱為參數(shù)，當(dāng)程序運(yùn)行時(shí)，它用數(shù)字或其他單詞替換這些單詞。也就是說，程序用要移動(dòng)的傳教士的數(shù)量來替換“MISSIONARIES”，用要移動(dòng)的食人者的數(shù)量來替換“CANNIBALS”，用“LEFT-BANK”和“RIGHT-BANK”替換“FROM-SIDE”和“TO-SIDE”，這取決于傳教士和食人者將被轉(zhuǎn)移到河岸的哪一邊，而船隨著傳教士和食人者一起移動(dòng)這一信息，是被編碼在程序之中的。

在調(diào)用運(yùn)算符和使用特定值替換這些參數(shù)之前，程序必須檢查其編碼規(guī)則。例如，一次最多可以移動(dòng)2人，并且如果該運(yùn)算符會(huì)導(dǎo)致在同一河岸的食人者數(shù)量超過傳教士的數(shù)量，則它不能被調(diào)用。

這個(gè)案例中的符號(hào)表示的都是人類可理解的概念，如傳教士、食人者、船只、河岸等，但運(yùn)行該程序的計(jì)算機(jī)并不知道這些符號(hào)的含義。你可以用“Z372B”或任何其他無意義的字符串替換所有的“MISSIONARIES”，程序也會(huì)以完全相同的方式工作，這就是通用問題求解器中“通用”一詞的部分含義。對(duì)于計(jì)算機(jī)，符號(hào)的意義來自它們之間組合、相互關(guān)聯(lián)和相互作用的方式。

符號(hào)人工智能的支持者認(rèn)為，想要在計(jì)算機(jī)上獲得智能，并不需要構(gòu)建模仿大腦運(yùn)行的程序。相反，其觀點(diǎn)是，通用智能完全可以通過正確的符號(hào)處理程序來獲得。我同意這種看法，構(gòu)建這樣一個(gè)程序要比構(gòu)建傳教士和食人者這個(gè)例子中所使用的程序復(fù)雜得多，但它仍然會(huì)由符號(hào)、符號(hào)組合、符號(hào)規(guī)則和運(yùn)算組成。

由通用問題求解器所闡釋的這類符號(hào)人工智能，在人工智能領(lǐng)域發(fā)展的最初30年里占據(jù)了主導(dǎo)地位，其中以專家系統(tǒng)最為著名。在專家系統(tǒng)中，人類專家為計(jì)算機(jī)程序設(shè)計(jì)用于醫(yī)療診斷和法律決策等任務(wù)的規(guī)則。人工智能領(lǐng)域有幾個(gè)活躍的分支到現(xiàn)在仍在采用符號(hào)人工智能，我將在后面的章節(jié)中講述其中的一些例子，特別是在探討推理和“擁有常識(shí)”的人工智能方法的相關(guān)章節(jié)。

感知機(jī)，依托DNN的亞符號(hào)人工智能

符號(hào)人工智能最初是受到數(shù)學(xué)邏輯以及人們描述自身意識(shí)思考過程的方式的啟發(fā)。相比之下，亞符號(hào)人工智能方法則從神經(jīng)科學(xué)中汲取靈感，并試圖捕捉隱藏在所謂的“快速感知”背后的一些無意識(shí)的思考過程，如識(shí)別人臉或識(shí)別語音等。亞符號(hào)人工智能程序不包含我們?cè)谇拔牡膫鹘淌亢褪橙苏叩睦又锌吹降哪欠N人類可理解的語言。與之相反，一個(gè)亞符號(hào)人工智能程序本質(zhì)上是一堆等式——通常是一大堆難以理解的數(shù)字運(yùn)算。我稍后將做簡(jiǎn)要解釋：此類系統(tǒng)被設(shè)計(jì)為從數(shù)據(jù)中學(xué)習(xí)如何執(zhí)行任務(wù)。

亞符號(hào)、受大腦啟發(fā)的人工智能程序的一個(gè)早期例子是感知機(jī)，它由心理學(xué)家弗蘭克·羅森布拉特于20世紀(jì)50年代末提出¹⁶。“感知機(jī)”這個(gè)詞對(duì)于我們現(xiàn)代人來說，聽起來可能有點(diǎn)兒像20世紀(jì)50年代科幻小說中的詞（正如我們所看到的，隨后很快就出現(xiàn)了“認(rèn)知機(jī)”和“神經(jīng)認(rèn)知機(jī)”）。感知機(jī)是人工智能的一個(gè)重要里程碑，同時(shí)也催生了現(xiàn)代人工智能最成功的工具——DNN。

羅森布拉特發(fā)明感知機(jī)是受到人腦中神經(jīng)元處理信息的方式的啟發(fā)。一個(gè)神經(jīng)元就是大腦中的一個(gè)細(xì)胞，它能夠接收與之相連的其他神經(jīng)元的電或化學(xué)輸入信號(hào)。簡(jiǎn)單地說，一個(gè)神經(jīng)元把它從其他神經(jīng)元接收到的所有輸入信號(hào)加起來，如果達(dá)到某個(gè)特定的閾值水平，它就會(huì)被激活。重要的是，一個(gè)給定的神經(jīng)元與其他神經(jīng)元的不同連接（突觸）有不同的強(qiáng)度，當(dāng)計(jì)算信號(hào)輸入總和的時(shí)候，給定的神經(jīng)元會(huì)給弱連接分配較少的權(quán)重，而將更多的權(quán)重分配給強(qiáng)連接的輸入。神經(jīng)科學(xué)家認(rèn)為，弄明白神經(jīng)元之間的連接強(qiáng)度是如何調(diào)整的，是了解大腦如何學(xué)習(xí)的關(guān)鍵。

對(duì)于計(jì)算機(jī)科學(xué)家或者心理學(xué)家來說，信息在神經(jīng)元中的處理過程可以通過一個(gè)有多個(gè)輸入和一個(gè)輸出的計(jì)算機(jī)程序（感知機(jī)）進(jìn)行模擬。神經(jīng)元和感知機(jī)之間的類比如圖1-1所示。圖1-1（A）展示了一個(gè)神經(jīng)元及其樹突（為細(xì)胞帶來輸入信號(hào)的結(jié)構(gòu)）、胞體和軸突（即輸出通道）；圖1-1（B）展示了一個(gè)簡(jiǎn)單的感知機(jī)結(jié)構(gòu)。與神經(jīng)元類似，感知機(jī)將其接收到的輸入信號(hào)相加，如果得到的和等于或大于感知機(jī)的閾值，則感知機(jī)輸出1（被激活），否則感知機(jī)輸出0（未被激活）。為了模擬神經(jīng)元的不同連接強(qiáng)度，羅森布拉特建議給感知機(jī)的每個(gè)輸入分配一個(gè)權(quán)重，在求和時(shí)，每個(gè)輸入在加進(jìn)總和之前都要先乘以其權(quán)重。感知機(jī)的閾值是由程序員設(shè)置的一個(gè)數(shù)字，它也可以由感知機(jī)通過自身學(xué)習(xí)得到，這一點(diǎn)我們接下來會(huì)講到。

簡(jiǎn)而言之，感知機(jī)是一個(gè)根據(jù)加權(quán)輸入的總和是否滿足閾值來做出是或否（輸出1或0）的決策的簡(jiǎn)易程序。在生活中，你可能會(huì)以下面這樣的方式做出一些決定。例如，你會(huì)從一些朋友那里了解到他們有多喜歡某一部電影，但你相信其中幾個(gè)朋友對(duì)于電影的品位比其他人更高，因此，你會(huì)給他們更高的權(quán)重。如果朋友喜愛程度的總量足夠大的話（即大于某個(gè)無意識(shí)的閾值），你就會(huì)決定去看這部電影。如果感知機(jī)有朋友的話，那么它就會(huì)以這種方式來決定是否看一部電影。

受大腦神經(jīng)元網(wǎng)絡(luò)的啟發(fā)，羅森布拉特提出可以應(yīng)用感知機(jī)網(wǎng)絡(luò)來執(zhí)行視覺任務(wù)，例如人臉和物體識(shí)別。為了了解感知機(jī)網(wǎng)絡(luò)是如何開展工作的，我們接下來將探索一個(gè)感知機(jī)如何執(zhí)行特定的視覺任務(wù)，比如，識(shí)別圖1-2所示的手寫數(shù)字。

我們將感知機(jī)設(shè)計(jì)為“8”探測(cè)器，也就是說，如果其輸入是一幅數(shù)字8的圖像，則輸出1；如果輸入圖像的內(nèi)容是其他數(shù)字，則輸出0。設(shè)計(jì)這樣一個(gè)探測(cè)器需要我們先弄清楚如何將圖像轉(zhuǎn)換為一組數(shù)值輸入，再確定感知機(jī)的權(quán)重分配和閾值，以使感知機(jī)能夠產(chǎn)生正確的輸出（8為1，其他數(shù)字為0）。由于后續(xù)章節(jié)關(guān)于神經(jīng)網(wǎng)絡(luò)及其在計(jì)算機(jī)視覺中的應(yīng)用的討論中會(huì)出現(xiàn)許多與之相同的想法，因此我將在這里進(jìn)行一些詳細(xì)的介紹。

感知學(xué)習(xí)算法，無法重現(xiàn)人腦的涌現(xiàn)機(jī)制

圖1-3（A）展示了一個(gè)放大的手寫數(shù)字8。圖中每個(gè)網(wǎng)格方塊（像素）都有一個(gè)可以用數(shù)字表示的強(qiáng)度值——像素強(qiáng)度（pixel intensity）⁽¹⁴⁾。在黑白圖像中，純白色方塊的像素強(qiáng)度為255；純黑色方塊的像素強(qiáng)度為0；而灰色方塊的像素強(qiáng)度介于其間。另外，假設(shè)我們給感知機(jī)輸入的圖像已經(jīng)被調(diào)整為與這個(gè)18×18像素的圖像一樣大小。

圖1-3（B）展示了一個(gè)用于識(shí)別“8”的感知機(jī)。該感知機(jī)具有324（18×18）個(gè)輸入，每個(gè)輸入對(duì)應(yīng)于網(wǎng)格中的一個(gè)像素。給定如圖1-3（A）所示的一個(gè)圖像，則感知機(jī)的每個(gè)輸入都被設(shè)置為對(duì)應(yīng)像素的像素強(qiáng)度，同時(shí)，每個(gè)輸入都有自己的權(quán)重。

學(xué)習(xí)感知機(jī)的權(quán)重和閾值

與我之前描述的符號(hào)化的通用問題求解器不同的是：感知機(jī)中沒有任何對(duì)其需要執(zhí)行的任務(wù)進(jìn)行描述的明確規(guī)則，感知機(jī)中的所有“知識(shí)”都被編碼在由數(shù)字組成的權(quán)重和閾值中。羅森布拉特在他的多篇論文中，都展示了在給定正確的權(quán)重和閾值的情況下，圖1-3（B）中的感知機(jī)可以很好地完成感知任務(wù)，例如，識(shí)別簡(jiǎn)單的手寫數(shù)字。但是，我們?nèi)绾螢橐粋€(gè)給定的任務(wù)準(zhǔn)確地設(shè)定正確的權(quán)重和閾值呢？羅森布拉特再次給出了一個(gè)受大腦啟發(fā)的答案：感知機(jī)應(yīng)該通過自己的學(xué)習(xí)獲得這些數(shù)值。

那么，它應(yīng)該如何學(xué)習(xí)獲得正確的數(shù)值呢？與當(dāng)時(shí)流行的行為心理學(xué)理論一樣，羅森布拉特的觀點(diǎn)是：感知機(jī)應(yīng)該通過條件計(jì)算（conditioning）來學(xué)習(xí)。這是受到了行為主義心理學(xué)家伯勒斯·斯金納（Burrhus F. Skinner）的啟發(fā)，斯金納通過給老鼠和鴿子以正向和負(fù)向的強(qiáng)化來訓(xùn)練它們執(zhí)行任務(wù)，羅森布拉特認(rèn)為感知機(jī)也應(yīng)該在樣本上進(jìn)行類似的訓(xùn)練：在觸發(fā)正確的行為時(shí)獎(jiǎng)勵(lì)，而在犯錯(cuò)時(shí)懲罰。如今，這種形式的條件計(jì)算在人工智能領(lǐng)域被稱為監(jiān)督學(xué)習(xí)（supervised learning）。在訓(xùn)練時(shí)，給定學(xué)習(xí)系統(tǒng)一個(gè)樣本，它就產(chǎn)生一個(gè)輸出，然后在這時(shí)給它一個(gè)“監(jiān)督信號(hào)”，提示它此輸出與正確的輸出有多大偏離，然后，系統(tǒng)會(huì)根據(jù)這個(gè)信號(hào)來調(diào)整它的權(quán)重和閾值。

監(jiān)督學(xué)習(xí)的概念是現(xiàn)代人工智能的一個(gè)關(guān)鍵部分，因此值得更詳細(xì)的討論。監(jiān)督學(xué)習(xí)通常需要大量的正樣本（例如，由不同的人書寫的數(shù)字8的集合）和負(fù)樣本（例如，其他手寫的、不包括8的數(shù)字集合）。每個(gè)樣本都由人來標(biāo)記其類別——此處為“8”和“非8”兩個(gè)類別，這些標(biāo)記將被用作監(jiān)督信號(hào)。用于訓(xùn)練系統(tǒng)的正負(fù)樣本，被稱為“訓(xùn)練集”（training set），剩余的樣本集合，也就是“測(cè)試集”（test set），用于評(píng)估系統(tǒng)在接受訓(xùn)練后的表現(xiàn)性能，以觀察系統(tǒng)在一般情況下，而不僅僅是在訓(xùn)練樣本上回答的正確率。

也許，計(jì)算機(jī)科學(xué)中最重要的一個(gè)術(shù)語就是算法了，它指的是計(jì)算機(jī)為解決特定問題而采取的步驟的“配方”。羅森布拉特對(duì)人工智能的首要貢獻(xiàn)是他對(duì)一個(gè)特定算法的設(shè)計(jì)，即感知機(jī)學(xué)習(xí)算法（perceptron-learning algorithm），感知機(jī)可以通過這一算法從樣本中得到訓(xùn)練，來確定能夠產(chǎn)生正確答案的權(quán)重和閾值。下面，我們來介紹它的工作原理。最初，感知機(jī)的權(quán)重和閾值被設(shè)置為介于-1和1之間的隨機(jī)數(shù)。在我們的案例中，第一個(gè)輸入的權(quán)重可被設(shè)置為0.2，第二個(gè)輸入的權(quán)重被設(shè)置為-0.6，而閾值則被設(shè)置為0.7。一個(gè)名為隨機(jī)數(shù)生成器（random-number generator）的計(jì)算機(jī)程序可以輕松生成這些初始值。

接下來就可以開始訓(xùn)練了。首先，將第一個(gè)訓(xùn)練樣本輸入感知機(jī)，此時(shí)，感知機(jī)還不知道正確的分類標(biāo)記。感知機(jī)將每個(gè)輸入乘以它的權(quán)重，并對(duì)所有結(jié)果求和，再將求得的和與閾值進(jìn)行比較，然后輸出1或0，其中，輸出1代表它的輸入為8，輸出0代表它的輸入不是8。接下來，將感知機(jī)的輸出和人類標(biāo)記的正確答案（“8”或者“非8”）做比較。如果感知機(jī)給出的答案是正確的，則權(quán)重和閾值不會(huì)發(fā)生變化，但是如果感知機(jī)是錯(cuò)誤的，其權(quán)重和閾值就會(huì)發(fā)生變化，以使感知機(jī)在這個(gè)訓(xùn)練樣本上給出的答案更接近于正確答案。此外，每個(gè)權(quán)重的變化量取決于與其相關(guān)的輸入值，也就是說，對(duì)錯(cuò)誤的“罪責(zé)”的分配取決于哪個(gè)輸入的影響更大或更小。例如，在圖1-3（A）的“8”中，強(qiáng)度較低的像素（這里為黑色）影響較大，而強(qiáng)度為255的像素（這里為純白色）則不會(huì)有任何影響（對(duì)此感興趣的讀者，可以查閱我在注釋中介紹的一些數(shù)學(xué)細(xì)節(jié)¹⁷）。

下一個(gè)訓(xùn)練將重復(fù)上述整個(gè)過程。感知機(jī)會(huì)將這個(gè)訓(xùn)練過程在所有的訓(xùn)練樣本上運(yùn)行很多遍，每一次出錯(cuò)時(shí)，感知機(jī)都會(huì)對(duì)權(quán)重和閾值稍做修改。正如斯金納在訓(xùn)練鴿子時(shí)發(fā)現(xiàn)的：通過大量試驗(yàn)循序漸進(jìn)地學(xué)習(xí)，其效果更好，如果在一次試驗(yàn)中，權(quán)重和閾值的改動(dòng)過大，系統(tǒng)就可能以學(xué)到錯(cuò)誤的東西告終。例如，過度關(guān)注于8的上半部分和下半部分的大小總是完全相等的。在每個(gè)訓(xùn)練樣本上進(jìn)行多次重復(fù)訓(xùn)練之后，（我們希望）系統(tǒng)最終將獲得一組能夠在所有訓(xùn)練樣本上都能得出正確答案的權(quán)重和閾值。此時(shí)，我們可以用測(cè)試樣本對(duì)感知機(jī)進(jìn)行評(píng)估，以觀察它在未曾訓(xùn)練過的圖像上的表現(xiàn)。

如果你只關(guān)心數(shù)字8，那么這個(gè)“8”探測(cè)器就很有用，但若要識(shí)別其他數(shù)字呢？其實(shí)很簡(jiǎn)單，我們只需將感知機(jī)擴(kuò)展到10個(gè)輸出，每個(gè)輸出對(duì)應(yīng)一個(gè)數(shù)字就可以了。給定一個(gè)手寫數(shù)字樣本，與該數(shù)字對(duì)應(yīng)的輸出應(yīng)該是1，而其他所有輸出都應(yīng)該是0。這個(gè)擴(kuò)展的感知機(jī)可以使用感知機(jī)學(xué)習(xí)算法來獲得其所有的權(quán)重和閾值，只需為它提供足夠多的訓(xùn)練樣本即可。

羅森布拉特等人證明了感知機(jī)網(wǎng)絡(luò)能夠通過學(xué)習(xí)執(zhí)行相對(duì)簡(jiǎn)單的感知任務(wù)，而且羅森布拉特在數(shù)學(xué)上證明了：對(duì)于一個(gè)特定（即便非常有限）的任務(wù)類別，原則上只要感知機(jī)經(jīng)過充分的訓(xùn)練，就能學(xué)會(huì)準(zhǔn)確無誤地執(zhí)行這些任務(wù)。至于感知機(jī)在更一般的人工智能相關(guān)任務(wù)中會(huì)如何表現(xiàn)，我們尚不清楚。然而，這種不確定性似乎并沒有阻止羅森布拉特和他在海軍研究實(shí)驗(yàn)室的資助者對(duì)他們的算法做出荒唐的樂觀預(yù)測(cè)。《紐約時(shí)報(bào)》對(duì)羅森布拉特于1958年7月組織的一次新聞發(fā)布會(huì)的報(bào)道，做出了如下說明：

今天，美國(guó)海軍公布了一款預(yù)計(jì)能走路、說話、看東西、寫字、自我復(fù)制，并能夠意識(shí)到自我存在的電子計(jì)算機(jī)的雛形。據(jù)估計(jì)，感知機(jī)不久后就將能夠識(shí)人，并叫出他們的名字，還能將一種語言的語音即時(shí)翻譯成另外一種語言的語音和文字¹⁸。

是的，即便是剛出現(xiàn)的時(shí)候，人工智能就已在面臨炒作的問題。稍后我將多討論一些由這種炒作造成的不好的結(jié)果。現(xiàn)在，我想用感知機(jī)來強(qiáng)調(diào)人工智能的符號(hào)方法和亞符號(hào)方法之間的主要區(qū)別。

感知機(jī)的“知識(shí)”由它所學(xué)到的權(quán)重和閾值這對(duì)數(shù)值組成，這一事實(shí)，意味著我們很難發(fā)現(xiàn)感知機(jī)在執(zhí)行識(shí)別任務(wù)時(shí)使用的規(guī)則。感知機(jī)的規(guī)則不是符號(hào)化的，不像通用問題求解器的符號(hào)，如“LEFT-BANK”“MISSIONARIES”“MOVE”等。感知機(jī)的權(quán)重和閾值不代表特定的概念，這些數(shù)字也很難被轉(zhuǎn)換成人類可以理解的規(guī)則。這一情況在當(dāng)下具有上百萬個(gè)權(quán)重的神經(jīng)網(wǎng)絡(luò)中變得更加復(fù)雜。

有人可能會(huì)將感知機(jī)和人腦做一個(gè)粗略的類比。如果我能打開你的大腦，并對(duì)其中上千億個(gè)神經(jīng)元中的一部分進(jìn)行觀察，我可能并不能清楚你的想法或者你做某個(gè)特定決定時(shí)所用的規(guī)則。然而，人類的大腦已經(jīng)產(chǎn)生了語言，它允許你使用符號(hào)（單詞和短語）來向我傳達(dá)你的想法，或者你做某件事的目的。從這個(gè)意義上說，我們的神經(jīng)刺激可以被認(rèn)為是亞符號(hào)化的，而以它們?yōu)榛A(chǔ)的我們的大腦不知何故卻創(chuàng)造了符號(hào)。類比于大腦中的亞符號(hào)化的神經(jīng)網(wǎng)絡(luò)，感知機(jī)以及更復(fù)雜的模擬神經(jīng)元網(wǎng)絡(luò)，也被稱作“亞符號(hào)”派。這一派的支持者認(rèn)為：若要實(shí)現(xiàn)人工智能，類似語言的符號(hào)和控制符號(hào)處理的規(guī)則，不能像在通用問題求解器中那樣直接進(jìn)行編程，而必須以類似于智能符號(hào)處理從大腦中涌現(xiàn)的方式，從類似于神經(jīng)元的結(jié)構(gòu)中涌現(xiàn)出來。

感知機(jī)是一條死胡同

在1956年的達(dá)特茅斯會(huì)議之后，符號(hào)人工智能陣營(yíng)占據(jù)了人工智能的主導(dǎo)地位。20世紀(jì)60年代初，當(dāng)羅森布拉特正積極投身于感知機(jī)的研究工作時(shí)，人工智能的四大創(chuàng)始人，也是符號(hào)人工智能陣營(yíng)的偉大信徒，都各自創(chuàng)建了頗具影響力且資金充足的人工智能實(shí)驗(yàn)室：明斯基在麻省理工學(xué)院；麥卡錫在斯坦福大學(xué)；西蒙與紐厄爾在卡內(nèi)基梅隆大學(xué)。值得注意的是，這三所大學(xué)至今仍然位于研究人工智能最負(fù)盛名的機(jī)構(gòu)之列。明斯基認(rèn)為，羅森布拉特以大腦為靈感的亞符號(hào)人工智能研究方法就是一條死胡同，而且正從更有價(jià)值的符號(hào)人工智能的研究中“竊取”研究資金¹⁹。1969年，明斯基和他在麻省理工學(xué)院的同事西摩·佩珀特（Seymour Papert）出版了一本名叫《感知機(jī)》（Perceptrons）²⁰的書，書中給出了一個(gè)數(shù)學(xué)證明，表明感知機(jī)能夠完美解決的問題類型非常有限，因?yàn)楦兄獧C(jī)學(xué)習(xí)算法隨著任務(wù)規(guī)模的擴(kuò)大需要大量的權(quán)重和閾值，所以表現(xiàn)不佳。

明斯基和佩珀特指出，如果一個(gè)感知機(jī)通過添加一個(gè)額外的模擬神經(jīng)元“層”來增強(qiáng)能力，那么原則上，感知機(jī)能夠解決的問題類型就廣泛得多²¹，帶有這樣一個(gè)附加層的感知機(jī)叫作多層神經(jīng)網(wǎng)絡(luò)。多層神經(jīng)網(wǎng)絡(luò)構(gòu)成了許多現(xiàn)代人工智能技術(shù)的基礎(chǔ)，下一章我將對(duì)其展開詳細(xì)論述。在這里我要指出的是：在明斯基和佩珀特的書出版后，多層神經(jīng)網(wǎng)絡(luò)并沒有得到廣泛的研究，很大程度上是由于缺乏類似于感知機(jī)學(xué)習(xí)算法那樣的對(duì)權(quán)重和閾值進(jìn)行學(xué)習(xí)的通用算法。

明斯基和佩珀特對(duì)簡(jiǎn)單感知機(jī)的局限性的證明已廣為該領(lǐng)域的人們所熟知²²。羅森布拉特本人對(duì)多層感知機(jī)做了大量的研究工作，并意識(shí)到了訓(xùn)練多層感知機(jī)的困難²³。研究者放棄對(duì)感知機(jī)的進(jìn)一步研究，其主要原因并不是明斯基和佩珀特的數(shù)學(xué)證明，而是他們對(duì)多層神經(jīng)網(wǎng)絡(luò)的推測(cè)。

感知機(jī)有很多引人關(guān)注的特性：它的線性特征、有趣的學(xué)習(xí)定理，以及它作為一種并行計(jì)算而具有的明顯的范式簡(jiǎn)潔性，但沒有理由認(rèn)為其中任何一個(gè)優(yōu)點(diǎn)可以延展到多層神經(jīng)網(wǎng)絡(luò)。無論如何，我們的直覺判斷是：這些延展是“不育的”²⁴，而如何闡明或駁斥我們的這一判斷是一個(gè)重要的研究課題。

用現(xiàn)在的行話來說，最后一句可被稱為“被動(dòng)攻擊”。這樣消極的推測(cè)至少是造成20世紀(jì)60年代末神經(jīng)網(wǎng)絡(luò)研究經(jīng)費(fèi)枯竭的部分原因，而與此同時(shí)，符號(hào)人工智能則在揮霍著政府的資助。1971年，年僅43歲的羅森布拉特喪生于一次劃船事故。沒有了最杰出的倡導(dǎo)者，并且沒有太多政府資金來支持，研究者對(duì)感知機(jī)和其他亞符號(hào)人工智能研究方法的相關(guān)探索基本上停止了，只有少數(shù)幾個(gè)孤立的學(xué)術(shù)團(tuán)體還在苦苦掙扎。

泡沫破碎，進(jìn)入人工智能的寒冬

與此同時(shí)，符號(hào)人工智能的倡導(dǎo)者正在撰寫撥款提案，并承諾將在語音和語言理解、常識(shí)推理、機(jī)器人導(dǎo)航，以及自動(dòng)駕駛汽車等領(lǐng)域取得突破。到了20世紀(jì)70年代中期，雖然有幾個(gè)聚焦面狹窄的專家系統(tǒng)得到了成功部署，但之前承諾過的更通用的人工智能突破并未實(shí)現(xiàn)。

資助機(jī)構(gòu)也注意到了這一點(diǎn)。兩份分別由英國(guó)科學(xué)研究理事會(huì)和美國(guó)國(guó)防部征集的報(bào)告，對(duì)人工智能研究的進(jìn)展和前景的評(píng)價(jià)均非常消極。英國(guó)的報(bào)告特別指出：“面向高度專業(yè)化的問題領(lǐng)域的專家系統(tǒng)，只有當(dāng)其編程非常充分地借鑒了人類經(jīng)驗(yàn)和人類智能在相關(guān)領(lǐng)域的知識(shí)時(shí)，才有前景，但得出的結(jié)論是，迄今為止的結(jié)果，對(duì)通用問題求解器試圖在更廣泛的領(lǐng)域內(nèi)模仿人類（大腦）活動(dòng)來解決問題而言，徹底令人沮喪。這樣一個(gè)通用目標(biāo)程序，似乎仍然和以往一樣，離人工智能領(lǐng)域夢(mèng)寐以求的長(zhǎng)期目標(biāo)相當(dāng)遙遠(yuǎn)。”²⁵這份報(bào)告導(dǎo)致了英國(guó)政府對(duì)人工智能研究的資助驟減，同樣，美國(guó)國(guó)防部也大幅削減了對(duì)美國(guó)基礎(chǔ)人工智能研究的資助。

這是人工智能領(lǐng)域的泡沫不斷產(chǎn)生又破滅這種循環(huán)的一個(gè)早期例子。這一循環(huán)是這樣運(yùn)轉(zhuǎn)的：

·　第一階段，新想法在研究領(lǐng)域得到了大量的支持。相關(guān)研究人員承諾人工智能即將取得突破性的成果，并被新聞媒體各種炒作。政府資助部門和風(fēng)險(xiǎn)投資者向?qū)W術(shù)研究界和商業(yè)初創(chuàng)公司注入大量資金。

·　第二階段，曾經(jīng)承諾的人工智能突破沒有如期實(shí)現(xiàn)，或者遠(yuǎn)沒有當(dāng)初承諾的那么令人滿意。政府資助和風(fēng)險(xiǎn)資本枯竭，初創(chuàng)公司倒閉，人工智能研究放緩。

研究人工智能的群體已經(jīng)熟悉了這一模式：先是“人工智能的春天”，緊接著是過度的承諾和媒體炒作，接下來便是“人工智能的寒冬”。從某種程度上來說，這一現(xiàn)象以5～10年為周期在不斷上演。當(dāng)我在1990年研究生畢業(yè)時(shí)，這一領(lǐng)域正處在一個(gè)寒冬，并且形成了一個(gè)非常惡劣的氛圍，以至于有人甚至建議我在求職申請(qǐng)中避免使用“人工智能”這個(gè)詞。

看似容易的事情其實(shí)很難

人工智能的寒冬給該領(lǐng)域的從業(yè)者帶來了許多重要的經(jīng)驗(yàn)和教訓(xùn)。達(dá)特茅斯學(xué)院研討會(huì)舉辦50年后，麥卡錫總結(jié)出了最簡(jiǎn)單的一個(gè)教訓(xùn)：“人工智能比我們認(rèn)為的要難。”²⁶明斯基指出，事實(shí)上，對(duì)人工智能的研究揭示了一個(gè)悖論：“看似容易的事情其實(shí)都很難。”人工智能計(jì)算機(jī)的最初目標(biāo)是：計(jì)算機(jī)能夠以自然語言與我們進(jìn)行交談，描述它們通過攝像頭“眼睛”看到的事物，在看到幾個(gè)例子之后就可以學(xué)會(huì)新的概念。這些小孩子做起來都很容易的事情，對(duì)人工智能來說卻是比診斷復(fù)雜疾病、在國(guó)際象棋和圍棋中擊敗人類冠軍，以及解決復(fù)雜代數(shù)問題等更加難以實(shí)現(xiàn)的事情。正如明斯基所言：“總的來說，我們完全不清楚我們的心智最擅長(zhǎng)什么。”²⁷創(chuàng)造人工智能的嘗試，最起碼幫助闡明了我們?nèi)祟惖男闹鞘嵌嗝磸?fù)雜和微妙。

本章要點(diǎn)