1.3 人工智能的發展

1.3.1 人工智能的孕育期

人工智能的發展可追溯至1956年之前，這一時期的重要成就包括數理邏輯、自動機理論、控制論、信息論、神經計算和電子計算機等學科的建立和發展，這些學科為人工智能的誕生奠定了理論和物質基礎。其中，以上學科對人工智能的重要貢獻如下。

（1）圖靈的自動機理論（1936年）：艾倫·圖靈（Alan Turing）提出了自動機理論，該理論構建了離散量的遞歸函數作為智能描述的數學基礎，并引入了著名的圖靈測試用以衡量機器是否具有智能，對人工智能的發展產生了深遠影響。

（2）“閾值加權和”神經網絡模型（McCulloch-Pitts，M-P）（1943年）：沃倫·麥克洛奇（Warren McCulloch）和沃爾特·皮茲（Walter Pitts）提出了M-P神經網絡模型，為神經計算的理論奠定了基礎，為后來神經網絡的發展提供了重要參考。

（3）馮·諾依曼的存儲程序概念（1945年）：約翰·馮·諾依曼（John von Neumann）提出了存儲程序概念，這是現代計算機體系結構的基礎。1946年研制成功的ENIAC（electronic numerical integrator and computer，電子數字積分計算機）是計算機科學興起的標志，為人工智能的發展提供了實質性的技術支持。

（4）香農的信息論（1948年）：克勞德·香農（Claude Shannon）的信息論奠定了信息概念的形式化基礎，為人工智能領域的信息處理理論提供了基礎。

（5）維納的控制論（1948年）：諾伯特·維納（Norbert Wiener）創立了控制論，該理論研究和模擬了生物和人工系統的自動控制，為根據動物心理和行為科學進行的計算機模擬研究提供了基礎。

1.3.2 人工智能的形成期

人工智能的孕育期處于大約1956年至1968年。這一時期被確定為人工智能的起源，主要的學術活動包括在美國達特茅斯大學召開的為期兩個月的研討會，該項會議正式提出了“人工智能”這一術語。在這段時間里，一系列重要的科學成就和突破推動了人工智能領域的發展。

這一時期的主要貢獻和成就如下。

（1）邏輯理論家程序（1956年）：艾倫·紐厄爾（Allen Newell）和赫伯特·西蒙（Herbert A.Simon）開發了邏輯理論家程序，這一程序模擬了人們使用數理邏輯證明定理時的思維過程，被視為人工智能領域的開端。

（2）跳棋程序（1956年）：阿瑟·塞繆爾（Arthur Samuel）研制了具有學習功能的跳棋程序，該程序可以從棋譜中學習并總結經驗，這標志著人工智能領域對模擬人類學習過程的成功探索。

（3）文法體系（1956年）：諾姆·喬姆斯基（Noam Chomsky）提出了文法體系，對自然語言處理和語言理解的研究產生了深遠影響。

（4）LISP語言（1958年）：約翰·麥卡錫（John McCarthy）提出了LISP語言，這一語言成為人工智能程序設計的重要工具，能夠方便地處理符號，是人工智能語言的里程碑。

（5）通用問題求解程序GPS（1960年）：艾倫·紐厄爾（Allen Newell）、克利福德·肖（Clifford Shaw）和赫伯特·西蒙（Herbert A.S imon）開發了GPS（general problem solver，通用問題求解程序），首次提出了啟發式搜索概念，對解決人工智能問題產生了重要影響。

（6）歸結法（1965年）：奈爾斯·魯賓遜（Nils Aall Barricelli Robinson）提出了歸結法，為定理證明領域提供了重要工具，推動了人工智能領域的發展。

（7）DENDRAL專家系統（1968年）：斯坦福大學的愛德華·費根鮑姆（Edward Feigenbaum）等人成功研制了化學分析專家系統DENDRAL，這標志著人工智能研究向專業領域應用的轉變，為人工智能技術的發展奠定了基礎。

這些成就反映了在人工智能形成期，研究人員在邏輯推理、學習算法、程序設計語言、問題求解等領域取得的顯著進展，這些進展為人工智能領域的發展打下了堅實的基礎。

1.3.3 基于知識的系統

1969—1981年間，基于知識的系統經歷了關鍵時期，專家系統的研發成為這一時期的亮點。這一時期的主要事件和發展如下。

（1）MYCIN專家系統（1972—1976年）：布魯斯·布坎南（Bruce Buchanan）和費根鮑姆開發的MYCIN專家系統專注于醫療領域，用于診斷和治療感染癥。DENDRAL專家系統和MYCIN專家系統是早期成功的專家系統，突顯了知識導向的人工智能在特定領域的應用潛力。

（2）其他著名的專家系統（20世紀70年代末至80年代初）：在此期間，許多其他著名的專家系統相繼研發成功，包括探礦專家系統PROSPECTOR、青光眼診斷治療專家系統CASNET、鉆井數據分析專家系統ELAS等。這些系統在不同領域展示了專業知識的應用。

（3）知識工程（1977年）：1977年，費根鮑姆提出了知識工程的概念，將知識作為研究對象，旨在解決需要專家知識解決的應用難題。這標志著人工智能研究從純學術研究轉向應用，強調了知識在系統設計中的重要性。

（4）專家系統的商品化（20世紀80年代）：20世紀80年代，專家系統的開發趨向商品化，創造了巨大的經濟效益。這一時期，專家系統從實驗室研究向商業應用轉變，許多公司開始投資和應用專家系統技術。

（5）日本第五代計算機計劃（1981年）：日本于1981年宣布了第五代計算機的研制計劃，該計劃致力于開發具有智能接口、知識庫管理和問題自動解決能力的計算機。這推動了全球范圍內對新一代智能計算機研發計劃的制定，使人工智能進入了基于知識的繁榮時期。

1.3.4 神經網絡的復興

在神經網絡發展的歷程中，1982年—20世紀90年代初被認為是神經網絡復興的時期。這一時期的主要事件和發展如下。

（1）感知機的局限性（1969年）：在20世紀60年代，感知機神經網絡曾被視為解決模式識別問題的通用工具。然而，馬文·明斯基（Marvin Minsky）和西摩·佩珀特（Seymour Papert）在1969年的著作《感知機》中利用數學理論證明了單層感知機的計算局限性，這導致神經網絡研究陷入了所謂的“黑暗時期”。

（2）霍普菲爾德的貢獻（1982年）：1982年，物理學家約翰·霍普菲爾德（John Hopfield）通過統計力學的方法對神經網絡的存儲和優化特性進行了深入分析，并提出了離散神經網絡模型。這一研究為神經網絡的復興注入了新的活力。

（3）連續神經網絡模型（1984年）：霍普菲爾德在1984年提出了連續神經網絡模型，進一步豐富了神經網絡的理論框架。

（4）反向傳播算法的重新研究（1986年）：神經網絡復興的關鍵在于對反向傳播算法的重新研究。該算法最早由保羅·魏格特（Paul Werbos）于1974年提出，到1986年，大衛·E.魯梅爾哈特（David E.Rumelhart）、詹姆斯·L.麥克萊倫德（James L.McClelland）以及羅納德·J.威廉姆斯（Ronald J.Williams）等人提出了并行分布處理（parallel distributed processing，PDP）的理論，引入多層神經網絡的誤差傳播學習法，即反向傳播算法，這引起了人們的廣泛關注。

（5）國際神經網絡學會的成立（1987年）：1987年，第一屆神經網絡國際會議在美國召開，國際神經網絡學會（international neural network society，INNS）正式成立了，標志著神經網絡的研究開始進入蓬勃發展階段。隨后，神經網絡學術研討會逐漸擴大規模，神經網絡的研究熱潮在世界各國蔓延。

這一時期的重要研究推動了神經網絡領域的發展，為現代人工智能技術如深度學習等的崛起奠定了基礎。神經網絡的復興為人工智能領域注入了新的活力，并引領了未來幾十年的研究方向。

1.3.5 機器學習大發展

在20世紀90年代中期及以后的發展中，機器學習迎來了大規模的發展，這一時期涌現出了許多重要的技術和理論，為人工智能領域的進步做出了重要貢獻。這一時期的主要事件和發展如下。

（1）支持向量機和機器學習方向（1995年）：1995年，法國科學家瓦普尼克（Vladimir Vapnik）提出了支持向量機（support vector machines，SVM）作為一種分類算法，該算法成為機器學習領域的基準模型。SVM在處理分類問題上取得了巨大成功，并成為后續研究的重要基礎。

（2）深度學習的興起（2006年）：2006年，多倫多大學教授杰弗里·辛頓（Geoffrey Hinton）等人發表了一篇名為“Reducing the Dimensionality of Data with Neural Networks”的論文，介紹了一種稱為“無監督預訓練”的方法。這一方法通過使用無標簽數據來預先訓練深度卷積神經網絡，為后續的監督學習任務提供更好的初始化。雖然這并非深度學習的創世之作，但這一方法的提出引發了學界對深度卷積神經網絡的重新關注。

（3）圖靈獎與因果推理（2011年）：2011年，圖靈獎授予了朱迪亞·珀爾（Judea Pearl）教授，他的主要研究領域包括概率圖模型和因果推理。因果推理是機器學習的基礎問題之一，對于理解數據之間的因果關系至關重要。

（4）機器學習與大數據的結合：20世紀90年代末期及21世紀初期，隨著大數據的涌現，機器學習技術得到了更廣泛的應用。大規模的數據集為機器學習算法提供了更多的訓練樣本，有助于提高模型的準確性和魯棒性。

（5）深度學習的成功與挑戰：深度學習方法在處理復雜任務方面取得了成功，例如，AlphaGo的勝利展示了深度學習在博弈領域的強大能力。然而，深度學習模型的訓練需要大量的計算資源，能耗高，這也是該技術面臨的挑戰之一。

（6）智能科學的崛起：從20世紀90年代中期，智能科學開始受到關注，它借鑒了腦神經機制和認知行為機制，通過多學科交叉和實驗研究來發展智能科學，推動了人工智能和智能技術的發展。

（7）面向人腦學習的研究：近年來，研究人員開始向人腦學習，探索人腦信息處理的方法和算法。這種受到腦神經機制啟發的研究為發展更通用和智能的機器學習模型提供了新的思路。

這一時期是機器學習領域蓬勃發展的階段，涌現出許多重要的理論和算法，為人工智能技術的發展奠定了堅實的基礎。