1.1 人工智能技術的起落

人類的進化經歷了從猿人到原始人、智人，再到如今的現代人4個階段。而腦的發展是人類具備智力的關鍵，它具有特殊的生理構造，包括大腦、腦干、小腦等組成部分，這些組成部分緊密地分工協作，支撐著人類復雜的思想活動。腦中負責處理和傳輸信息的核心是神經元。據統計，大多數人的腦中約有超過800億個神經元。

神經元不僅是人腦運行的基石，還是人工智能誕生的基礎。1943年，心理學家沃倫·麥卡洛克（Warren McCulloch）和數學家沃爾特·皮茨（Walter Pitts）在他們的論文中首次提出了人工神經元模型，因此，該模型也被稱為“麥卡洛克-皮茨神經元”模型，它奠定了神經網絡和現代人工智能研究的基本框架。

雖然兩位科學家提出的人工神經元模型無法解決非線性問題，也不具備學習權重和閾值機制，但這一開創性的研究為后來的神經網絡研究提供了理論基礎，也為使用計算機模擬人腦神經元活動提供了研究方向，成為人工智能和機器學習領域的重要里程碑。

雖然人類大腦的進化耗費了數百萬年，但人類從認識自己的大腦到制造出像人一樣思考的機器，卻僅僅用了不到100年的時間。

圖1-1簡單展示了1960—2023年人工智能的發展脈絡，我們可以發現，人工智能的發展經歷了多次爆發（波峰）和寒冬（波谷）。每一次寒冬，都是當時的技術無法跨越創新鴻溝的結果，人工智能在寒冬時只能停留在實驗室及少量的應用場景中，而無法全域普及。不過，每一次寒冬都為后一次爆發積蓄了力量，每輪新范式的誕生都為新一輪的產業爆發提供了助力。

第一波：規則基礎的人工智能

人工智能概念的正式誕生可追溯到1956年的達特茅斯會議。在這次會議上，人工智能（Artificial Intelligence，AI）這個概念首次被提出，人們夢想通過符號系統和邏輯推理來模擬人類智能。達特茅斯會議開啟了人工智能研究的第一個黃金時期。

20世紀50年代后期的邏輯理論家程序展示了這個時期的雄心與創新。邏輯理論家程序由艾倫·內韋爾（Allen Newell）和赫伯特·西蒙（Herbert Simon）開發和設計，被專門用于證明數學定理，展示了符號處理在模擬人類思維過程中的潛力。1966年，約瑟夫·魏岺鮑姆（Joseph Weizenbaum）開發了ELIZA——一款能夠基于簡單規則與人類對話的程序，成了自然語言處理領域的先驅。這一時期人工智能研究的高峰出現主要得益于計算理論和初代計算機的興起。研究者對人類智能和計算理論的深入理解，尤其是艾倫·圖靈（Alan Turing）提出的圖靈測試，為人工智能奠定了理論基礎。各類基于規則的系統展示了人工智能在特定領域的強大能力，因此吸引了大量的研究資金和關注。

然而，20世紀70年代，人工智能研究迎來了第一次寒冬。盡管早期成績斐然，但現實中的人工智能系統在遇到復雜和動態環境時表現不佳，遠未達到早期宣傳的效果。基于規則的方法無法有效處理大量的知識并應對不確定性，巨大的計算資源需求、數據獲取的困難及系統的脆弱性都暴露了技術上的局限，大眾的投資和興趣也隨之驟減。

第二波：基于機器學習和大數據的人工智能與算力限制

經歷了短暫的寒冬，1975年開始，人工智能的發展進入了一個新的高峰期，這次的推動力主要是機器學習和大數據技術的發展。

繁盛期（20世紀70年代和80年代）

這一階段的早期，科學家們致力于將專家級的知識和技能編寫成計算機程序，以解決特定領域的問題。通過創建詳細的知識庫和規則系統，專家系統能夠在特定領域模仿人類專家的決策過程。然而，這一時期的人工智能系統也有其不足：開發和維護這些系統需要耗費大量的人力和時間，而且它們在面對快速變化的環境時表現不佳。此外，專家系統依然缺乏自我學習能力，無法適應新的知識和變化。因此，進入20世紀80年代末，人工智能再次陷入低谷。

數據驅動的人工智能

不過，隨著機器學習和大數據技術的發展、計算能力和存儲容量的提升，20世紀90年代中期開始，人工智能研究再次走向高峰，研究者們開始探索通過數據驅動的方法來發現知識和構建模型。支持向量機（Support Vector Machine, SVM）、貝葉斯網絡及神經網絡的初步應用，展現了人工智能在模式識別、數據挖掘等領域的優勢。

這一時期的高峰的出現得益于計算機硬件的快速發展和大數據的興起，尤其是圖形處理單元（Graphics Processing Unit, GPU）的引入，大大加快了復雜計算任務的處理速度。1997年，IBM的深藍系統擊敗了國際象棋世界冠軍加里·卡斯帕羅夫（Garry Kasparov），反映了人工智能在復雜決策任務中的巨大潛力，極大地提升了公眾和研究界對人工智能的信心。

盡管機器學習在這一時期取得了一定進展，但許多實際應用中的問題依然難以解決，特別是數據標記的巨大工作量和昂貴的算力資源，再次限制了這一技術的廣泛應用。此外，統計學習方法在某些任務上缺乏解釋性，難以提供透明和可信的決策依據。這一連串的技術瓶頸和現實中的挑戰導致了人工智能投資和研究熱度降溫。

第三波：生成式人工智能帶來的人工智能大爆發

深度學習技術推動

2012年開始，隨著深度神經網絡（Deep Neural Network，DNN）技術的崛起，以及大數據和高性能計算資源的普及，人工智能進入黃金發展期。

隨后，深度學習在自然語言處理、計算機視覺、語音識別和生成模型等領域取得了突破性進展。2016年，谷歌DeepMind的AlphaGo人工智能程序擊敗了圍棋世界冠軍李世石，展現了深度學習和強化學習結合的強大力量。AlphaGo的勝利證明了機器在特定任務領域超越人類的可能性，為后續基于統計方法和機器學習的人工智能系統開發提供了重要啟示。

大語言模型和轉換器架構

這一時期，大語言模型（Large Language Models, LLMs）的發展是如今人工智能實現規模化應用的關鍵推動力。

2017年，谷歌的阿什什·瓦斯瓦尼（Ashish Vaswani）等人提出了突破性的轉換器（Transformer）架構。與以往的循環神經網絡（Recurrent Neural Network，RNN）不同，轉換器架構引入了注意力機制，能夠有效處理長文本并實現高效的并行化。值得一提的是，轉換器架構的創新大部分基于深度學習的進步。深度學習的自動特征提取能力、處理大規模數據的高效性，以及強大的表示能力，都在轉換器架構中得以展現。這一架構為大語言模型的后續發展提供了新的技術路線。

在轉換器架構基礎上，2018年，谷歌的德夫林（Devlin）等人推出了基于Transformer的雙向編碼器表示（Bidirectional Encoder Representations from Transformers，BERT）模型。這一基于雙向轉換器架構的預訓練模型，通過深度學習方法對語言的深度理解，迅速成為自然語言處理領域的新標準。大語言模型發展的最大亮點是OpenAI的生成預訓練轉換器（Generative Pre-trained Transformer，GPT）系列。2018年，GPT首次亮相，采用單向轉換器架構，專注于文本生成任務。隨后，GPT-2和GPT-3相繼問世，它們分別在參數規模和內容生成能力上取得顯著提升。特別是GPT-3，憑借1750億條參數和深度學習展現出強大的多任務學習能力，掀起了生成式人工智能應用的熱潮。

多模態大模型快速發展

在探索語言生成之外，生成式人工智能還在視覺領域取得了重大發展。生成對抗網絡（Generative Adversarial Networks, GAN）的出現，為圖像生成提供了全新思路。2014年，古德費洛（Goodfellow）等人提出了生成對抗網絡這個概念，開啟了基于深度學習的生成器與判別器的對抗訓練模式，推動了高質量圖像生成技術的進步。此后，深度卷積生成對抗網絡（Deep Convolutional Generative Adversarial Networks，DCGAN）和基于風格的生成對抗網絡（Style Based Generative Adversarial Network，StyleGAN）等模型由英偉達公司的研究團隊相繼推出，通過深度學習使得圖像生成質量達到新的高度。

文生圖技術則以這些技術為基礎發展而來。2021年，OpenAI推出的DALL-E結合了轉換器等架構思路，首次實現了根據文字描述生成圖像的壯舉。DALL-E通過深度學習中的跨模態映射，學習文本與圖像之間的復雜關系，展示了生成式人工智能在創意和實際應用方面的巨大潛力。

在視頻生成領域，研究者們也在不斷拓展邊界。早期的視頻生成模型多借用了深度學習中的架構，能夠生成簡單的動態視覺內容，但在分辨率和連貫性方面存在不足。新的文生視頻（Text to Video, T2V）模型引入了深度學習中的注意力機制和時序卷積網絡，顯著提升了生成視頻的分辨率和連貫性。這些技術進步使得人工智能不僅能夠理解和生成文本，還能在動態視覺內容的創建中大顯身手。

這一輪人工智能的興起被認為是持續的技術進步和應用擴展。ChatGPT、DALL-E、文心一言、星火、Kimi等項目展示了生成式人工智能在眾多計算領域的廣泛應用，共同將人工智能推向了新的技術高峰。