1.3.5　知識、記憶、理解、表達、推理、反思、泛化和自我提升

大模型驅動的這一輪人工智能（包括Agent本身）熱潮當然也會慢慢消退。然而，熱潮消退的同時也代表著相關技術的日益成熟與快速發展。

目前，我們對基于大模型的Agent的發展和信心源自下面這些關鍵認知。

首先，大模型在預訓練階段獲取了廣泛的世界知識（見圖1.11）。由于這一過程通過涵蓋眾多主題和語言的數據集進行，因此大模型能夠對世界的復雜性建立一定的表征和映射關系。大模型內嵌對從歷史模式到當前事件的洞見，變得擅長解讀微妙的話語并對話題做出有意義的貢獻，即使這些話題超出了它們最初的訓練范圍。這樣廣泛的預訓練意味著，當Agent遇到新的場景或需要特定領域的信息時，它可以依賴廣闊的知識基礎來有效地導航和響應。這種知識基礎并非靜態不變；持續學習讓這些知識得以充實和更新，從而保持大模型的相關性和洞察力。

圖1.11　大模型不僅可以通過訓練獲取世界知識，而且可以注入外部知識

這些預訓練時獲得的知識都屬于大模型這個Agent的大腦的記憶的一部分。大模型通過調整“神經元”的權重來理解和生成人類語言，這可以被視為其“記憶”的形成。Agent會結合記憶的知識和上下文來執行任務。此外，還可以通過檢索增強生成（Retrieval-Augmented Generation，RAG）和外部記憶系統（如Memory Bank）整合來形成外部記憶——這是我們后面還要詳細講的重要內容。

其次，大模型極大地豐富了Agent的理解和表達能力。在此之前，雖然AI能在特定領域展現出驚人的能力，但在理解自然語言和復雜概念上總顯得笨拙。大模型的出現，讓AI能夠理解和生成自然語言，使AI能夠更深入地理解人類的溝通方式和知識體系。這些大模型被訓練來理解廣泛的主題和上下文，以便能夠在各種情況下做出反應，并提供相應的信息和解決方案。這不僅僅是形式上的進步，更是質的飛躍。AI現在能夠理解語境、把握語義，甚至在一定程度上理解復雜的人類情感和幽默，這使得Agent能夠更加自然和高效地與人類交流。

再次，大模型的推理能力提高了Agent的自主性和適應性。傳統的AI系統往往需要明確的指令和固定的規則，但現在的Agent，借助大模型，能夠自主學習和適應。它們能學習海量的文本，理解世界的復雜性，并據此做出更加合理的決策。這種自主學習和適應的能力，讓Agent看起來更像是一個能夠獨立思考和行動的實體，而不僅僅是一臺執行預設任務的機器。這對于Agent來說意義重大，因為它們需要更好地理解自身所處的環境，并在此基礎上做出合理的決策。例如，一個集成大模型的自動駕駛Agent不僅能夠根據路況做出反應，而且能夠理解突發事件的嚴重性，并據此制定策略。同樣，一個集成大模型的虛擬助理不僅能夠回答問題，而且能夠理解用戶的需求和情緒，提供更加個性化和有效的建議。

我讓Agent基于ReAct框架為一張鮮花海報自動配上一個標題（見圖1.12）。此時Agent會自主思考，并不斷反思推演，確定是否完成所給的任務。

圖1.12　一張鮮花海報

圖1.13展示了Agent的自主思考過程。

圖1.13　Agent的自主思考過程

此外，如同我們人類一樣，學得多了，一通百通。隨著大模型的參數越來越多，訓練的語料越來越多，習得的知識也越來越廣泛，此時大模型能力出現泛化現象。例如，在訓練過程中大模型接觸的英文資料較多，而某些小語種的資料較少，但是，由于各種語言都是相通的，基于廣泛的理解能力，大模型在各種語言環境，即使是小語種環境中，都能夠表現出色。這說明大模型可以將某些英文資料中的語言規律泛化到其他語言中。

咖哥發言

 泛化是機器學習的一個重要概念，它指的是模型對未見過的數據做出準確預測或合理反應的能力。大模型中的泛化能力主要體現在以下幾個方面。

■ 廣泛的語言理解能力：由于大模型在訓練過程中接觸到各種各樣的文本，它們能夠理解和生成多種類型的語言，包括不同風格、話題和領域的文本。這種廣泛的理解能力使得大模型在多樣化的應用場景中都表現出色。

■ 強大的推理和解決問題的能力：大模型不僅能夠理解文本，而且能夠進行一定程度的邏輯推理。它們能夠根據給定的信息做出推斷、解答問題，甚至處理復雜的邏輯任務。這種能力在處理與訓練數據不完全相同的新問題時尤為重要。

■ 適應新任務和新領域的能力：大模型能夠快速適應新任務和新領域。即使是在訓練過程中未曾接觸過的任務類型，通過少量的微調，甚至不需要微調，大模型也能夠表現出良好的性能。

■ 處理未知數據的能力：大模型能夠對未見過的數據做出合理的反應。這包括理解新出現的詞語、術語或概念，以及適應語言的自然演變。

■ 跨語言和跨文化的能力：隨著訓練數據的多樣化，大模型在處理不同語言和文化背景的文本時的表現也更加出色。這使得大模型能夠在全球化的應用環境中發揮重要作用。

然而，盡管大模型的泛化能力非常強大，但它們仍然存在局限性。例如，大模型可能在特定領域或特定類型的任務上表現不佳，或者在處理邏輯復雜、需要深層次理解的問題時出現偏差。此外，由于大模型的訓練數據可能包含偏見，這種偏見也可能在大模型的泛化過程中被放大。隨著技術的不斷進步和研究的逐漸深入，我們可以期待大模型在泛化能力上有更大的提升。

這種泛化帶給大模型更通用的能力，而通用性也為Agent提供了前所未有的創造力和靈活性。傳統AI系統的行為通常比較機械，預測性強，但現在基于大模型和多模態模型的Agent通過理解和使用語言進行推理，能夠針對同一主題生成新的內容（如圖1.14所示，針對同一張海報，Agent運行的輪次不同，思考結果也不同，進而生成新的內容），提出新的創意，甚至在某些領域展現相當高的藝術天賦。這種創造力和靈活性以及完成各種任務的通用性能力極大地增強了Agent在各個領域的應用潛力。

最后，基于大模型的自我學習能力，Agent可以不斷學習新的知識和經驗，優化決策過程。這種自主學習能力是實現高度自主和適應性強的Agent的關鍵。

圖1.14　Agent運行的輪次不同，思考結果也不同