1.1.3 RAG帶來的范式改變

RAG最直觀的應用便是問答場景。本小節將以問答場景為例，探討采用RAG后的范式改變。在LLM出現之前，一個智能客服系統會涉及大量的人工介入維護。例如，需要人工為客戶可能提出的每個問題撰寫答案，并且還需根據外部環境的變化調整已有的答案或新增更多的問答對。這種舊策略在算法準確性之外的局限性在于，如果預先編輯的問答對錯過了某種問答場景，那么整個系統將無法正?；貜?。此外，持續更新問答對以適應政策和環境的變化非常困難，需要人工長期進行維護。

如今，由LLM驅動的問答系統可以在無須人工維護結構化知識的情況下為用戶問題提供更個性化的答案。然而，LLM的知識主要是在預訓練階段學習的，也就是說，如果想讓LLM準確回答你的問題，需要使用自己的數據進一步微調模型，這個過程也叫繼續預訓練（continue pretraining）。而RAG則可以大大減少對模型進行新知識的訓練和輸入的需求，只需上傳最新的文件或政策，模型就可以以開放式模式檢索信息以回答問題，即使知識頻繁更新，也無須訓練更新模型的參數。

筆者目前所在企業正在使用RAG來實現許多業務場景的聊天功能。以一個行政場景為例來說明它的工作原理：員工小明準備在下周前往寧波出差，他想了解一下出差寧波的住宿標準。

為了回答這個問題，RAG系統首先從行政知識庫空間中獲取數據，了解出差住宿標準如何劃分，以及寧波所屬的城市類型。這些事實性的知識被組織到LLM的提示詞中，LLM便可以生成簡明扼要、個性化的答案。緊接著，前端頁面將回答發送給小明，并附帶其信息來源的鏈接。