1.2　AI原生應用開發(fā)面臨的機遇與挑戰(zhàn)

我們在為大語言模型的巨大應用潛力興奮之余，也不得不正視一個問題：AI原生應用的開發(fā)面臨著前所未有的機遇與挑戰(zhàn)。一方面，大語言模型技術的快速發(fā)展為軟件開發(fā)帶來了革命性的變化，極大地提高了開發(fā)效率和產品創(chuàng)新能力；另一方面，這些變化也帶來了新的挑戰(zhàn)，如技術標準的缺失、模型生成效果的不確定性、安全問題的復雜性，以及測試評估的困難等。

1.2.1　開發(fā)模式的華麗變身

在AI原生應用的浪潮下，傳統(tǒng)的軟件開發(fā)模式正在經歷一場深刻的變革。這場變革不僅是技術層面的革新，更是對編碼方式、崗位角色和工作協(xié)同模式的重塑。

（1）編碼方式的革新。傳統(tǒng)的算法開發(fā)如同一段精心編排的古典舞蹈，每一步都遵循嚴格的規(guī)范。從準備訓練數(shù)據(jù)、精細編碼，到模型訓練，再到結果觀測與調優(yōu)，每個環(huán)節(jié)都如舞步般精準而不可或缺。但在大語言模型引領的AI新浪潮中，這一傳統(tǒng)模式正在經歷深刻的變革，“提示工程”時代已然揭幕。

在提示工程時代下，開發(fā)者無須耗費大量時間準備訓練數(shù)據(jù)，也不必經歷漫長的模型訓練和調試過程，他們可以在更為自由、靈活的“playground”環(huán)境中進行實時調試與迭代優(yōu)化。憑借大語言模型的即時反饋，開發(fā)者能夠迅速驗證思路，大幅減少原型制作與測試所需的時間，從而顯著縮短整個項目的開發(fā)周期。

在這場轉變中，提示不僅被視作一項技術工具，它更像是應用開發(fā)中的核心要素，與代碼并肩而行，共同描繪出未來應用的新圖景。

（2）崗位角色的演變。后端工程師和算法工程師之間的界限變得越來越模糊。曾經需要算法工程師花費大量時間和數(shù)據(jù)標注成本才能完成的NLP訓練任務，現(xiàn)在可以通過大語言模型和提示工程由后端工程師輕松完成。這種角色的融合與重塑，不僅提高了工作效率，還降低了成本，為AI原生應用的落地提供了有力支持。

（3）工作協(xié)同的新模式。在傳統(tǒng)的軟件開發(fā)流程中，從想法提出到需求分析、設計編碼、測試，再到最終部署，每一個環(huán)節(jié)都緊密相連，需要研發(fā)人員的緊密協(xié)作。然而，在以AI原生為主的新研發(fā)范式下，這一經典流程發(fā)生了變化。

借助現(xiàn)有的AI工具鏈和提示工程技術，產品經理和開發(fā)者可以更加輕松地驗證想法，甚至可以在想法提出階段就進行初步的驗證而不必等到開發(fā)完畢才能看到效果。這種創(chuàng)意驅動的研發(fā)模式，不僅顯著提升了研發(fā)效能，更賦予了整個開發(fā)流程更高的靈活性與自主性。

這一系列的變革，為AI原生應用的廣泛實施帶來了前所未有的機遇。

1.2.2　技術落地的荊棘之路

雖然制作一個令人印象深刻的演示程序（demo）并不困難，但是要讓大語言模型在實際產業(yè)中落地并發(fā)揮作用，仍面臨著諸多技術挑戰(zhàn)。

（1）提示風格大相徑庭。目前，大語言模型技術及其相關應用領域正在迅猛發(fā)展，提示已然成為AI原生應用開發(fā)中不可或缺的關鍵要素，但提示的編寫尚缺乏統(tǒng)一的規(guī)范標準。在實際應用中，一個系統(tǒng)可能需要與多個大語言模型協(xié)同工作，不同模型對提示風格的要求不盡相同，因此在不同的大語言模型中輸入相同的提示可能會產生差異較大的輸出。這不僅增強了開發(fā)協(xié)作的復雜性，也對系統(tǒng)的持續(xù)迭代和維護構成了不小的挑戰(zhàn)。

（2）生成效果難以控制。如果大語言模型的性能并不理想，那么它在理解任務的深層語義時，往往會捉襟見肘。設想一下，當你向大語言模型下達清晰明確的指令時，它可能像一個只知皮毛的“翻譯官”，僅憑自己有限的理解生成相關卻偏離實際需求的內容。這種“指令遵循問題”實際上揭示了大語言模型在深入理解語言方面的短板。

盡管大語言模型在NLP領域取得了令人矚目的成果，但是這種出色的表現(xiàn)背后卻隱藏著不確定性。在某些情況下，大語言模型的輸出可能與用戶的期望相去甚遠，甚至可能出現(xiàn)幻覺問題、違背指令或產生內容安全上的隱患。這些問題不僅降低了大語言模型的效能和可信度，還可能對用戶乃至社會產生意料之外的負面影響。因此，我們在不斷探索大語言模型的創(chuàng)新能力與表現(xiàn)力的同時，更需要直面并解決這些潛在問題，從而確保大語言模型在實際運用中既穩(wěn)定又可靠。

（3）安全問題暗流涌動。傳統(tǒng)安全問題多源于軟件代碼或參數(shù)的缺陷，而提示安全問題則是由大語言模型的生成能力和可塑性引發(fā)的。攻擊者可以通過精心設計的輸入提示來操控模型的輸出，這種攻擊方式更加隱蔽和靈活，因此也更加難以防范。隨著基于大語言模型的AI原生應用的快速發(fā)展，需要在數(shù)據(jù)泄露、注入攻擊、越權攻擊等多個方面加強安全防范。

（4）測試和評估迷霧重重。大語言模型的生成機制為其效果評估帶來了不小的挑戰(zhàn)。以往用于判別式模型的評估體系和指標可能并不適用于大語言模型。由于大語言模型的能力強且能處理各種任務，因此評估變得更加復雜。例如，判斷一篇總結是否比另一篇更好，這本身就是一個巨大的挑戰(zhàn)。如何快速、低成本且準確地評估不同提示下的模型效果，是擺在我們面前的一大難題。

除上述問題外，大語言模型的落地還面臨其他一系列問題，如模型的內容生成速率、token長度的限制、多階段提示的編排，以及大語言模型與現(xiàn)有系統(tǒng)的融合等。為了解決這些問題，軟件行業(yè)的每一位從業(yè)者都需要對自己的知識體系進行審視，并深入掌握與提示工程相關的技術。只有這樣我們才能在這個瞬息萬變的時代中穩(wěn)固地位，確保立于不敗之地。