1.4.3 端側應用

超過千億參數的大模型層出不窮，從手機廠商到科技公司，各家都在不斷強化自己的AI能力，大模型因其強大的能力和出色的表現而受到廣泛關注。

需要注意的是，大模型正在向端側轉移，AI推理將在手機、PC、耳機、音響、XR設備、汽車，以及一系列可穿戴式新型終端上運行。端側輕量化的“小模型”越來越受到關注，“小模型”不僅可以減少計算資源的消耗，還可以加快響應速度，因而在實時應用場景中的應用更為廣泛，在資源受限的環境中表現出色。相比大模型，端側“小模型”具有一些獨特優勢，如本地數據處理效率更高、節省云端服務帶寬和算力成本，帶來更好的用戶數據隱私保護、更新的交互方式和體驗等。

作為新技術應用的風向標，手機和汽車行業優先落地端側大模型技術。

其中，手機端側大模型應用包括手機AI助手和App內AI助手。手機AI助手在操作系統層面提供服務，能跨越多個應用程序并提供全面支持。用戶可以通過語音、文本或其他輸入方式與全局AI助手交互，以執行各種任務，如搜索信息、管理日程、發送消息、控制智能家居設備等，甚至可以調用各類手機App的接口。App內AI助手支持大模型在單個應用內為用戶提供支持，增強現有App的語音交互和智能化能力。比如辦公軟件或社交軟件內部的AI助手，每個助手通常針對其所在應用的特定功能和用例進行優化。

汽車行業大模型落地的應用包括智能座艙和自動駕駛等。智能座艙為用戶提供更為貼心的交互體驗。用戶可以直接與座艙數字人對話，實現用車指導、導航、娛樂、服務信息查詢、聊天陪伴等全面貼心的服務。目前自動駕駛汽車以“重感知+輕地圖”的方案為主，因此需要車輛自主完成行駛任務并做出智能的決策，該方案已在多個城市進行測試。