- AIDevOps:智能微服務開發、運維原理與實踐
- 吳文峻 張文博等
- 919字
- 2023-02-23 16:07:16
1.2.1 什么是智能微服務
智能微服務有兩方面的含義:智能化的微服務(AI for MicroService)和智能的微服務(AI as MicroService)。
(1)智能化的微服務
將人工智能的模型和算法引入微服務的全生命周期當中,通過智能化的方法,實現微服務系統的開發、部署、運行和維護。其目標就是通過智能化的微服務框架,實現具備自主性和自適應性的智能微服務系統,支持異構服務的智能匹配、服務演化和運行時的智能化質量保障。在服務設計開發階段,通過人機自然交互式的服務需求智能分析、服務資源的智能發現和推薦、服務組合的智能編排等,實現異構服務的功能匹配和流程按需生成。在服務運行和維護階段,通過智能化的服務部署、服務演化、服務運行的反饋調控回路,形成及時感知不同軟硬件環境和不同工作負載的態勢變化,自主實施服務適配適應性調控的能力。
(2)智能的微服務
通過微服務的架構和工具來管理智能模型,實現智能模型的微服務化部署和應用。這里涉及兩個新概念:一個是軟件2.0(Software 2.0),另一個是MLOps。軟件2.0強調以類似機器學習的方式實現軟件的自動構造。工程師通過匯聚訓練數據,將其輸入到機器學習的訓練算法,自動綜合生成關于數據概率分布的深度模型(程序)。這個擴充可以類比為源代碼的編譯過程,只是軟件制品不再是源代碼,而是重點放在數據驅動訓練生成模型。MLOps是指數據科學家和機器學習工程師將DevOps原則運用于機器學習系統。MLOps是一種機器學習工程文化和做法,旨在統一機器學習系統開發(Dev)和機器學習系統運營(Ops)。MLOps意味著將在機器學習系統構建流程的所有步驟(包括集成、測試、發布、部署和基礎架構管理)中實現自動化和監控。
本書旨在結合上述兩個方面,設計智能微服務軟件框架:首先,這個框架的核心目標就是實現智能化的微服務適配,以智能算法加強和改進微服務生命周期所涉及的各個環節,形成智能化微服務適配回路。其次,這個框架所包含的智能適配回路需要相關的機器學習模型來進行分析和決策,而這些模型不能通過簡單的離線訓練部署和應用在不同的微服務系統之中。我們需要一套模型訓練、封裝和部署的完整框架,以支持不同研發和運維環境下的模型在線調整和動態適應。因此,本書的智能微服務軟件框架將綜合考慮針對智能微服務適配回路的功能設計,以及與之配套的智能模型的微服務化管理。