FOREWORD序

時至今日，AI的重要性無須多言。AI已然滲透到我們生活的方方面面，智能車、智能手機、智能家居等智能化生活場景的出現，正在逐漸改變我們的生活方式。以深度學習為代表的AI技術也得到了蓬勃發展。在計算機視覺、自然語言處理等AI算法方面，取得了重大的突破和進展，算法的精度、泛化性和可用性進一步提升；在AI系統方面，也出現了以華為公司的Ascend（騰）芯片、GPU為代表的AI硬件，以MindSpore（思）、PyTorch為代表的機器學習系統……它們使得AI訓練、推理的性能和算法開發部署效率進一步提升。

2019年，來自斯坦福大學的眾多專家學者共同發布了將“機器學習系統”作為一個獨立學科的白皮書，并討論了其主要關注的問題，包括如何設計支持全生命周期的軟件系統（編程接口、數據預處理等），如何設計機器學習硬件系統（專用異構硬件設計、分布式支持等），如何滿足功能外的需求（如安全、隱私保護、能耗等）。而這些問題和方向，都可以在本書中找到相關方向的豐富知識和實踐案例。

應用創新、硬件演進、技術進步是計算機系統研究的三大驅動力，機器學習系統也是如此。AI應用的算法模型從小模型、大模型到超大模型，AI部署的場景已經覆蓋端、邊、云全場景，AI算法模型的迭代速度越來越快，很多場景要求模型是小時級、分鐘級甚至是實時更新的。AI硬件算力正以十倍或百倍的速度演進，讓我們看到了后摩爾時代算力DSA架構（Domain Specific Architecture）的黃金十年。AI的訓練、推理、部署技術也在快速進步。從支持單機訓練推理，到集群訓練、超大規模集群訓練；從支持CPU，到支持CPU、GPU、NPU等XPU組成的多樣性算力；從只支持單一模型訓練到多模訓練，從支持深度學習到支持強化學習、聯邦學習等……上述趨勢和變化給機器學習系統帶來了新的挑戰和新的機會，也讓機器學習系統成為當前最熱門、最有影響力的學科之一。

本書凝結了麥絡老師、董豪老師、MindSpore的設計者以及來自世界各地的AI系統專家的心血，全面地介紹了機器學習系統設計者所需的全面的知識體系和實踐經驗，希望幫助更多的學生、工程師和研究人員，從機器學習系統的使用者成為機器學習系統的設計者和開發者。通過研讀本書，您將對機器學習系統全貌有更深入的了解，助力您開發下一代AI技術，也希望有越來越多的人關注和參與到機器學習系統方向的研究和研發中來。

上海交通大學特聘教授

華為基礎軟件首席科學家

（陳海波）