- 智能計算系統:從深度學習到大模型
- 陳云霽等編著
- 1035字
- 2024-11-13 10:37:45
序言二
在20世紀,我就曾指導學生開展神經網絡計算系統的研究。幾十年過去了,進入21世紀后,人工智能、神經網絡、計算機系統結構等方向的研究和產業已經發生了翻天覆地的變化。但是有一點沒有變化,那就是系統思維對于人工智能的重要性。
系統思維是指從整體的角度,對技術棧各個環節進行全局考慮的思維方式。人工智能的技術棧涉及不少技術環節,不僅僅包括智能算法,還包括智能編程框架、智能編程語言、智能芯片等。如果沒有系統思維,只考慮智能算法這一個環節或者把技術棧的各個環節割裂來考慮,不可能開發出準確、高效、節能的人工智能應用,也就難以使人工智能落地。
培養具有系統思維的人工智能人才必須要有好的教材。然而,在中國乃至國際上,對當代人工智能計算系統進行全局、系統介紹的教材十分稀少。因此,中國科學院計算技術研究所陳云霽研究員及其同事編寫的這本書,就顯得尤為及時和重要。
這本書采用了一種比較獨特的組織方式,以一個典型的深度學習應用(圖像風格遷移)作為驅動范例,將上層的算法、中間的編程、底層的芯片串聯起來,幫助讀者對人工智能的完整軟硬件技術棧形成系統的理解。更重要的是,這本書不是孤立地介紹技術棧的各個環節,而是強調技術棧各個環節之間的結合部,例如一個算法怎樣拆分成算子,算子在編程框架中怎樣調度,芯片體系結構又如何支持算子,并且上述知識在最后的實驗中都有所體現。因此,這種組織方式在讀者對知識體系的融會貫通和系統思維的形成上非常有幫助。
這本書兼具廣度與深度,不僅介紹智能計算系統的使用,更強調內在的原理。例如在算法部分,依次介紹了線性回歸、感知機模型、多層感知機和深度學習,一步步地把神經網絡計算背后的機理講透。在體系結構部分,本書先從算法特征分析出發,介紹深度學習處理器的基本設計思想和簡單模型,然后再講具體優化技術,最后介紹工業級深度學習處理器結構。這樣不僅僅能授人以“魚”,也能授人以“漁”。
這本書之所以能對人工智能軟硬件技術棧做出清晰的梳理,與陳云霽研究員獨特的研究背景有一定關系。他從事人工智能和計算機系統結構的交叉研究十多年,曾經研制了國際上首個深度學習處理器芯片“寒武紀1號”,在國際學術界有較大的影響。Science雜志刊文評價他為智能芯片研究的“先驅”和“領導者”。同時,陳云霽還有在多個高校講授智能計算系統課程的豐富教學經驗。這使得本書既體現了學術上的前沿性,又充分考慮了高校實際教學的需求。從某種意義上說,這也是對中國科學院幾十年來“科教融合”理念的傳承。
陳國良 中國科學院院士
2019年12月