- 企業級AI技術內幕:深度學習框架開發+機器學習案例實戰+Alluxio解密
- 王家林 段智華編著
- 508字
- 2021-03-26 23:53:47
第2章 盤古人工智能框架多層次神經網絡的實現
2017年3月21日,作者在硅谷,利用三個月的時間,于2017年6月22日實現了盤古人工智能框架,在該框架中實現了基本的ANN(Artificial Neural Network)和CNN(Convolutional Neural Network),那時還沒實現RNN(Recurrent Neural Network),但是實現了另外兩個特別重要的算法,一個是自動編碼(AutoEncoders),還有一個是非監督學習玻爾茲曼機算法(Boltzmann_Machines),二者都跟推薦系統相關。對于深度學習中的算法,神經網絡算法是必須掌握的,CNN、RNN等都是基于神經網絡算法延伸出來的,包括自動編碼算法,也是基于神經網絡的算法延伸出來的。自動編碼算法、玻爾茲曼機算法在實際中可用于推薦系統,在Facebook、谷歌、亞馬遜的各種應用場景都可以看見推薦系統的身影;深度學習在圖片識別、聲音識別中可能暫時不那么重要。從2017年6月開始,用了將近10個月的時間,作者在自己開發的人工智能框架中試驗了上述算法,這是做人工智能研究的核心能力之一。
研究TensorFlow、PyTorch的時候發現,TensorFlow、PyTorch和作者開發的人工智能框架思路是一樣的,但在實現上有所不同。作者開發的人工智能框架滿足了基本的神經網絡的需要,如果要像TensorFlow、PyTorch那么強大,需要迭代很多個版本。我們將從最基礎的一個版本,通過幾次版本的迭代,達到自研的人工智能框架內核和TensorFlow、PyTorch的內核一致的程度。