2.1.1 華為全棧全場景AI解決方案

華為全棧全場景AI解決方案如圖2-1所示。

“全場景”是指從部署環(huán)境上看，華為AI解決方案全面支持公有云、私有云、消費終端、邊緣計算和IoT行業(yè)終端5個應(yīng)用場景。“全棧”是指從技術(shù)功能角度支持IP/芯片、芯片使能、框架和應(yīng)用使能等全堆棧解決方案。

1．IP/芯片層

這里的IP不是指IP地址，而是IP核。IP核是指芯片中具有獨立功能的電路模塊的成熟設(shè)計。該電路模塊的成熟設(shè)計凝聚著設(shè)計者的智慧，體現(xiàn)了設(shè)計者的知識產(chǎn)權(quán)，因此，芯片行業(yè)就用IP核來表示這種電路模塊的成熟設(shè)計。

在華為AI解決方案中，“IP/芯片”層包括華為Ascend（昇騰）處理器的系列產(chǎn)品，具體如下。

① Ascend-Nano：適用于耳機電話等IoT設(shè)備使用場景的AI芯片。

② Ascend-Tiny和Ascend-Light：適用于智能手機的AI芯片。

③ Ascend-Mini：適用于筆記本電腦等算力需求更高的便攜設(shè)備的AI芯片。

④ Ascend-Max：適用于云端數(shù)據(jù)運算處理的AI芯片。

2．芯片使能層

在芯片使能層，華為針對 AI 場景推出了異構(gòu)計算架構(gòu)——CANN（神經(jīng)網(wǎng)絡(luò)計算架構(gòu)）。該架構(gòu)可以充分地發(fā)揮昇騰芯片的性能，提供芯片算子庫和高度自動化的算子開發(fā)工具。使用CANN TBE（張量加速引擎）可以實現(xiàn)算子的開發(fā)。

3．框架層

在框架層，華為全棧全場景AI解決方案支持各種主流AI框架，包括TensorFlow、PyTorch、PaddlePaddle和MindSpore等。

4．應(yīng)用使能層

應(yīng)用使能層是一個機器學(xué)習(xí)PaaS（平臺即服務(wù)），提供全流程服務(wù)、分層分級API、預(yù)集成解決方案和華為云AI平臺ModelArts。目的是滿足不同開發(fā)者的個性化需求，使AI的應(yīng)用更加容易。