第36章 學習與實踐
- 五年學修車,三年全球賣真理
- 薯條yyds
- 2167字
- 2024-03-18 12:01:00
【升級條件:1.完成三個人工智能核心的訓練:0/3】
終端的升級任務也隨著據(jù)點的升級而更新,不過新出現(xiàn)的任務卻不像以往那么容易完成了。
畢竟其需要的是訓練好的人工智能核心,并非像以往那般,只需要生產出來就好。
而且這個做出來,也不是那么好整的,劉天陽查了查所謂的計算‘速度大于300TFLOPS’是什么概念,最后結果卻讓他大吃一驚。
張量運算單元其實就是對顯卡核心內部AI計算單元的學術說法,而目前市面上能滿足這個能力的除了某皮衣黃之外,就剩下某歌了。
國產芯片雖說近來發(fā)展突飛猛進,但終究還是差了一絲,即便是最為先進的升騰910芯片,也只有280TFLOPS。
而與之相對的,皮衣黃最為先進的H100SXM的訓練端計算速度達到了驚人的1979TFLOPS,這倆根本不是一個量級的選手。
而且蛋痛的是,那個家伙被禁運了,好在系統(tǒng)的要求只用A100或者A800這種幾年前就已經出現(xiàn)的舊型號就能滿足。
‘嗨呀,幸好要求不高,而且看上市時間,都是好幾年前了,不是說電子市場摩爾定律嘛,估計還挺便宜呢?!?
劉天陽興沖沖的打開某多多想要砍一刀,卻被那五位數(shù)的數(shù)字驚掉了下巴。
‘握草,最便宜的都要7萬塊錢,這特么把人當豬宰啊。’
他不信邪的看了看某寶,發(fā)現(xiàn)更離譜,不僅沒兩家店賣,而且價格居然來到了十幾萬。
‘奶奶的,等我將來科技爬上去了,一定要造出比皮衣黃牛逼十倍的顯卡,讓這老登把褲衩都虧進去!’
一邊嘟囔著,劉天陽無奈的下單了三張顯卡,還特意囑托店家快點發(fā)貨,別整壞了。
‘這么貴的東西,肯定順豐空運,親您就放心吧。’
‘如果用的滿意,請打個好評哦,使用上的技術問題請直接聯(lián)系我們就好?!?
硬件已經下單,接下來就是軟件上的學習了。
“嗯……神經網絡構建,梯度優(yōu)化算法,正則化技術,評估指標構建,讓我看看。”
制作一個核心需要的知識很是繁雜,劉天陽對著每一個知識點都搜了一下,發(fā)現(xiàn)其全部展開來,完全就是整個深度學習的理論基礎。
而劉天陽用的所謂大模型,其實就是深度學習的一種,只不過因為其數(shù)據(jù)量大,神經網絡單元極為復雜,才被稱之為大模型。
“擦,這根本無從下手啊?!?
如此龐大的理論知識群,讓劉天陽根本找不到一個好的切入點,這些知識彼此之間相對獨立,但在應用的時候卻又攪和在一起。
僅僅是記住那些抽象的公式其實沒什么大用,因為大部分的經驗知識都是眾多專家學者通過實踐一點一滴積累的。
這些最為寶貴的東西基本上都凝練在當今最為著名的學習框架之中了,Tenserflow,Pytorch……
還有某GPT使用的Transformer框架,這些好像游戲引擎一般的東西能夠讓一個初學者實現(xiàn)以往大學教授和專家都做不到的智能體。
但這對劉天陽用處并不大,畢竟他現(xiàn)在是要從零開始搭建一個人工智能體,簡單的搬輪子可沒辦法達成系統(tǒng)的要求。
“唉,先去看網課吧,估計這個任務要卡一段時間了?!?
劉天陽放棄了走捷徑的方法,開始從最基礎的知識開始學起。
編程語言如C++、Python,數(shù)學知識如線性代數(shù)、概率論、微積分還有統(tǒng)計學基礎,這些看著就讓人頭大的東西已經是整個AI體系中最為基礎的那一部分了。
作為一個專科畢業(yè),已經近十年沒有碰過數(shù)學的純種學渣,劉天陽看了沒一會便是頭昏腦脹。
那些方框框和七扭八拐的符號在他眼里就好像會跳舞的小人一般,壓著自己可勁看了兩天,劉天陽發(fā)現(xiàn)自己居然做噩夢了!
“握草,奶奶的在夢里都不放過我?!?
剛被幾個積分符號追了半天,最后又被鏈式求導團團圍住的劉天陽躺在地上,決定不頭鐵了。
人常說,于實踐中學習才是最快的。
他決定把吳恩達網課里的那個最基礎的單層神經網絡抄一遍,以此為主干查漏補缺,而不是漫無目的的到處亂看。
如此一來,劉天陽每天白天加工模具,晚上就坐在寢室里看網課,碼代碼,過的那是一個充實。
說實話,高三都沒這么忙過。
如此搞了好幾天,在炒出初版代碼的同時,劉天陽買的顯卡也終于是到貨了。
看著這些個頭極小,卻花了幾十萬大洋的東西,劉天陽便是一陣肉痛。
“早知道晚點買了,現(xiàn)在這也用不上啊,要是放壞了怎么辦?”
知道電子產品就怕長時間不用的劉天陽決定把顯卡裝到自己機箱里,正好也訓練一下剛抄完的算法。
高達312TFLOPS的算力對于這種簡單的家伙自然是降維打擊,沒怎么花時間,訓練誤差和損失函數(shù)的值便拉平成一條直線。
劉天陽用測試數(shù)據(jù)跑了一下,檢驗了下自己算法的效果。
好消息,它有用,的確完成了分類。
壞消息,分類分反了。
劉天陽檢查了半天,也沒找到是哪個變量的值傳錯了,又或者中間變量名輸錯了。
或許把一開始的名字對調一下就能解決問題,但這不治根?。?
精神陷入疲憊的劉天陽癱倒在椅子上,眼睛無神的看著屋內,卻是掃過了那個好像電工操作臺一般的建筑。
初級制作臺
剎那間,一個奇妙的想法從他大腦里流轉而過。
‘誒,這東西,能拿來測試我的算法嗎?’
這種操作看起來有些天方夜譚,但已經了解過系統(tǒng)奇妙之處的劉天陽卻感覺其中可能會有驚喜。
他拿出一個A100就要試試,卻發(fā)現(xiàn)這個制作臺沒有接通電源。
“叮叮叮叮?!?
劉天陽懶得扯插排,直接敲了一個能量投送器出來,然后拔了終端的電源插在投送器之上。
坐在初級制作臺前,劉天陽手里拿著那塊顯卡,心中向系統(tǒng)祈禱著能夠發(fā)揮作用。
“開始制作!”
一陣恍惚,劉天陽突然發(fā)現(xiàn)自己的精神好像進入了一個奇妙的空間,一些好似積木般的東西擺在自己面前。
他用手觸摸,忽然明悟了那是什么。
這些積木,原來就是這些天自己學習到的知識,而且其可不僅僅是劉天陽理解的那部分。
只要曾經聽過的,看過的,讀過的,此時都出現(xiàn)在了他的面前。
劉天陽的神色頓時變得振奮起來,一掃之前的疲憊。
“真的可以!”