- 深度學(xué)習(xí)初學(xué)者指南
- (智)巴勃羅·里瓦斯
- 512字
- 2021-12-01 13:58:38
1.3.1 神經(jīng)元模型
人類大腦神經(jīng)網(wǎng)絡(luò)中的每個(gè)神經(jīng)元都具有來自其他神經(jīng)元(突觸)的輸入連接。這些神經(jīng)元以電荷的形式接受刺激,并且每個(gè)神經(jīng)元都有一個(gè)核用于決定輸入如何刺激神經(jīng)元,從而判斷是否觸發(fā)神經(jīng)元的激活。在神經(jīng)元的末端,輸出信號(hào)通過樹突傳播到其他神經(jīng)元,從而形成神經(jīng)元網(wǎng)絡(luò)。
深度學(xué)習(xí)與人類神經(jīng)元的相似之處如圖1.3所示,其中輸入由向量x表示,神經(jīng)元的激活用函數(shù)z(·)表示,輸出為y。神經(jīng)元的參數(shù)為w和b。

圖1.3 神經(jīng)元的基本結(jié)構(gòu)
神經(jīng)元的可訓(xùn)練參數(shù)為w和b,它們是未知的。因此,可以使用一些學(xué)習(xí)策略通過訓(xùn)練數(shù)據(jù)D來確定這些參數(shù)。從圖1.3可以看出,乘
,
乘
,b乘1,將這些乘積全部加起來,可以簡化為:

激活函數(shù)用于確保輸出在期望的輸出范圍之內(nèi)。假設(shè)我們想要一個(gè)簡單的線性激活方式,那么可以讓函數(shù)不存在或者繞過函數(shù)
,如下所示:

當(dāng)我們想要解決一個(gè)回歸問題,并且輸出數(shù)據(jù)的范圍從-∞到+∞時(shí),通常會(huì)出現(xiàn)這種情況。然而,可能需要訓(xùn)練神經(jīng)元來確定向量x是否屬于兩個(gè)類(比如-1和+1)中的一個(gè),此時(shí)將更適合使用稱為符號(hào)函數(shù)的激活函數(shù):

其中函數(shù)的定義如下:

還有許多其他類型的激活函數(shù),我們將在后面陸續(xù)介紹它們。下面簡要展示一個(gè)最簡單的學(xué)習(xí)算法——感知機(jī)學(xué)習(xí)算法(PLA)。
- 人工智能安全
- AI辦公高手速成:工具與提效技巧大全
- Arduino開發(fā)實(shí)戰(zhàn)指南:智能家居卷
- 深入淺出AI算法:基礎(chǔ)概覽
- 涌現(xiàn):AI大模型賦能千行百業(yè)
- 機(jī)器人制作從入門到精通(第2版)
- 大模型實(shí)戰(zhàn):微調(diào)、優(yōu)化與私有化部署
- 破解深度學(xué)習(xí)(基礎(chǔ)篇):模型算法與實(shí)現(xiàn)
- 機(jī)器學(xué)習(xí)與數(shù)據(jù)科學(xué)(基于R的統(tǒng)計(jì)學(xué)習(xí)方法)
- 人工智能注意力機(jī)制:體系、模型與算法剖析
- 人工智能:改變未來的顛覆性技術(shù)
- AI應(yīng)用革命
- 精通AI虛擬數(shù)字人制作與應(yīng)用:直播主播+視頻博主+營銷推廣+教育培訓(xùn)
- DeepSeek快速上手
- AI改變?cè)O(shè)計(jì) : 人工智能時(shí)代的設(shè)計(jì)師生存手冊(cè)