1.3 人工智能、機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)及深度學(xué)習(xí)之間的關(guān)系

新聞媒體在報(bào)道AlphaGo的時(shí)候，可能將人工智能、機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)這幾個(gè)詞都用到過。對(duì)于初學(xué)者來說，難免容易混淆。

1.人工智能

人工智能——我們先說說人工智能，人工智能是這幾個(gè)詞中最早出現(xiàn)的。1956年，在美國達(dá)特茅斯會(huì)議（Dartmouth Conference）上被提出。人工智能其實(shí)是一種抽象的概念，并不是指任何實(shí)際的算法。人工智能可以對(duì)人的意識(shí)和思維進(jìn)行模擬，但又不是人的智能。有時(shí)候我們還會(huì)把人工智能分為弱人工智能（Weak AI）和強(qiáng)人工智能（Strong AI）。

弱人工智能是擅長于單個(gè)方面技能的人工智能。例如，AlphaGo能戰(zhàn)勝了眾多世界圍棋冠軍，在圍棋領(lǐng)域所向披靡，但它只會(huì)下圍棋，做不了其他事情。目前人工智能相關(guān)的技術(shù)，如圖像識(shí)別、語言識(shí)別和自然語言處理等，基本都是處于弱人工智能階段。

強(qiáng)人工智能指的是在各方面都能和人類智能差不多的人工智能，人類能干的腦力勞動(dòng)它都能干。創(chuàng)造強(qiáng)人工智能比創(chuàng)造弱人工智能難度要大很多，我們現(xiàn)階段還做不到，只有在一些科幻電影中才能看到。著名的教育心理學(xué)教授Linda Gottfredson把智能定義為：“一種寬泛的心理能力，能夠進(jìn)行思考、計(jì)劃、解決問題、抽象思維、理解復(fù)雜理念、快速學(xué)習(xí)和從經(jīng)驗(yàn)中學(xué)習(xí)等操作?！睆?qiáng)人工智能在進(jìn)行這些操作時(shí)應(yīng)該跟人類一樣得心應(yīng)手。

2.機(jī)器學(xué)習(xí)

機(jī)器學(xué)習(xí)——機(jī)器學(xué)習(xí)是最近20多年興起的一門多領(lǐng)域交叉學(xué)科，涉及概率論、統(tǒng)計(jì)學(xué)、逼近學(xué)、凸分析和計(jì)算復(fù)雜性理論等多門學(xué)科。關(guān)于機(jī)器學(xué)習(xí)，上一小節(jié)我們已經(jīng)做了一些討論說明，我們可以發(fā)現(xiàn)機(jī)器學(xué)習(xí)包含很多具體的算法。既然人工智能是飄在天上的概念，那我們就需要一些具體的算法使得人工智能可以落地應(yīng)用，而一般來說，這些具體的智能算法可以統(tǒng)稱為機(jī)器學(xué)習(xí)算法。

3.神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)——神經(jīng)網(wǎng)絡(luò)是眾多機(jī)器學(xué)習(xí)算法中的其中一個(gè)，是模仿人類大腦神經(jīng)結(jié)構(gòu)構(gòu)建出來的一種算法，構(gòu)建出來的網(wǎng)絡(luò)稱為人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks, ANN）。神經(jīng)網(wǎng)絡(luò)算法在機(jī)器學(xué)習(xí)中并不算特別出色，所以一開始的時(shí)候并沒有引起人們的特別關(guān)注。神經(jīng)網(wǎng)絡(luò)的發(fā)展已經(jīng)經(jīng)歷了3次發(fā)展浪潮：20世紀(jì)40年代到20世紀(jì)60年代，神經(jīng)網(wǎng)絡(luò)的雛形出現(xiàn)在控制論（Cybernetics）中；20世紀(jì)80年代到20世紀(jì)90年代，表現(xiàn)為連接主義（Connectionism）。直到2006年，神經(jīng)網(wǎng)絡(luò)重新命名為深度學(xué)習(xí)，再次興起。

4.深度學(xué)習(xí)

深度學(xué)習(xí)——深度學(xué)習(xí)的基礎(chǔ)其實(shí)就是神經(jīng)網(wǎng)絡(luò)，之所以后來換了一種叫法，主要是由于之前的神經(jīng)網(wǎng)絡(luò)算法中網(wǎng)絡(luò)的層數(shù)不能太深，也就是不能有太多層網(wǎng)絡(luò)，網(wǎng)絡(luò)層數(shù)過多會(huì)使網(wǎng)絡(luò)無法訓(xùn)練。隨著神經(jīng)網(wǎng)絡(luò)理論的發(fā)展，科學(xué)家研究出了多種方式使得訓(xùn)練深層的網(wǎng)絡(luò)也成為可能，深度學(xué)習(xí)由此誕生，如卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network, CNN）、長短時(shí)記憶網(wǎng)絡(luò)（Long Short Term Memory Network, LSTM）和深度殘差網(wǎng)絡(luò)（Deep Residual Network）等都屬于深度學(xué)習(xí)，其中深度殘差網(wǎng)絡(luò)的深度可以到達(dá)1000層，甚至更多。深層的網(wǎng)絡(luò)有助于挖掘數(shù)據(jù)中深層的特征，可以使網(wǎng)絡(luò)擁有更強(qiáng)大的性能。

如圖1.14所示，描繪了人工智能、機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)之間的關(guān)系。