2.2 人工智能

人工智能是研究讓計算機模擬人的某些思維過程和智能行為的學科。人工智能在計算機上有兩種實現(xiàn)方式。一種是工程學方法，它采用傳統(tǒng)的編程技術，不考慮所用方法是否與人類或其他動物機體所用的方法相同，使系統(tǒng)呈現(xiàn)智能的效果，例如文字識別、計算機下棋等。另一種是模擬法，它的效果和實現(xiàn)方法與人類或其他動物機體相同或類似，例如遺傳算法（Genetic Algorithm，GA）和人工神經(jīng)網(wǎng)絡（Artificial Neural Network，ANN）等。

2.2.1 機器學習

使用機器學習算法無須明確地編程，基于訓練數(shù)據(jù)（又稱為樣本數(shù)據(jù)）建立數(shù)學模型，實現(xiàn)預測或決策。機器學習涉及統(tǒng)計學、概率論、逼近論等多門學科，它是人工智能的核心技術。人工智能的細分如圖2-11所示，該圖說明了人工智能、機器學習和深度學習之間的邏輯關系。

機器學習基于學習方式可以分為監(jiān)督學習、無監(jiān)督學習、半監(jiān)督學習、強化學習和深度強化學習等，簡要闡述如下。

1. 監(jiān)督學習

監(jiān)督學習（Supervised Learning，SL）指使用已知標簽數(shù)據(jù)來訓練網(wǎng)絡。監(jiān)督學習分為回歸和分類。回歸是指對連續(xù)的數(shù)據(jù)進行數(shù)據(jù)擬合，以得到一個函數(shù)用于預測。分類是指對離散的數(shù)據(jù)進行數(shù)據(jù)分類，預測數(shù)據(jù)分別屬于不同的類別。

2. 無監(jiān)督學習

無監(jiān)督學習（Unsupervised Learning，UL）適用于具有數(shù)據(jù)集但無標簽的情況。無監(jiān)督學習主要應用于聚類分析、關聯(lián)規(guī)則等。

3. 半監(jiān)督學習

半監(jiān)督學習（Semi-Supervised Learning，SSL）結合了監(jiān)督學習與無監(jiān)督學習，使用大量的無標簽數(shù)據(jù)和少量的有標簽數(shù)據(jù)來進行模式識別。

4. 強化學習

強化學習（Reinforcement Learning，RL）沒有標注數(shù)據(jù)集，但有辦法區(qū)分是否越來越接近目標。強化學習中，用由環(huán)境提供的強化信號來對產(chǎn)生動作的好壞做出評價。

5. 深度強化學習

深度強化學習（Deep Reinforcement Learning，DRL）結合了深度學習、強化學習的感知和決策能力，可以根據(jù)輸入的信息直接實現(xiàn)控制。

機器學習的3個要素是模型（model，指用來描述客觀世界的數(shù)學模型）、策略（strategy，指從假設空間中挑選出參數(shù)最優(yōu)模型的準則）、算法（algorithm，指優(yōu)化模型參數(shù)的方法）。

2.2.2 算法

目前，常見算法包含決策樹（Decision Tree，DT）算法、樸素貝葉斯算法、支持向量機（Support Vector Machine，SVM）算法、隨機森林算法、神經(jīng)網(wǎng)絡（Neural Network，NN）算法、Boosting和Bagging算法、關聯(lián)規(guī)則算法、期望最大化算法、深度學習算法等。以下介紹部分算法。

1. 決策樹算法

決策樹算法借鑒了樹形模型，將根節(jié)點到一個葉子節(jié)點的路徑看作一條分類的規(guī)則，將每個葉子節(jié)點看作一個判斷類別。決策樹算法遞歸地選擇最優(yōu)的特征對訓練數(shù)據(jù)進行分割，來實現(xiàn)對各個數(shù)據(jù)集的最優(yōu)分類。該算法的優(yōu)點是結構簡單，具有可讀性，處理數(shù)據(jù)效率較高。

2. 支持向量機算法

支持向量機算法是一種監(jiān)督式的機器學習算法。通過將向量映射到一個更高維的空間里，在這個空間里建立一個最大間隔超平面，從而實現(xiàn)對樣本進行分類或回歸分析。那些在間隔區(qū)邊緣的訓練樣本點即為支持向量。該算法的優(yōu)點是提高維度，從而將問題簡化。

3. 神經(jīng)網(wǎng)絡算法

神經(jīng)網(wǎng)絡算法由具有適應性的個體單元互相連接組成。該算法的優(yōu)點是可以對信息量少的系統(tǒng)進行模型處理，具有并行性，且傳遞信息速度極快。

神經(jīng)網(wǎng)絡按性能分為連續(xù)型網(wǎng)絡、離散型網(wǎng)絡，或者確定型網(wǎng)絡、隨機型網(wǎng)絡；按連續(xù)突觸性分為一階線性關聯(lián)網(wǎng)絡、高階非線性關聯(lián)網(wǎng)絡；按拓撲結構分為前向網(wǎng)絡、反饋網(wǎng)絡。基本的神經(jīng)網(wǎng)絡主要包括人工神經(jīng)網(wǎng)絡（ANN）、深度神經(jīng)網(wǎng)絡（Deep Neural Network，DNN）和循環(huán)神經(jīng)網(wǎng)絡（Recurrent Neural Network，RNN）等。

（1）人工神經(jīng)網(wǎng)絡

1958年，受大腦神經(jīng)元的啟發(fā)，弗蘭克·羅森布拉特（Frank Rosenblatt）設計了第一個人工神經(jīng)網(wǎng)絡，由此形成了第一代神經(jīng)網(wǎng)絡。第一代神經(jīng)網(wǎng)絡是由若干輸入和一個輸出組成的兩層模型，神經(jīng)元是神經(jīng)網(wǎng)絡中的基本成分。

第二代神經(jīng)網(wǎng)絡即多層感知機，與第一代神經(jīng)網(wǎng)絡相比，具有如下特點。

第一，增加了隱藏層。

第二，輸出層的神經(jīng)元可以有多個輸出。

第三，對激活函數(shù)（負責將神經(jīng)元的輸入映射到輸出端）做擴展，通過使用不同的激活函數(shù)，神經(jīng)網(wǎng)絡的表達能力進一步增強。

（2）深度神經(jīng)網(wǎng)絡

深度神經(jīng)網(wǎng)絡的結構和傳統(tǒng)意義上的神經(jīng)網(wǎng)絡無太大區(qū)別，主要的不同是層數(shù)增多了，采用逐層訓練機制，并解決了模型可訓練的問題。多層的好處是可以用較少的參數(shù)表示復雜的函數(shù)。

（3）循環(huán)神經(jīng)網(wǎng)絡

深度神經(jīng)網(wǎng)絡只能看到預先設定長度的數(shù)據(jù)，對語音和語言等前后相關的時序信號的表達能力是有限的，基于此提出了循環(huán)神經(jīng)網(wǎng)絡模型，它的隱藏層不但可以接收上一層的輸入，也可以接收上一時刻當前隱藏層的輸入。

循環(huán)神經(jīng)網(wǎng)絡的改進模型有雙向循環(huán)神經(jīng)網(wǎng)絡、深層雙向循環(huán)神經(jīng)網(wǎng)絡、長短期記憶（Long Short Term Memory，LSTM）模型等。LSTM模型是一種時間循環(huán)神經(jīng)網(wǎng)絡，可以學習長期依賴信息，得到了廣泛的應用。

（4）卷積神經(jīng)網(wǎng)絡

卷積神經(jīng)網(wǎng)絡（Convolutional Neural Network，CNN）是模擬人的視覺神經(jīng)系統(tǒng)提出來的。卷積神經(jīng)網(wǎng)絡的結構依舊包括輸入層、隱藏層和輸出層，隱藏層包含卷積層、池化層和全連接層，其中卷積層負責對輸入數(shù)據(jù)進行特征提取。一次卷積運算一般只能提取局部特征，難以提取出全局特征，因此需要在一層卷積的基礎上繼續(xù)做卷積計算，這就是多層卷積。