2.1 神經網絡結構

2.1.1 神經元與感知器

生物神經細胞（神經元）的結構大致可分為樹突、突觸、細胞體及軸突。單個神經細胞可被視為一種只有兩種狀態的機器——激動時為“是”，而未激動時為“否”。神經細胞的狀態取決于從其他的神經細胞收到的輸入信號量及突觸的強度（抑制或加強）。當信號量總和超過了某個閾值時，細胞體就會激動，產生電脈沖，電脈沖沿著軸突并通過突觸傳遞到其他神經元。

感知器是生物神經細胞的簡單抽象，為了模擬神經細胞行為，與之對應的感知器基礎概念被提出，如權重（突觸）、偏置（閾值）及激活函數（細胞體）。在神經網絡中，感知器就是我們所謂的“人工神經元”。

圖2.1所示的單層感知器的結構示意圖中有x₁和x₂輸入，一般情況下，可以引入權重w₁和w₂來表示輸入對輸出的重要性，這時可以計算w₁×x₁+w₂×x₂+b（偏置），即分配權重后的總和。當總和大于閾值的時候，神經元輸出a=1（神經元激活）；當小于閾值的時候，神經元輸出a=0（神經元未被激活）。如果輸入的樣本點不能簡單地被分為兩類——非0即1（線性可分），我們將引入激活函數（Activation Function），即圖2.1中的g（z），利用0～1的概率值來代表神經元被激活的程度。例如，0是未被激活，1是全激活，那么0.5就是半激活的中間狀態，這個數值叫作激活值（Activation）。神經元不同的激活值狀態如圖2.2所示。

圖2.1 單層感知器的結構示意圖

圖2.2 神經元不同的激活值狀態