2.4.2　主成分分析的幾何解釋

假設(shè)有n個(gè)樣品，每個(gè)樣品有兩個(gè)變量，即在二維空間中討論主成分的幾何意義。設(shè)n個(gè)樣品在二維空間中的分布大致為一個(gè)橢圓，如圖2.2所示。

將圖2.2中的坐標(biāo)系進(jìn)行正交旋轉(zhuǎn)一個(gè)角度θ，使其橢圓長(zhǎng)軸方向取坐標(biāo)y₁，在橢圓短軸方向取坐標(biāo)y₂，旋轉(zhuǎn)公式為

（2.47）

寫(xiě)成矩陣形式為：

（2.48）

其中U為坐標(biāo)旋轉(zhuǎn)變換矩陣，是正交矩陣，即有U'=U-1，UU'=I，即滿足。

經(jīng)過(guò)旋轉(zhuǎn)變換后，得到圖2.3所示的新坐標(biāo)系。

新坐標(biāo)系中的y₁、y₂有如下性質(zhì)：

（1）n個(gè)點(diǎn)的坐標(biāo)y₁和y₂的相關(guān)幾乎為零。

（2）二維平面上n個(gè)點(diǎn)的方差大部分都?xì)w結(jié)到y₁軸上，而y₂軸上的方差較小。

y₁和y₂稱(chēng)為原始變量x₁和x₂的綜合變量。由于n個(gè)點(diǎn)在y₁軸上的方差最大，因而將二維空間的點(diǎn)用y₁軸上的一維綜合變量來(lái)代替，所損失的信息量最小，由此稱(chēng)y₁軸為第一主成分。y₂軸與y₁軸正交，有較小的方差，稱(chēng)為第二主成分。