1.1　線性回歸模型

對于一個給定的訓練集數據，線性回歸的目標是找到一個與這些數據最為吻合的線性函數。舉一個例子，中學物理我們學過的胡克定律指出：彈簧在發生彈性形變時，彈簧所受拉力和彈簧的形變量成正比，即。假設我們拿到一個新彈簧，測得了一組包含彈簧所受拉力和形變量的實驗數據，如圖1-1所示，根據實驗數據估計彈簧倔強系數的過程就是線性回歸。

一般情況下，線性回歸模型假設函數為：

其中，與為模型參數，也稱為回歸系數。為了方便，通常將納入權向量，作為，同時為輸入向量添加一個常數1作為：

圖1-1

此時，假設函數為：

其中，，通過訓練確定模型參數后，便可使用模型對新的輸入實例進行預測。