2.1　時間序列的統計概念

我們簡要地回顧一下統計分布的一些基本性質和隨機變量的矩，設Rk表示k?維歐幾里得空間，表示x是Rk的中的點，考慮兩個隨機向量和令表示X在子空間中，且Y在子空間中的概率，由此可以得到這兩個隨機向量的一些統計概念。

2.1.1　聯合分布函數

參數為θ的X 與Y的聯合分布表示為：

其中不等號“≤”是分量對分量的運算；X和Y的規律由刻畫。如果X和Y的聯合概率密度函數存在，則：

這時，X和Y是連續型隨機向量。

2.1.2　邊際分布

X的邊際分布是：

這樣，X的邊際分布可通過對Y求積分得到，同理，Y的邊際分布也可類似得到。

如果k=1，X是一個一元隨機變量，其分布函數為：

稱為X的累積分布函數（Cumulative Distribution function,CDF）。一個隨機變量的CDF是非降的（即對有且有

2.1.3　概率分布

對于時間序列我們這樣來定義它的概率分布：任取正整數m，任取t1,t2,…，tm∈T，則m維隨機向量的聯合概率分布記為：

由這些有限維分布函數構成的全體：

就稱為序列{Xt}的概率分布族。

2.1.4　特征統計量

一種更為簡單，更實用的描述時間序列統計特征的方法是研究該序列的低階矩，特別是均值、方差、自協方差和自相關系數，它們也稱為特征統計量。

盡管這些特征統計量并不能描述出隨機序列的主要概率特征，但是由于它們的概率意義明顯，易于計算，而且往往能代表隨機序列的主要概率特征，所以我們對時間序列進行分析，主要就是通過分析這些特征量的統計特征，推斷出隨機序列的性質。

1.均值

對時間序列而言，任意時刻的序列值Xt都是一個隨機變量，都有它自己的概率分布，記Xt的分布函數為Ft(X )。只要滿足條件：

就一定存在某個常數μt，使得隨機變量Xt總是圍繞在常數值μt附近做隨機波動。我們稱μt為序列{Xt}在t時刻的均值函數：

當t 取遍所有的觀察時刻時，就得到一個均值函數序列它反映的是時間序列每時每刻的平均水平。

2.方差

當時，可以將時間序列的方差函數定義為用以描述序列值圍繞其均值做隨機波動時的平均波動程度：

同樣，當t取遍所有的觀察時刻時，我們得到的一個方差函數序列

3.自協方差函數

類似于協方差函數和相關系數的定義，在時間序列分析中我們定義自協方差函數（Autocovariance Function）和自相關系數（Autocorrelation Function）的概念。

對于時間序列任取t,s∈T，定義γ(t,s)為序列{Xt}的自協方差函數：

考慮時間序列Xt與它的過去值Xt?l的線性相關性時，可以把相關系數的概念推廣到自相關系數。Xt與Xt?l的相關系數稱為Xt的間隔為l 的自相關系數，通常記為在弱平穩性的假定下它只是l的函數。定義ρ(t ,s)為時間序列{Xt}的自相關系數，簡記為ACF。

之所以稱它們為自協方差函數和自相關系數是因為通常的協方差函數和相關系數度量的是兩個不同的事件彼此之間的相互影響程度；而自協方差函數和自相關系數度量的是同一事件在兩個不同時期之間的相關程度，形象地講就是度量自己過去的行為對自己現在的影響。