1.1.1　數(shù)據(jù)與信息

數(shù)據(jù)是反映客觀事物屬性的記錄，是信息的具體表現(xiàn)形式。數(shù)據(jù)經(jīng)過加工處理之后，就成為信息；而信息需要經(jīng)過數(shù)字化轉(zhuǎn)變成數(shù)據(jù)才能存儲和傳輸。所以，數(shù)據(jù)和信息之間是相互聯(lián)系的。

數(shù)據(jù)和信息也是有區(qū)別的。從信息論的觀點來看，描述信源的數(shù)據(jù)是信息和數(shù)據(jù)冗余之和，即數(shù)據(jù)=信息+數(shù)據(jù)冗余。數(shù)據(jù)是數(shù)據(jù)采集時提供的，信息是從采集的數(shù)據(jù)中獲取的有用信息，即信息可以簡單地理解為數(shù)據(jù)中包含的有用的內(nèi)容。

一個消息越不可預(yù)測，它所含的信息量就越大。事實上，信息的基本作用是消除人們對事物了解的不確定性。信息量是指從N個相等的可能事件中選出一個事件所需要的信息度量和含量。從這個定義看，信息量與概率是密切相關(guān)的。