1.2 顯式與隱式生成模型

生成模型內容豐富多彩，我們可以按照概率密度函數的處理方式對其進行分類。總體而言，把對概率密度函數進行顯式處理的模型稱為顯式生成模型，而把隱式處理概率密度函數的模型稱為隱式生成模型，如圖1-1所示。顯式生成模型出于訓練模型的原因，需要精確或者近似給出樣本的似然函數表達式，而隱式生成模型通過樣本間接控制概率分布，訓練過程不出現似然函數，是一種間接控制概率密度的方式。無論是顯式還是隱式生成模型，其核心均是對p(x)進行建模，只是顯式生成模型直接優化p(x)，其建模難度比較大，而隱式生成模型避開了直面p(x)的困難，通過p(x)生成的樣本間接優化p(x)。在本節，我們將從最基本的極大似然估計法開始，順著脈絡深入、詳細地介紹一些具有代表性的顯式和隱式生成模型，例如完全可見置信網絡、變分自編碼器、生成對抗網絡等。

圖1-1 生成模型分類

在生成模型中，概率密度函數p（x）一直處于核心的位置。對于一批從p_data（x）中獨立采樣得到的訓練樣本集{x（1）,x（2）,…,x（N）}（注意，我們要求訓練樣本集的數據是獨立同分布的），我們希望用訓練數據來訓練一個生成模型p_g（x），這個生成模型可以顯式或隱式地學習數據的分布p_data（x）或者獲得p_data（x）的（近似）表達式，即p_data（x）≈p_g（x）。那么接下來在前向推斷過程中，可以通過在p_g（x）上顯式或隱式地采樣而得到一批樣本，并且使獲得的樣本（近似）符合概率分布p_data（x）。