3.4.6　循環神經網絡

除了DNN算法，循環神經網絡（Recurrent Neural Network，RNN）是另一種在智能風控領域被嘗試的神經網絡結構。RNN的特性是在時間維度上具有“記憶”功能，具體的實現原理是對于RNN的隱藏層，t-1時刻的輸出會作為t時刻的輸入，這樣當前時刻的隱藏層會包括之前所有時刻隱藏層的信息。這個特性使得RNN被應用到行為評分模型和催收評分模型的搭建中，因為支用行為序列和催收行為序列都具有很強的時間屬性，利用RNN可以自動提取這些時間序列中的隱性特征。在時間序列中我們通常更希望關注近期行為，忽略遠期行為帶來的噪聲，因此便有了長短期記憶網絡（Long Short Term Memory，LSTM）。與RNN相比，LSTM在各隱藏層節點之間傳遞信息的過程中，加入了輸入門、遺忘門和輸出門的結構，使得整個網絡結構可以有選擇性地“記憶”過去的信息，對于時間序列上的信息提取有了重大提升。