第二篇　人工智能在無(wú)線通信傳輸技術(shù)中的應(yīng)用

第2章　基于深度學(xué)習(xí)的MIMO信號(hào)檢測(cè)

2.1　MIMO信號(hào)檢測(cè)基本原理與傳統(tǒng)算法

MIMO技術(shù)是指發(fā)送端和接收端同時(shí)配備多根發(fā)送天線/接收天線，從而獲得系統(tǒng)容量的提升。MIMO系統(tǒng)收發(fā)端結(jié)構(gòu)如圖2.1所示。

圖 2.1　 MIMO系統(tǒng)收發(fā)端結(jié)構(gòu)示意

無(wú)論是空間復(fù)用、空時(shí)編碼還是空間調(diào)制，對(duì)編碼信號(hào)的檢測(cè)始終是MIMO無(wú)線通信系統(tǒng)接收端最重要的功能之一。相比于衰落信道下的單發(fā)單收（SISO）系統(tǒng)和單發(fā)多收（SIMO）系統(tǒng)，MIMO系統(tǒng)涉及的天線更多，MIMO系統(tǒng)信號(hào)檢測(cè)會(huì)更難，這是因?yàn)槌怂ヂ涞挠绊懀浣邮斩诉€面臨著來(lái)自多根天線同時(shí)傳輸信號(hào)的空間干擾。所以，在這種空間干擾存在的情況下，對(duì)信號(hào)進(jìn)行有效的檢測(cè)是一項(xiàng)非常艱巨的任務(wù)，為此需要非常復(fù)雜的信號(hào)處理算法。因此，高效、高性能、低復(fù)雜度的MIMO信號(hào)檢測(cè)算法的設(shè)計(jì)、分析與應(yīng)用持續(xù)吸引著研究人員與系統(tǒng)開發(fā)工程師的注意。為方便敘述，這里首先給出MIMO系統(tǒng)的收發(fā)數(shù)學(xué)模型：

（2.1）

其中x和y分別代表發(fā)送符號(hào)向量和接收符號(hào)向量，H與n分別代表信道響應(yīng)矩陣和加性高斯白噪聲向量。此處僅給出名稱，2.1.1小節(jié)將對(duì)此數(shù)學(xué)模型做詳細(xì)的解釋。

所有MIMO信號(hào)檢測(cè)算法的目標(biāo)都是在知道接收符號(hào)向量y和信道響應(yīng)矩陣H的情況下，獲得對(duì)發(fā)送符號(hào)向量x的估計(jì)。發(fā)送符號(hào)的元素通常來(lái)自于一個(gè)預(yù)先定義好的離散值的調(diào)制符號(hào)表，比如QPSK的調(diào)制符號(hào)表就是，當(dāng)然調(diào)制符號(hào)表也可以是純實(shí)數(shù)的，這取決于數(shù)學(xué)模型是實(shí)數(shù)的還是復(fù)數(shù)的。某些檢測(cè)算法通常會(huì)產(chǎn)生軟輸出，例如基于置信傳播（Belief Propagation，BP）的算法，其輸出將會(huì)是表示傳輸符號(hào)可能性的軟值，這些軟值可以被送入編碼系統(tǒng)的信道譯碼器，與送硬值進(jìn)入信道譯碼器相比，送軟值可以提供更好的性能。此外，一些檢測(cè)算法只產(chǎn)生硬輸出，例如基于搜索的算法，它們通常在一個(gè)離散數(shù)值候選向量集合里進(jìn)行搜索測(cè)試，并從集合中選擇一個(gè)離散向量作為輸出。雖然這些硬輸出也可以被送入信道譯碼器，但是為了進(jìn)一步提升信道譯碼器的性能，必須設(shè)計(jì)出合適的方法，從檢測(cè)算法的硬輸出中產(chǎn)生軟值，以便將其送入信道譯碼器。

常用的MIMO信號(hào)檢測(cè)算法包括線性檢測(cè)算法（如MF、ZF、MMSE檢測(cè)算法等），以及非線性的包含多階段干擾消除的算法（如ZF-SIC和MMSE-SIC檢測(cè)算法）。這些次優(yōu)算法的核心優(yōu)勢(shì)就是它們多項(xiàng)式級(jí)的復(fù)雜度。通過(guò)合理優(yōu)化偽逆求解過(guò)程，ZF-SIC算法的復(fù)雜度甚至還可以更低。同時(shí)，線性檢測(cè)算法的誤符號(hào)率（Symbol Error Ratio SER）性能也可以通過(guò)格基規(guī)約技術(shù)來(lái)提升。除了上面提到的算法之外，還有一系列基于搜索的算法，典型代表如球譯碼（Sphere Decoding，SD）算法（參考文獻(xiàn)[1]、[2]、[7]）。雖然SD算法的SER性能很強(qiáng)，但是其復(fù)雜度很高。

通常，MIMO信號(hào)檢測(cè)算法的兩大重要目標(biāo)——高性能和低復(fù)雜度——并不能同時(shí)達(dá)成，因?yàn)橐环降膶?shí)現(xiàn)似乎是以犧牲另一方為代價(jià)的。比如，線性算法在復(fù)雜度方面有很好的表現(xiàn)，但是相比于最優(yōu)算法，它的SER性能非常有限。另外，雖然SD算法能夠達(dá)到最大似然檢測(cè)算法的性能，但是它的復(fù)雜度很高。因此，傳統(tǒng)的觀點(diǎn)認(rèn)為，為了達(dá)到良好的SER性能，需要對(duì)復(fù)雜度做權(quán)衡。但是這種權(quán)衡將使得大規(guī)模MIMO變得不切實(shí)際，因?yàn)榇笠?guī)模MIMO下的信號(hào)檢測(cè)會(huì)面臨更高的復(fù)雜度。

2.1.1　系統(tǒng)模型

本小節(jié)對(duì)MIMO系統(tǒng)的模型進(jìn)行詳細(xì)闡述。對(duì)于一個(gè)包含n_t根發(fā)送天線、n_r根接收天線的MIMO系統(tǒng)，其信號(hào)發(fā)送與接收可以建模為

（2.2）

其中：表示第i根天線的發(fā)送符號(hào)；表示第j根天線的接收符號(hào)；表示附加在第j根天線上的加性高斯白噪聲；表示由第i根天線到第j根天線的信道響應(yīng)，此處沒(méi)有考慮多徑，所以一條信道只有一個(gè)信道響應(yīng)。由矩陣乘法的計(jì)算方法可以得出：

（2.3）

由式（2.3）可見(jiàn)，每一根天線上的接收符號(hào)都是由所有發(fā)送符號(hào)乘對(duì)應(yīng)的信道響應(yīng)再求和，然后加上高斯白噪聲得到的，這就是MIMO的本質(zhì)，每一個(gè)接收符號(hào)都包含所有發(fā)送符號(hào)的信息。將式（2.3）簡(jiǎn)寫為矩陣和向量的形式，即可得到式（2.1）所示的數(shù)學(xué)模型。在本書中，除了特殊說(shuō)明以外，一般使用大寫粗斜體字母表示矩陣，小寫粗斜體字母表示列向量。式（2.1）中，x表示長(zhǎng)度為的發(fā)送符號(hào)列向量，x中的每一個(gè)元素都來(lái)自一個(gè)已知的QAM字母表（例如 4QAM、16QAM等），即，并且本書假設(shè)所有星座圖均已經(jīng)過(guò)能量歸一化，即。y表示長(zhǎng)度為n_r的接收符號(hào)列向量，，表示任意復(fù)數(shù)。表示n_r×n_t大小的信道響應(yīng)矩陣，其元素均建模為獨(dú)立同分布的，均值為0、方差為1的復(fù)高斯隨機(jī)變量。n表示復(fù)數(shù)加性高斯白噪聲向量，且滿足。在MIMO信號(hào)檢測(cè)問(wèn)題中通常假設(shè)接收端已知完全準(zhǔn)確的信道響應(yīng)矩陣H，而H在發(fā)送端則是未知的。

在上述模型中，所有向量和矩陣的元素都為復(fù)數(shù)，因此式（2.3）對(duì)應(yīng)的系統(tǒng)模型也被稱作復(fù)數(shù)模型。傳統(tǒng)算法可以直接用于復(fù)數(shù)模型中，但對(duì)于神經(jīng)網(wǎng)絡(luò)則不然。在一些基于深度學(xué)習(xí)的算法中，通常要先將復(fù)數(shù)模型轉(zhuǎn)換成等效的實(shí)數(shù)模型，如式（2.4）所示。

（2.4）

其 中，，，，，和分別表示取矩陣或向量的實(shí)部或虛部。由矩陣乘法運(yùn)算法則可知，實(shí)數(shù)模型[式（2.4）]與復(fù)數(shù)模型[式（2.3）]的計(jì)算結(jié)果相同，是等效的。值得注意的是，在實(shí)數(shù)模型中，發(fā)送符號(hào)向量的元素都來(lái)自脈幅調(diào)制（Pulse-Amplitude Modulation，PAM）字母表，PAM字母表是由復(fù)數(shù)模型的QAM字母表轉(zhuǎn)換得到的。例如，若復(fù)數(shù)模型的QAM字母表為，則其轉(zhuǎn)換后的實(shí)數(shù)模型的PAM字母表為。又如，若復(fù)數(shù)模型采用非標(biāo)準(zhǔn)的16QAM字母表，則其轉(zhuǎn)換后的實(shí)數(shù)模型的PAM字母表為。

2.1.2　最優(yōu)檢測(cè)算法

本小節(jié)介紹SER性能最優(yōu)的MIMO信號(hào)檢測(cè)算法——最大似然檢測(cè)算法。顧名思義，最大似然（Maximum Likelihood，ML）檢測(cè)算法（簡(jiǎn)稱ML算法）就是找到使得似然函數(shù)值最大的候選向量。為了方便闡述，這里給出MIMO信號(hào)檢測(cè)問(wèn)題的似然函數(shù)：

（2.5）

由式（2.5）可知，對(duì)于指數(shù)函數(shù)來(lái)說(shuō)，在給定H、x及的前提下，越小，其函數(shù)值越大。所以求ML函數(shù)的問(wèn)題可轉(zhuǎn)化為使最小的問(wèn)題，從而得到ML的目標(biāo)函數(shù)，如式（2.6）所示。

（2.6）

因?yàn)榧?img alt="" class="h-pic" src="https://epubservercos.yuewen.com/B63112/28528348002205206/epubprivate/OEBPS/Images/TX01274.jpg?sign=1753906333-cDBaCmoBB75kvsytfcKCmhBSbK87IDTx-0-a78d340466ad42ad2f39cf2d3e3589bf">包含發(fā)送符號(hào)向量的所有可能，所以ML算法直接采用遍歷搜索的方法在集合中窮舉來(lái)尋找使得目標(biāo)函數(shù)最小的候選。ML算法通過(guò)最大化似然函數(shù)，能夠讓平均錯(cuò)誤概率最小，獲得最優(yōu)的SER性能，但是窮舉所有可能的計(jì)算復(fù)雜度非常高，并且復(fù)雜度會(huì)隨n_t的增長(zhǎng)而呈指數(shù)級(jí)增長(zhǎng)，這樣高的復(fù)雜度在大規(guī)模MIMO場(chǎng)景下是尤其不能接受的，因此雖然ML算法SER性能最優(yōu)，卻幾乎無(wú)法在實(shí)際生活中得到應(yīng)用。但是ML算法通常作為衡量其他信號(hào)檢測(cè)算法SER性能的基準(zhǔn)，即使這樣，在進(jìn)行性能仿真測(cè)試時(shí)，隨著發(fā)送天線數(shù)目n_t的增加，測(cè)試ML算法的性能所需要的時(shí)間也會(huì)成倍地增加而變得不可實(shí)現(xiàn)，所以在一些大規(guī)模MIMO場(chǎng)景中也會(huì)采用SD算法替代ML算法作為SER性能的評(píng)估標(biāo)準(zhǔn)。ML算法雖然因?yàn)檩^高的復(fù)雜度而不可實(shí)現(xiàn)，但是它的目標(biāo)函數(shù)仍有重要的參考價(jià)值，這一點(diǎn)會(huì)在后文介紹基于深度學(xué)習(xí)的信號(hào)檢測(cè)算法中進(jìn)行詳細(xì)敘述。

2.1.3　線性檢測(cè)算法

線性檢測(cè)算法通過(guò)對(duì)接收信號(hào)進(jìn)行線性變換，估計(jì)出軟值的發(fā)送符號(hào)，再由軟值符號(hào)映射到硬值符號(hào)，即 ，其中為變換矩陣，表示由軟值符號(hào)到硬值符號(hào)的映射函數(shù)，映射方法就是把的每一個(gè)元素映射為字母表中與該元素距離最近的符號(hào)。線性檢測(cè)算法的最大優(yōu)勢(shì)就是復(fù)雜度很低。

匹配濾波檢測(cè)算法

匹配濾波（Matched Filtering，MF）檢測(cè)算法（簡(jiǎn)稱MF算法）（參考文獻(xiàn)[4]）在檢測(cè)某一個(gè)發(fā)送符號(hào)時(shí)，把其他所有的發(fā)送符號(hào)都看作噪聲，通過(guò)信道之間相互獨(dú)立的特性去消除其他發(fā)送符號(hào)的干擾。MF適用于接收天線數(shù)目遠(yuǎn)大于發(fā)送天線數(shù)目的場(chǎng)景。定義表示信道響應(yīng)矩陣H的第i列，則式（2.1）中的系統(tǒng)模型可以展開成如下形式：

（2.7）

式（2.7）中最右邊的第一項(xiàng)表示第k個(gè)發(fā)送符號(hào)x_k對(duì)接收信號(hào)y做出的貢獻(xiàn)，第二項(xiàng)表示除第k個(gè)發(fā)送符號(hào)外其他發(fā)送符號(hào)對(duì)接收符號(hào)y做出的貢獻(xiàn)，那么在考慮檢測(cè)發(fā)送符號(hào)x_k時(shí)，其他發(fā)送符號(hào)的部分[式（2.7）最右邊的第二項(xiàng)]就是干擾。匹配濾波器在檢測(cè)時(shí)將這些干擾統(tǒng)統(tǒng)看作噪聲，并通過(guò)以下線性變換的方式去除估計(jì)軟值符號(hào)：

（2.8）

其中，表示列向量的共軛轉(zhuǎn)置。可以消除一部分干擾；當(dāng)越大時(shí)，就會(huì)越接近于0，干擾消除就越好。反觀的影響，當(dāng)較小時(shí)，隨機(jī)變量的方差比較小且均值為0，此時(shí)可以很好地消除干擾；但是當(dāng)較大時(shí)，隨機(jī)變量的方差會(huì)因?yàn)榀B加而增大，方差大了，干擾就除“不干凈了”，性能自然就下降了。所以當(dāng)系統(tǒng)很大且很小時(shí)，即系統(tǒng)負(fù)載因子較小時(shí)，MF算法就可以很好地消除干擾。將線性變換寫成矩陣的形式，則MF檢測(cè)方程為

（2.9）

MF變換矩陣，計(jì)算式（2.9）的復(fù)雜度為。對(duì)于輕載系統(tǒng)（），MF算法的SER性能接近最優(yōu)；然而在中度至滿負(fù)載的系統(tǒng)中，由于來(lái)自其他發(fā)送符號(hào)的干擾不斷增加，MF算法的SER性能會(huì)隨著的增長(zhǎng)而嚴(yán)重下降。

迫零均衡檢測(cè)算法

迫零（Zero Forcing，ZF）均衡檢測(cè)算法（簡(jiǎn)稱ZF算法）是一種線性檢測(cè)算法，它使用信道響應(yīng)矩陣H的偽逆對(duì)接收向量y進(jìn)行線性轉(zhuǎn)換。令維度為n_t×n_r的Q矩陣代表信道響應(yīng)矩陣H的偽逆，則有：

（2.10）

因?yàn)?img alt="" class="jz" src="https://epubservercos.yuewen.com/B63112/28528348002205206/epubprivate/OEBPS/Images/TX01300.jpg?sign=1753906333-aPjU9OPmsj6ST1r8fbLqOXsg4vM1flJq-0-b565f7343cba80f5b3d35956f7a9be23">，所以Qy可以完全消除其他發(fā)送符號(hào)帶來(lái)的干擾，這也是“迫零”這一名字的由來(lái)。它的缺點(diǎn)是，在完全消除干擾的同時(shí)卻增強(qiáng)了噪聲。令表示Q的第k行，那么是一個(gè)長(zhǎng)為的行向量，并且它除了第k個(gè)元素是1之外其他元素都是0。發(fā)送符號(hào)的軟值估計(jì)可以寫成：

（2.11）

在獲得發(fā)送符號(hào)的軟值估計(jì)以后，通過(guò)映射函數(shù)即可將發(fā)送符號(hào)的軟值估計(jì)映射為硬值估計(jì)。式（2.11）中的信噪比（Signal-to-Noise Ratio，SNR）可表示為

（2.12）

ZF算法在消除干擾的同時(shí)給噪聲功率乘上了，增強(qiáng)了噪聲。在低SNR條件下（很大），噪聲增強(qiáng)使ZF算法的性能降低，此時(shí)ZF算法的性能要比MF算法的性能差；在高SNR條件下（很小），完全消除干擾可使得ZF算法的性能優(yōu)于MF算法的性能。其線性變換公式為

（2.13）

ZF算法的變換矩陣，其計(jì)算復(fù)雜度是的三次方級(jí)別（因?yàn)樾枰蠼鈧文妫悦總€(gè)符號(hào)的復(fù)雜度就是，這雖然比MF算法的復(fù)雜度高了一階，但是在大規(guī)模MIMO場(chǎng)景下仍然具有吸引力。與MF算法相同，在中載到重載情景下，隨著的增長(zhǎng)，ZF算法的SER性能也會(huì)嚴(yán)重下降。

最小均方誤差檢測(cè)算法

最小均方誤差（Minimum Mean Squared Error，MMSE）檢測(cè)算法（簡(jiǎn)稱MMSE算法）是一種線性檢測(cè)算法，顧名思義，MMSE的目標(biāo)是使得發(fā)送符號(hào)向量與發(fā)送符號(hào)估計(jì)向量之間的均方誤差（又稱標(biāo)準(zhǔn)誤差）最小，即其變換矩陣是式（2.14）的解：

（2.14）

通過(guò)采用令導(dǎo)數(shù)為0求最值的方法，可以求得式（2.14）的解為。除此之外，式（2.14）的解還有另一種形式，即。這兩種解的形式是相同的，但是前者在形式上可以方便地與MF、ZF算法的變換矩陣做比較，所以更常用。MMSE算法的線性變換公式如式（2.15）所示，MMSE算法結(jié)合了MF和ZF算法的優(yōu)點(diǎn)。在高SNR條件下（很小），MMSE算法的表現(xiàn)和ZF算法的表現(xiàn)一樣，因?yàn)榇藭r(shí)求逆括號(hào)中的第二項(xiàng)變得很小，以至于變得無(wú)關(guān)緊要了；在低SNR條件下（很大），MMSE算法的表現(xiàn)很像MF算法的表現(xiàn)，因?yàn)殡S著，的對(duì)角線上的元素會(huì)越來(lái)越突出，它的逆矩陣就會(huì)趨向一個(gè)對(duì)角矩陣，且對(duì)角矩陣的元素?cái)?shù)值大小都近似。

（2.15）

MMSE算法的性能在所有的SNR條件下都要優(yōu)于MF和ZF算法的性能。但是MMSE算法的性能需要知道信道噪聲的方差，而MF和ZF算法則不然。另外，MMSE算法也需要求逆，所以每個(gè)符號(hào)的復(fù)雜度為。在中載到重載情景下，MMSE算法的SER性能也會(huì)隨著的增長(zhǎng)而下降。

線性檢測(cè)中的信號(hào)與干擾加噪聲比

信號(hào)與干擾加噪聲比（Signal to Interference plus Noise Ratio，SINR）定義為接收符號(hào)中有用信號(hào)平均功率與干擾信號(hào)和噪聲的平均功率之和的比值。經(jīng)過(guò)線性檢測(cè)后，第k個(gè)發(fā)送符號(hào)的軟值估計(jì)可以寫成：

（2.16）

其中，是變換矩陣Q的第k行，h_i是信道矩陣H的第i列，則發(fā)送符號(hào)的SINR可以寫成：

（2.17）

MF、ZF和MMSE算法都滿足式（2.17），ZF算法因?yàn)橥耆烁蓴_，所以其SINR在式（2.17）的基礎(chǔ)上做了簡(jiǎn)化， 如式（2.12）所示。

2.1.4　SD檢測(cè)算法

SD檢測(cè)算法（簡(jiǎn)稱SD算法）的SER性能與ML算法相當(dāng)，并且SD算法搜索的速度要比ML算法快。SD算法的思路是首先將格空間映射為Hx，然后在空間Hx里以接收符號(hào)為球心，以一個(gè)固定數(shù)值為半徑形成一個(gè)超球，接著在這個(gè)超球內(nèi)搜索與接收符號(hào)之間歐氏距離最近的格點(diǎn)。這樣僅在超球內(nèi)搜索而不是在整個(gè)格空間里搜索，在超球形成的時(shí)候就排除了很多超球外的候選格點(diǎn)。超球中最優(yōu)的候選格點(diǎn)自然也是整個(gè)格空間里的最優(yōu)候選格點(diǎn)。SD算法示意如圖2.2所示。

圖2.2　SD算法示意

如何確定超球半徑d是一個(gè)關(guān)鍵問(wèn)題。過(guò)大的超球半徑意味著超球中仍有很多格點(diǎn)，搜索的復(fù)雜度依然很高；過(guò)小的超球半徑則會(huì)導(dǎo)致超球內(nèi)不存在格點(diǎn)的情況出現(xiàn)。SD算法的另一個(gè)關(guān)鍵問(wèn)題是如何判斷一個(gè)格點(diǎn)是否在超球里，或者說(shuō)怎樣找到超球內(nèi)的格點(diǎn)，如果仍然在整個(gè)格空間內(nèi)窮舉，那么就和ML算法一樣了，SD就沒(méi)有意義了。對(duì)于第二個(gè)問(wèn)題，SD算法是這樣解決的：它通過(guò)QR（正交三角）分解把在m維超球內(nèi)尋找格點(diǎn)的問(wèn)題分解成在一維超球（一個(gè)區(qū)間）內(nèi)尋找格點(diǎn)的問(wèn)題的疊加。如果把ML算法的窮舉搜索看作樹的深度遍歷問(wèn)題，那么SD算法就可以看作樹的深度遍歷加剪枝的過(guò)程。針對(duì)如何確定合適的超球半徑d這一問(wèn)題，常見(jiàn)的做法是首先利用2.1.3小節(jié)介紹的ZF算法獲得發(fā)送符號(hào)估計(jì)向量，再由該估計(jì)向量通過(guò)式（2.18）計(jì)算距離，將這個(gè)距離設(shè)為超球半徑。

（2.18）

式（2.18）中的表示由ZF算法獲得的發(fā)送符號(hào)的硬值估計(jì)向量，d表示超球半徑。如果超球半徑采用這種計(jì)算方式，那么SD算法就可以拆解成兩個(gè)過(guò)程：首先進(jìn)行線性檢測(cè)獲取半徑，然后進(jìn)行超球搜索獲得估計(jì)向量。所以SD算法的復(fù)雜度要比線性檢測(cè)算法的復(fù)雜度高得多。這里使用SD算法作為評(píng)估其他檢測(cè)算法性能的標(biāo)準(zhǔn)。為了進(jìn)一步降低SD算法搜索的復(fù)雜度，這里直接利用真實(shí)的發(fā)送符號(hào)向量來(lái)計(jì)算超球半徑，省去了線性檢測(cè)的步驟，獲得了更完美的超球半徑，這樣可以大大縮減SD算法的仿真時(shí)間，但是這在實(shí)際的系統(tǒng)中是不可能做到的，這里僅僅是為了縮短SD算法仿真的時(shí)間。