system: [SYSTEM]

user: 3. 深度学习在无线传输的应用 随着DL技术在计算机视觉、自然语言处理等领域的成功应用，将DL技术应用于无线传输的物理层以适应越来越复杂的通行场景提成为无线通信领域的热门研究方向。早期的研究人们尝试与将DL技术应用在物理层的单个模块中，如帧同步模块、信道译码和信号检测等，以期获得优于传统通信算法的性能。虽然此方法设计得到的模块是可控且通用的，但是无法保证可以达到整个系统的全局最优，所以近年来的研究更加倾向于将神经网络对整个通信系统进行端到端的整体替代，因此本节也主要围绕以上两个方面进行详细的介绍。 3.1. 基于DL的帧同步模块 在无线链路传输中，传输数据包本应在预定的时间发送，并且接收机应该根据发送端的数据发送时间得知每个分组数据包的到达时间，但是，由于无线电信号和时钟的传播延迟的偏移，数据包到达的确切时间在接收端并不能确定。因此接收端通常使用传输数据包前面的前导序列判断一帧数据的开头，此操作称为帧同步。传统的帧同步方法是发送端选择一个自相关特性良好的序列作为同步序列，接收端将接收到的信号与本地同步序列进行滑动互相关，当互相关的值最大时的接收信号起始点作为同步头。此方法在SNR值较大时性能良好，但是当SNR的值很低时，由于随机噪声的影响经过无线信道传输后的同步序列不再有很好的自相关特性，进而降低了帧同步的准确性。文献 [ 1 ] 提出了一种基于CNN架构的帧同步算法，具体结构图6所示，该算法将一个由伪随机噪声作为同步序列的发送信号通过无线信道，经过脉冲成形和过采样后的数值与本地同步序列进行互相关，其输出的一维向量转换成一个二维矩阵，将二维矩阵作为输入给一个三层的二维CNN，每层CNN通过设置多个卷积核学出该二维图像的多个图像特征，增加激活函数来引入非线性因素，引入Dropout层防止过拟合，最后经过网络训练分类器的输出即为同步头的索引。仿真结果表明在低信噪比下，此算法的性能相较于传统同步算法具有明显的提升。这是因为SNR的值较低时，由于过采样效应的影响，相关器的输出值在同步头附近多次采样的平均值接近正态分布，传统基于相关性的帧同步方法忽略了其输出的分布形状而仅去寻找最大值，但是，基于CNN的帧同步方法根据图像处理的原则不仅考虑了最大值，而且考虑了相关值的形状，从而更准确的找到了同步头，这就是CNN分类器的优点。 图6. 基于CNN架构的帧同步模块 3.2. 基于DL的信道译码模块 移动通信中存在干扰和衰落，在信号传输过程中可能出现差错，故对数字信号必须采用纠、检错技术，以增强数据在信道中传输时抵御各种干扰的能力，提高系统的可靠性。因此发送端要对发送信号进行纠、检错编码，这就是信道编码，相应地在接收端需要进行信道译码。将ML应用于信道译码技术的研究在1990年就开始进行，DL技术在此领域的研究更是取得了明显的研究成果，主要有以下几个原因。首先信道译码技术主要就是对经过QAM解调后的比特数据进行处理，因此可以非常直接的当做神经网络的输入或输出信号。其次，信道译码中所运用的码字是一种人为定义的码本，进行样本的采集和标签的获得都非常容易，这为神经网络的训练提供了足够多的训练数据，与此同时，训练样本由于信道噪声的影响增添了随机性，防止了神经网络的过拟合。最后，由于传统信道译码算法大多为迭代式算法，复杂度高、运算时间较长，难以满足系统实时传输的要求，而基于DL技术的信道译码模块却可以直观的通过前向传播运算得到结果，大大降低了运算时间。 图7. 基于DNN的BP译码器 一种基于DNN架构的译码器在文献 [ 2 ] 中被提出，具体结构如图7所示，该译码器可以很好的改善高密度奇偶校验码的BP算法的译码性能。传统的BP译码器可以用Tanner图进行表示，Tanner图内有校验节点和变量节点两种，变量节点均和多个校验节点连接，每进行一次迭代运算，每个变量(校验)节点都会将其从其他校验(变量)节点处汇总得到的信息传输给任一个与之相连的校验(变量)节点。对于DNN架构来说，可以将进行K次迭代的运算扩展成一个具有2K层隐藏层的神经网络，每层隐藏层的神经元代表Tanner的一条边，由于每次迭代的Tanner结构不变，因此每层隐藏层神经元个数相同，神经元的输出即为变量(校验)节点传输至其他校验(变量)节点的信号，与传统的BP算法不同的是，由于每个神经元均对应多个与之连接神经元的权重，因此，此码器给Tanner图的每条边赋予了权重值。该译码器的输入为码字的N维对数似然比(Log-Likelihood ratios， LLRs)，输出为N个经过译码的比特。文中首先采用线性码中的全零码进行训练，在AWGN信道中进行样本采样，在含有10层隐藏层的架构中译码BCH(15，11)后获得了接近最大似然比的结果；而在译码大密度的BCH码时性能虽然有所下降，但由于经过带权的Tanner图的边进行信号传输可以对小环效应进行补偿，该译码器BER性能仍明显优于传统的BP算法。文献 [ 3 ] 将上述的基于DNN架构的BP译码器优化成RNN结构，每次迭代校验节点的输入反馈称对应的变量节点的输入，网络的时间层与迭代次数相同，RNN架构与DNN架构相比大大减少了训练参数，但却可以获得和DNN架构相近的性能。 文献 [ 4 ] 提出了另外一种DNN架构的译码器，名为神经网络译码器(Neural Network Decoder， NND)，具体架构如图8所示。首先发送端将含K个信息比特的信号经过编码器得到长度为$N$的码字，该数据通过含AWGN的无线信道后由发送端接受，发送端经过解调后将码字通过LLR生成器，产生N维LLR作为译码器的输入，通过含3个隐藏层的DNN恢复成K个比特。文献仿真中将16比特的极化码通过该译码器，可以得到近似最大后验概率的性能。该结构网络结构简单，不含有迭代运算，计算延迟短。但是随着信息比特的增加，该译码器的性能明显降低，且由于训练过程中的SNR不同，实际测试阶段的性能也会变化。对于NND译码器无法适用于较长码字译码的缺点，文献 [ 5 ] 提供了一种新的解决方案，考虑到上述网络可以并行的特点，文中将极化码拆分为多个子码，在译码器模块中使用多个上述的NND译码器，每个NND译码一组子码，每个NND模块单独训练使每个NND均得到近似最大后验概率的性，此方法为解决长码字译码提供了新的思路。 图8. NND译码器结构示意图 3.3. 基于DL的信号检测模块 随着通信终端多样化、通信场景复杂化以及通信速率要求越来越高，大规模MIMO和毫米波通信系统在性能提升和频谱资源利用等方面受到了极大的关注，由此也带来了信道建模和信号检测复杂度的提升。而基于DL技术的信号检测可将传统迭代式检测算法展开，以层次化架构高效精确端的得到检测结果。文献 [ 6 ] 提出的一种基于DL技术的信号检测结构DetNet，该检测器将接收信号y和信道矩阵H作为输入，DetNet将一种用于最大似然优化的梯度下降算法展开成神经网络的结构，此算法的迭代公式为： x ^ ( k + 1 ) = Π ( x ^ ( k ) − δ k ∂ ‖ y − H x ‖ 2 ∂ x ) = Π ( x ^ ( k + 1 ) − δ k H T y + δ k H T H x ( k ) ) (9) 其中 x ^ ( k ) 表示第K次迭代的结果， δ k 表示步长， Π ( ⋅ ) 函数表示非线性投影运算。将上述迭代算法展开到神经网络，具体表达式为： z ( k ) = R ( W 1 k [ H T y x ^ ( k ) H T H x ^ ( k ) v ( k ) ] + b 1 k x ^ ( k + 1 ) = ψ t k ( W 2 k z ( k ) + b 2 k ) V ^ ( k + 1 ) = W 3 k Z ( k ) + b 3 k x ^ ( 1 ) = 0 (10) 其中 R ( ⋅ ) 表示Relu激活函数， ψ ( ⋅ ) 表示自主定义的分段线性软符号算子。DetNet检测器的单层架构如图9所示，若该算法迭代K次，则有K个上图所示架构首尾连接。DetNet检测器将所有层的输出与标签之间的差距作为代价函数，采用Adam优化器进行训练。文献中在固定信道(Fixed Channel， FC)模型和变化信道(Varying Channel， VC)模型两种信道条件下进行仿真，与传统的近似消息传递(Approximate Massage Passing， AMP)算法和半定松弛(Semidefinite Relaxation， SDR)算法进行BER性能对比，其中SDR算法可以看成一个参考的下界。仿真结果表明，在两种信道模型下训练，DetNet检测器的性能均优于AMP算法，且接近SDR算法，但运算时间比SDR算法缩短了30倍，这说明DetNet检测器在不同信道场景下具有很好的鲁棒性，而为了进一步降低处理时间，DetNet检测器也可以适当的减少迭代层数，用可以接受的性能损失来均衡模块的实时处理的要求。 图9. DetNet检测器单层结构示意图 文献 [ 7 ] 指出在真实的无线传输系统中，往往存在着符号间干扰(Inter Symbol Interference， ISI)的情况，即发射端的信号由于多径传播在接收时相互重叠而产生干扰，此时进行序列检测而非符号检测可以得到更好的性能。因此，文中提出一种基于LSTM网络架构的检测器，LSTM属于RNN网络的一种。该网络含有K个LSTM层，后接一层激活函数为Softmax的全连接层。Softmax激活函数的表达式为： Softmax ( x ) = e x ∑ j e x j (11) 每一层LSTM的输出均由当前的接收信号和之前 K − 1 个时刻的接收信号共同决定，充分利用LSTM具有记忆性的特点，很好的消除了符号间干扰的影响。该检测器没有经过复杂的迭代运算，网络结构简单，运算时间较短，与此同时，RNN网络权重共享的特性也可以更好的减少训练参数，加快收敛速度。仿真结构表明，该检测器相对于传统检测算法在含有ISI的系统下BER性能提升明显。 3.4. 基于DL的OFDM接收机 DL技术除去应用在单个物理层模块来提高性能以外，也可作为一个整体嵌入接收机中。例如，文献 [ 8 ] 中提出的基于神经网络的FC-DNN接收机。文中将1个数据符号和1个导频符号组成一帧，经过OFDM调制(文中OFDM符号子载波个数为64)和加循环前缀(Cyclic Prefix， CP)的操作化通过上行链路传输，在接收端将经过OFDM解调后的复值数据分成实值和虚值两部分，后直接输入一个5层全连接的DNN网络进行线下训练，完成信道估计、信号检测和QAM解调，引入Sigmoid激活函数使得最后的输出区间为 [ 0 ， 1 ] ，随后引入门限判决，即若输出的值大于0.5，则判定为1；若小于0.5，则判定为0，从而得到最后的发送比特。FC-DNN采用MSE函数作为损失函数，具体表达式为： L = 1 N ∑ i = 1 N ( b ^ s ( i ) − b ( i ) ) 2 (12) 其中 b ^ s ( i ) 为未经过门限判决之前的输出， b ( i ) 为标签值即原始发送比特，N为估计的比特数。并利用Adam优化器进行线下训练，训练完成后嵌入OFDM接收机进行线上测试。具体架构如图10所示。该算 图10. FC-DNN接收机结构示意图 法与传统MMSE算法相比，BER性能接近，但是当发送端在去掉CP或者是抑制峰均功率比等非线性条件下，FC-DNN的BER性能明显优于传统的MMSE算法。由于FC-DNN采用纯数据驱动的方式搭建网络，将整个接收机看成一个黑盒子，使得其内部机制缺乏可解释性，因此需要大量的样本数据进行网络训练且收敛速度较慢，更重要的是此算法无法得到信道估计模块中的信道矩阵，这对下行链路传输预编码模块的功能实现产生了挑战。针对上述问题，文献 [ 9 ] 提出了一种基于模型驱动的ComNet接收机，该方法仍是基于DNN的网络架构，没有将接收器视为一个整体，而是将OFDM接收器分为信道估计模块和信号检测模块，信道估计模块由一个仅包含输入层和输出层的神经网络组成，信号检测模块由一个包含输入层、隐藏层和输出层的3层神经网络组成，该接收机使用现有的传统通信算法的结果作为输入，充分结合了无线通信知识，与传统接收器和FC-DNN接收器相比，此模型驱动的DL框架显示出更好的性能，同时包含的训练参数更少，并且收敛速度比FC-DNN接收机快。尽管ComNet接收机实际上是一个单输入单输出(Single Input Single Output， SISO)的接收机，其模型驱动的思想仍然给MIMO接收机的设计提供了良好的思路。