微信公众号：EW Frontier关注可了解更多的雷达、通信、人工智能相关代码。问题或建议，请公众号留言;如果你觉得EW Frontier对你有帮助，欢迎加入我的知识星球或面包多，更多代码等你来学知识星球：https://wx.zsxq.com/dweb2/index/group/15552518881412面包多：https://mbd.pub/o/author-a2mYl2tsbA==/work

QQ交流群：1022600869

注：本文为参考文章~代码为对其部分内容进行复现~

摘要

自动调制识别（AMR）技术被认为是非协作通信和智能通信的一种有效技术。本文提出了一种改进的基于变换器的AMR方法--逐帧嵌入辅助Transformer（FEA-T），旨在提取信号的全局相关性特征，以获得更高的分类精度和更低的时间开销。为了增强Transformer的全局建模能力，设计了一个帧嵌入模块（FEM），在嵌入阶段将更多的样本聚合到一个令牌中，生成更高效的令牌序列。通过分析各Transformer层的表示能力，提出了一种在速度和性能之间取得较好平衡的最佳帧长。此外，我们设计了一种新颖的双分支门线性单元（DB-GLU）方案用于Transformer的前馈网络，以减小模型尺寸并提高性能。在RadioML 2018. 01 A数据集上的实验结果表明，与其他方法相比较，所提方法的识别率更高，识别时间更短，识别效率更高，具有较好的应用前景.

引言

自适应调制识别（AMR）的目的是在未知的信道和噪声条件下从接收信号中识别调制方案。作为通信接收机中的关键技术，AMR在各种军事和民用应用中得到了广泛的研究[1]。传统的AMR方法可以分为基于似然（LB）的方法[2]和基于特征（FB）的方法[3]。LB方法通过计算相应的似然来估计调制类型。这些方法在计算上是昂贵的，并且通常需要传输环境的理想参数估计。FB方法使用手动特征执行分类。这些方法可以以较低的计算复杂度实现次优性能，但需要稳健的特征工程。近年来，大量基于深度学习的AMR算法被提出，其性能显著优于传统方法。

早期研究[4]、[5]、[6]倾向于构建基于卷积神经网络（CNN）的DL-AMR模型以通过提取局部特征来区分调制模式。然而，强的局部归纳偏差限制了CNN的性能。通过连续提取时间特征，基于递归神经网络（RNN）的方法[7]可以以更高的时间成本为代价胜过基于CNN的方法。已经提出了更多的方法来将联合收割机CNN与RNN结合起来，以同时充分利用时间和空间信息[8]，[9]，[10]，[11]。虽然这些方法可以达到最先进的精度，需要大量的参数，这使得它很难平衡的性能和时间成本。

Transformer已经成为自然语言处理任务的事实架构，并在计算机视觉和语音分离方面取得了巨大成功[12]。与RNN和CNN相比，Transformer并行处理序列输入，并用多头自注意（MHSA）机制取代局部感应偏差。以这种方式，可以提取更常见的全局特征。最近，开发了一些基于变压器的高性能方法[13]，[14]用于AMR。然而，由于这些方法通常包含CNN或RNN块进行特征嵌入，因此仍然需要较大的计算复杂性和内存消耗，因为强归纳偏差或串行前向传播仍然存在。一般情况下，调制信号通常传输没有语义信息的比特序列，并且每个调制符号以均匀的概率出现在波形中。因此，AMR任务的更有价值的特征应该均匀地分布在波形中。这些特征的提取不应在局部偏差假设范围内。

在这些各种基于DL的AMR方法中，几乎没有尝试全局地分析信号。在此背景下，我们提出了一种基于transformer的AMR方法称为逐帧嵌入辅助Transformer（FEA-T），同时实现高性能和快速运行速度的援助下的全球功能。具体来说，为了提高准确性和克服局部性的限制，我们设计了一个框架式嵌入模块（FEM）的全局特征嵌入。此外，一个双分支门控线性单元（DB-GLU）开发的Transformer，以减轻模型大小的问题，提高分类性能。此外，我们推导出FEM模块的最佳帧长度，以充分激活Transformer的表示能力，从而获得最佳精度。本研究的贡献总结如下。

1)本文提出利用全局特征进行AMR，并给出了一种可行的方案，避免了局部特征的缺陷，满足AMR任务快速、高性能的要求。

2)我们提出了一个实用的结构修改的Transformer，使其更适合于AMR应用程序中的轻量级部署。

文章插图

结论

在这封信中，提出了一种有效的基于变压器的AMR方法，以实现更高的精度和运行速度在同一时间。我们的关键策略是重新设计AMR任务的特征嵌入模块，并实现一个更轻量级的Transformer结构。在特征嵌入阶段，我们提出了用于全局特征嵌入的FEM模块。此外，我们开发了Transformer的最佳帧长度，以实现最佳精度。此外，我们设计了DB-GLU结构来实现Transformer的FFN，以获得比传统Transformer结构更好的性能和更小的模型尺寸。实验结果表明，提出的模型在分类精度和运行速度上均优于其他方法，更适合于实时通信应用。

完

相关学习资料见面包多链接https://mbd.pub/o/author-a2mYl2tsbA==/work。

欢迎加入我的知识星球：https://wx.zsxq.com/dweb2/index/group/15552518881412，永久获取更多相关资料、代码。