Python轴承故障诊断 | 多尺度特征交叉注意力融合模型

作品简介

基于 FFT-VMD + BiTCN-BiGRU-CrossAttention 的诊断模型

此代码已经继续加入 轴承故障—交叉注意力创新模型 全家桶:轴承故障—交叉注意力创新模型全家桶 (mbd.pub)

全家桶包括以下内容:

  1. 轴承故障:基于交叉注意力特征融合的VMD+CNN-BiLSTM-CrossAttention故障识别模型 (mbd.pub)
  2. 轴承故障:交叉注意力机制融合时域、频域特征的FFT + CNN-BiLSTM-CrossAttention识别模型 (mbd.pub)
  3. 轴承故障:交叉注意力机制融合时域、频域特征的FFT + CNN-Transform-CrossAttention识别模型 (mbd.pub)
  4. Python轴承故障诊断 (14)高创新故障识别模型 (mbd.pub)
  5. Python轴承故障诊断 (16)高创新故障识别模型(二) (mbd.pub)
  6. Python轴承故障诊断 (20)高创新故障识别模型(三) (mbd.pub)

推荐--全家桶,性价比更高!!

● 数据集:经测试,模型在CWRU西储大学轴承数据集 和 哈工大航天发动机轴承数据集上表现分类准确率 均为100%!

● 环境框架:python 3.9  pytorch 1.8 及其以上版本均可运行

● 准确率:测试集100%

● 使用对象:论文需求、毕业设计需求者

● 代码保证:代码注释详细、即拿即可跑通。

论文创新!!!

交叉注意力机制能够对不同特征之间的关联程度进行建模,从故障信号频域、时域特征中属于提取出对模型识别重要的特征,效果明显

包括 完整的轴承故障数据集, 以及已经生成制作好的故障信号数据集、分类数据和标签集,对应代码均可以运行,还有快速傅里叶变换FFT示例

50个epoch,准确率100%,用FFT-VMD + BiTCN-BiGRU-CrossAttention网络分类效果显著,模型能够充分提取轴承故障信号的空间和时序特征和频域特征,收敛速度快,性能优越, 迄今为止,是目前往期文章方法中精度最高的方法。创新度也有!!!

包括数据预处理的代码,和FFT-VMD + BiTCN-BiGRU-CrossAttention分类代码

任何环境安装或者代码问题,请联系作者沟通交流,对于购买者,作者免费解决后续问题,关注微信公众号[建模先锋],联系作者;

导读.png

交叉注意力全家桶2.png

全网最低价,创新网络分类效果显著,模型能够充分提取轴承故障信号的空间、时序特征和频域特征,收敛速度快,性能优越, 精度高。创新度也有!!!高性价比、高质量代码,大家可以了解一下:(所有全家桶模型会不断加入新的模型进行更新!后续会逐渐提高价格,越早购买性价比越高!!!

https://mbd.pub/o/bread/ZZ6TmZds


注意:我们还有配套的模型讲解(方便学习网络结构)和参数调节讲解!有毕业设计或者发小论文需求的同学必看,模块丰富,创新度高,性能优越!!

文件解读.png


创新度高,效果明显!!创新点:

1.预处理部分:结合快速傅里叶变换FFT和变分模态分解VMD来进行信号的时频、域特征提取,能够挖掘故障信号中的多尺度特征;


2.然后是利用BiTCN网络提取故障信号预处理后的多尺度特征的空间特征,用BiGRU提取故障信号预处理后的多尺度特征的时域特征;


3.最后利用交叉注意力进行时空特征的融合,从而提高特征的表示能力来实现故障信号的识别

前言

本文基于凯斯西储大学(CWRU)轴承数据,进行快速傅里叶变换(FFT)和变分模态分解VMD的数据预处理,最后通过Python实现基于交叉注意力 BiTCN-BiGRU-CrossAttention的时空特征融合模型对故障数据的分类。凯斯西储大学轴承数据的详细介绍可以参考下文:


Python-凯斯西储大学(CWRU)轴承数据解读与分类处理


1 模型整体结构

1.1 模型整体结构如下所示:

封面.png

一维故障信号分别经过FFT变换、VMD分解处理,然后把变换分解后的结果进行堆叠,通过BiTCN、BiGRU网络提取空间、时域特征,最后通过使用交叉注意力机制融合时域和频域的特征。可以通过计算注意力权重,使得模型更关注重要的特征,提高模型性能和泛化能力。


1.2 创新点详细介绍:

当处理故障信号时,时频域特征提取是非常重要的,而结合快速傅里叶变换( FFT )和变分模态分解( VMD )可以有效地挖掘信号中的多尺度特征。


(1)预处理——FFT:

FFT 是一种广泛应用的频域分析方法,可以将信号从时域转换到频域,得到信号的频谱信息。通过 FFT ,我们可以获取信号在不同频率上的能量分布,进而了解信号的频率成分。然而, FFT 只提供了信号在某个时刻的频谱信息,无法反映信号随时间的变化。


(2)预处理——VMD:

为了解决这个问题,可以引入变分模态分解( VMD )。 VMD 是一种基于信号自适应调整的模态分解方法,可以将信号分解为一系列模态函数,每个模态函数代表信号在不同尺度上的特征。通过 VMD ,我们可以获得信号在不同尺度上的时域特征信息。


(3)预处理——特征融合:

结合 FFT VMD ,可以先利用 FFT 将信号转换到频域,得到信号的频谱信息。然后,同时对故障信号应用 VMD ,将其分解为一系列模态函数。这些模态函数代表了信号在不同尺度上的时域特征。通过分析这些信息,我们可以挖掘故障信号中的多尺度特征,从而更好地理解信号的时频特性。 这种方法能够更全面地分析信号,有助于故障检测与诊断等应用场景中的信号处理任务。 我们把经过 FFT VMD 提取的多尺度特征融合后,作为创新网络模型的输入,送入网络中去训练。


(4)创新网络模型——BiTCN空间特征提取:

  • 输入:融合FFT、VMD的特征
  • 操作:BiTCN包含两个方向的卷积操作,分别用于正向和反向的时间序列数据。BiTCN使用了时空卷积操作,将卷积核在时间和空间维度上同时滑动,以获取序列数据中不同时间点和空间位置的特征信息。
  • 输出:能够有效地捕捉序列数据中的局部模式和全局趋势。

(5)创新网络模型——BiGRU 时序特征提取:

  • 输入:融合FFT、VMD的特征
  • 操作:BiGRU网络学习序列信息,关注重要的时序特征
  • 输出:经BiGRU处理后的时序特征表示,具有更好的故障信号时序建模能力。

(6)多尺度特征融合 ——交叉注意力机制特征融合:

  • 输入:BiTCN提取的空间特征,BiGRU提取的时序特征
  • 交叉注意力机制:使用交叉注意力机制融合时域和频域的特征。可以通过计算注意力权重,使得模型更关注重要的特征,提高模型性能和泛化能力


2 轴承故障数据的预处理

2.1 导入数据

参考之前的文章,进行故障10分类的预处理, 凯斯西储大学轴承数据 10分类数据集:

10分类故障图.png

train_set、val_set、test_set 均为按照7:2:1划分训练集、验证集、测试集,最后保存数据


2.2 故障FFT变换可视化

FFT可视化.png


2.3 故障VMD分解可视化

故障分解图.png


2.4 故障数据的特征预处理数据集制作

数据集制作.png


3 交叉注意力机制

交叉注意力机制.png


3.1 Cross attention概念

  • Transformer架构中混合两种不同嵌入序列的注意机制
  • 两个序列必须具有相同的维度
  • 两个序列可以是不同的模式形态(如:文本、声音、图像)
  • 一个序列作为输入的Q,定义了输出的序列长度,另一个序列提供输入的K&V

3.2 Cross-attention算法 

  • 拥有两个序列S1、S2
  • 计算S1的K、V
  • 计算S2的Q
  • 根据K和Q计算注意力矩阵
  • 将V应用于注意力矩阵
  • 输出的序列长度与S2一致

公式222.png


在融合过程中,我们将经过BiTCN时空卷积操作的空间特征作为查询序列,BiGRU输出的时序特征作为键值对序列。通过计算查询序列与键值对序列之间的注意力权重,我们可以对不同特征之间的关联程度进行建模。

4 基于FFT-VMD+BiTCN-BiGRU-CrossAttention的轴承故障诊断分类

4.1 定义FFT-VMD+BiTCN-BiGRU-CrossAttention分类网络模型

模型结构.png


4.2 设置参数,训练模型

模型训练.png

50个epoch,准确率99%,用FFT-VMD+BiTCN-BiGRU-CrossAttention网络分类效果显著, 快速傅里叶变换( FFT )和变分模态分解( VMD )可以有效地挖掘信号中的多尺度特征,创新 模型能够充分提取轴承故障信号的空间和时序特征,收敛速度快,性能优越, 精度高,交叉注意力机制能够对不同特征之间的关联程度进行建模,从故障信号频域、时域特征中属于提取出对模型识别重要的特征,效果明显 创新度高!


注意调整参数:

  • 可以适当增加BiTCN层数和每层的通道数维度,微调学习率;
  • 调整BiGRU层数和每层神经元个数,增加更多的 epoch (注意防止过拟合)
  • 可以改变一维信号堆叠的形状(设置合适的长度和维度)


4.3 模型评估

准确率、精确率、召回率、F1 Score

模型评估.png

故障十分类混淆矩阵:

混淆矩阵.png

面包多.png


往期精彩内容:

Python-凯斯西储大学(CWRU)轴承数据解读与分类处理

Python轴承故障诊断 (一)短时傅里叶变换STFT

Python轴承故障诊断 (二)连续小波变换CWT

Python轴承故障诊断 (三)经验模态分解EMD

Pytorch-LSTM轴承故障一维信号分类(一)

Pytorch-CNN轴承故障一维信号分类(二)

Pytorch-Transformer轴承故障一维信号分类(三)

Python轴承故障诊断 (四)基于EMD-CNN的故障分类

Python轴承故障诊断 (五)基于EMD-LSTM的故障分类

Python轴承故障诊断 (六)基于EMD-Transformer的故障分类

Python轴承故障诊断 (七)基于EMD-CNN-LSTM的故障分类

Python轴承故障诊断 (八)基于EMD-CNN-GRU并行模型的故障分类

基于FFT + CNN - BiGRU-Attention 时域、频域特征注意力融合的轴承故障识别模型

基于FFT + CNN - Transformer 时域、频域特征融合的轴承故障识别模型

Python轴承故障诊断 (九)基于VMD+CNN-BiLSTM的故障分类

Python轴承故障诊断 (十)基于VMD+CNN-Transfromer的故障分类

Python轴承故障诊断 (11)基于VMD+CNN-BiGRU-Attenion的故障分类

交叉注意力融合时域、频域特征的FFT + CNN -BiLSTM-CrossAttention轴承故障识别模型

交叉注意力融合时域、频域特征的FFT + CNN-Transformer-CrossAttention轴承故障识别模型

Python轴承故障诊断入门教学

Python轴承故障诊断 (13)基于故障信号特征提取的超强机器学习识别模型

Python轴承故障诊断 (14)高创新故障识别模型

Python轴承故障诊断 (15)基于CNN-Transformer的一维故障信号识别模型

Python轴承故障诊断 (16)高创新故障识别模型(二)

独家原创 | SCI 1区 高创新轴承故障诊断模型!

Python轴承故障诊断 (18)基于CNN-TCN-Attention的创新诊断模型

基于 GADF+Swin-CNN-GAM 的高创新轴承故障诊断模型

注意力魔改 | 超强轴承故障诊断模型!

轴承故障—交叉注意力创新模型全家桶

Python轴承故障诊断 (19)基于Transformer-BiLSTM的创新诊断模型


END

1. 版权声明:原创不易,转载请注明转自微信公众号[建模先锋]

2. 喜欢的朋友可以点个关注,给文章点个“在看”,分享朋友圈或讨论群

3. 关注微信公众[建模先锋], 回复”轴承故障“免费获取凯斯西储大学轴承数据集

创作时间: