在航空发动机等关键工业设备的预测性维护中，准确估计剩余使用寿命（RUL）对于保障安全、降低维修成本至关重要。传统的深度学习模型往往一味追求更复杂的网络结构，却忽略了工程师和领域专家积累的大量先验知识，例如：发动机退化过程具有因果性（当前状态只受过去影响）、不同运行条件（如海拔、温度）会改变退化速率、各传感器之间的物理距离决定了它们测量信号的耦合程度。提出模型将上述时间和空间先验信息显式地嵌入到注意力机制中，让模型在关注数据本身的同时，也能遵循已知的物理规律，从而在C-MAPSS数据集上取得了更精准、更鲁棒的RUL预测结果。

提出算法的核心在于让先验知识引导注意力，它不是简单堆砌层数，而是将工程经验转化为数学约束。时间维度上，通过因果掩码、距离衰减和工况相似性，让注意力聚焦于相关历史时刻；传感器维度上，利用物理距离矩阵强化邻近传感器的关联。这种设计既保留了Transformer强大的建模能力，又避免了纯数据驱动模型可能学到的虚假相关。

算法步骤：

第一步：数据预处理。从C-MAPSS数据集中筛选14个有效传感器，对传感器值和运行条件（OC）进行Z-score归一化，利用滑动窗口将每个发动机的时序数据切成长度为60的样本，并将RUL标签截断至125以内。

第二步：时间特征增强。将原始传感器序列送入由多个因果卷积块组成的TEM模块，通过堆叠的深度可分离卷积提取局部时间特征，同时保证因果性（只利用过去信息）。

第三步：时间注意力编码。将增强后的特征映射到高维空间，输入到带先验的时间多头注意力层。该层在计算注意力分数时，除了标准的QK点积，还融入了三项先验：①因果掩码（屏蔽未来时刻）；②时间距离衰减（越近的时刻权重越大）；③运行条件相似性（工况越相似，注意力权重越高）。

第四步：传感器注意力编码。将时间轴转置后，同样对传感器维度进行多头注意力，但先验改为传感器之间的物理距离矩阵——距离越近的传感器，注意力权重越大，以此模拟物理耦合关系。

第五步：跨通道融合与预测。将时间和传感器两个视角的特征分别压缩后拼接，利用ECA风格的通道注意力动态加权融合，最后通过全连接层输出RUL预测值。

第六步：训练与评估。使用MSE损失训练模型，并在测试集上计算RMSE和评分函数（Score），同时保存最佳模型。训练时采用多随机种子以保证结果稳定性。

    """
    构建时间注意力先验矩阵，包含：
    - 时间距离衰减（越近权重越大）
    - 运行条件相似性（工况越相似权重越大）
    
    oc: [B, T, 3] 运行条件（高度、马赫数、油门）
    返回: [B, 1, T, T] 先验矩阵（用于与注意力分数相乘）
    """
    B = oc.size(0)
    
    # 时间距离矩阵 |i - j|
    i = torch.arange(seq_len, device=device).view(seq_len, 1)
    j = torch.arange(seq_len, device=device).view(1, seq_len)
    dist_t = torch.abs(i - j).float()  # [T, T]
    
    # 运行条件相似性：计算每个时刻oc之间的欧氏距离的负指数
    oc_i = oc.unsqueeze(2)  # [B, T, 1, 3]
    oc_j = oc.unsqueeze(1)  # [B, 1, T, 3]
    oc_dist = torch.sum((oc_i - oc_j) ** 2, dim=-1)  # [B, T, T]
    oc_sim = torch.exp(-oc_dist)  # 相似度，距离越小值越大
    
    # 时间衰减：eta / (1 + |i-j|^|beta|)，越近衰减越小（权重越大）
    time_decay = self.eta / (1.0 + dist_t.unsqueeze(0) ** torch.abs(self.beta))
    
    # 组合先验：alpha * 时间衰减 * 工况相似度
    D = self.alpha * time_decay * oc_sim  # [B, T, T]
    return D.unsqueeze(1)  # 增加head维度，变为 [B, 1, T, T]

知乎学术咨询

https://www.zhihu.com/consult/people/792359672131756032?isMe=1

如果你对信号滤波/降噪，机器学习/深度学习，时间序列预分析/预测，设备故障诊断/缺陷检测/异常检测有疑问，或者需要论文思路上的建议，欢迎咨询

担任《MSSP》《中国电机工程学报》《宇航学报》《控制与决策》等期刊审稿专家，擅长领域：信号滤波/降噪，机器学习/深度学习，时间序列预分析/预测，设备故障诊断/缺陷检测/异常检测