《Processes》:Self-Supervised CNN–Transformer Anomaly Detection for Bearing Health Monitoring
编辑推荐:
可靠的轴承故障检测对于工业系统中的预测性维护至关重要;然而,获取标记的故障数据通常成本高昂、耗时且在实际部署中不切实际。为应对这一挑战,本研究提出了一种仅基于健康数据的自监督异常检测框架,用于基于振动测量的轴承健康监测。所提出的方法结合了卷积神经网络(CNN)
可靠的轴承故障检测对于工业系统中的预测性维护至关重要;然而,获取标记的故障数据通常成本高昂、耗时且在实际部署中不切实际。为应对这一挑战,本研究提出了一种仅基于健康数据的自监督异常检测框架,用于基于振动测量的轴承健康监测。所提出的方法结合了卷积神经网络(CNN)和基于Transformer的时序建模,从健康振动信号中学习信息性表示,而在表示学习过程中无需故障标签。研究人员研究了三种自监督学习策略——基于重建的、对比性的以及统一的对比-重建目标——以评估不同表示学习方法的有效性。随后,使用孤立森林(Isolation Forest)和马氏距离(Mahalanobis-distance)异常评分方法对学习到的潜在表示进行分析。为提供泛化能力的现实评估,采用了严格的分组交叉验证协议,在样本级别对数据进行划分以防止训练集与测试集之间的信息泄露。此外,在5%和10%的故障发生率场景下进行了基于患病率的实验,以评估部署鲁棒性。在帕德博恩轴承数据集(Paderborn bearing dataset)上的实验结果表明,采用结合对比和重建目标训练的CNN + Transformer模型,并使用孤立森林进行评估,取得了最佳整体性能,其ROC-AUC为、PR-AUC为、F1-score为。该结果持续优于基于经典特征的方法、一类支持向量机(One-Class SVM)和自编码器基线。消融分析进一步表明,结合对比和重建目标比单独使用任一目标能产生更具信息性的表示。研究结果表明,所提出的仅健康数据的自监督框架为滚动轴承异常检测提供了一种有效且标签高效的方法,并在标记故障数据有限或不可用的预测性维护应用中显示出前景。
**论文解读:自监督CNN-Transformer轴承健康监测异常检测**
**研究背景与问题**
在工业系统中,滚动轴承是关键机械部件,其故障是设备停机的主要原因之一。传统的振动监测方法依赖手工特征提取与监督学习,但标记故障数据难以获取且成本高昂,实际工业环境中正常数据占主导,故障数据稀缺。针对这一挑战,需要一种仅利用健康数据进行训练的异常检测方法,以降低对标记故障数据的依赖。本研究旨在提出一种健康数据自监督学习框架,结合卷积神经网络(CNN)和Transformer时序建模,实现轴承健康监测中的异常检测,为预测性维护提供高效、标签经济的技术方案。
**研究人员开展的研究、结论与意义**
研究人员在《Processes》期刊上发表了题为“自监督CNN-Transformer轴承健康监测异常检测”的论文。该研究提出了一种仅使用健康振动数据的自监督异常检测框架,利用CNN-Transformer编码器从原始振动信号中学习表征,并采用三种自监督策略(重建、对比以及联合对比-重建)进行训练,随后使用孤立森林(Isolation Forest)或马氏距离进行异常评分。实验基于帕德博恩轴承数据集(Paderborn bearing dataset),使用严格的三折样本级分组交叉验证,并模拟5%和10%的低故障发生率场景评估鲁棒性。结果表明,联合对比-重建自监督学习模型结合孤立森林取得了最佳性能,ROC-AUC为0.972±0.010,PR-AUC为0.989±0.003,F1-score为0.608±0.030,显著优于经典特征方法、一类支持向量机(One-Class SVM)和自编码器基线。该研究证明了健康数据自监督学习在滚动轴承异常检测中的有效性,为工业预测性维护中标签数据匮乏的场景提供了可行方案。
**关键技术方法**
研究人员主要采用以下关键技术方法:(1)CNN-Transformer混合编码器:三个一维卷积层(核大小7、5、3,步长2)提取局部特征,后接两个Transformer编码器层(4头注意力)进行时序建模,经全局平均池化得到64维嵌入向量。(2)三种自监督学习策略:对比学习(基于NT-Xent损失,正样本对来自同一测量文件的两个窗口,经高斯噪声、幅度缩放、时间位移增强)、重建学习(MSE损失)、联合对比-重建学习(加权损失,权重系数1.0)。(3)异常检测方法:孤立森林(Isolation Forest)和马氏距离,在嵌入空间进行评分,阈值基于健康验证集第95百分位数校准。(4)评估协议:样本级分组三折交叉验证(防止窗口级数据泄露),并模拟5%和10%故障发生率场景。样本队列来自帕德博恩轴承数据集,固定工况N15_M07_F10(转速1500 rpm,负载扭矩0.7 N·m,径向力1000 N),共580个测量记录(120健康、460故障),信号以64 kHz采样,切割为1024点窗口(步长512点)。
**研究结果**
**4.1 训练行为**:自编码器、对比自监督学习(CNN-only和CNN+Transformer)以及完整自监督学习模型的训练损失均稳定下降,表明模型成功收敛。
**4.2 实验性能比较**:在三折交叉验证中,基于经典手工特征的方法(孤立森林、一类支持向量机)表现中等,自编码器基线最弱(ROC-AUC约0.5)。Deep SVDD获得ROC-AUC 0.654±0.014,PR-AUC 0.891±0.005,F1-score 0.422±0.021。所有自监督模型均优于上述基线,其中CNN+Transformer完整自监督学习模型(联合对比-重建目标)结合孤立森林取得最佳性能:ROC-AUC 0.972±0.010,PR-AUC 0.989±0.003,F1-score 0.608±0.030。对比单独CNN或对比学习模型,Transformer层和联合目标均带来性能提升。
**4.3 线性探测评估**:在冻结的CNN+Transformer对比自监督编码器嵌入上训练线性分类器,平均ROC-AUC达0.978,表明故障相关信息已有效编码在潜在空间中。
**4.4 ROC与精确率-召回率分析**:最佳模型的ROC曲线显示健康与故障窗口高度分离,PR曲线在类别不平衡下仍保持高AUC。
**4.5 异常分数分布与混淆矩阵**:健康与故障窗口的异常分数分布明显分离,模型具有高精确率和高特异性,但召回率相对较低(部分故障窗口被误判为健康)。
**4.6 潜在空间可视化**:PCA和t-SNE投影显示健康与故障窗口在嵌入空间中部分分离,支持定量结果。
**4.7 低故障发生率下的鲁棒性**:在5%和10%故障发生率下,模型特异性保持在0.94以上,ROC-AUC稳定在0.770-0.842之间,表明在高度不平衡条件下仍稳健。
**4.8 讨论**:对比学习主导表征判别性,重建学习提供互补正则化;孤立森林优于马氏距离,表明嵌入空间非高斯分布。样本级分组评估避免了信息泄露,提高了性能估计的可信度。该框架适用于健康数据丰富、故障标签稀缺的工业场景。
**研究结论**:本研究提出了一种结合卷积神经网络与Transformer时序建模的自监督学习框架,用于轴承异常检测,仅使用健康数据进行训练。实验表明,联合对比-重建目标与孤立森林相结合的方法取得了最佳性能,ROC-AUC为0.972±0.010,PR-AUC为0.989±0.003,F1-score为0.608±0.030。消融研究证实对比学习在产生判别性表征中起主导作用,重建学习提供补充正则化。在5%和10%故障发生率下的评估表明框架在高度不平衡场景中保持鲁棒性。尽管取得了良好的排序性能(ROC-AUC和PR-AUC),但F1-score中等,表明阈值选择和决策校准仍有改进空间。结论基于帕德博恩轴承数据集子集,需在更多数据集和工况下验证。未来工作将聚焦于多数据集验证、自适应阈值选择、域自适应及边缘设备轻量化部署。