《Engineering Applications of Artificial Intelligence》:Dual explanations via subgraph matching for malware detection
编辑推荐:
可解释的恶意软件检测对于理解有害行为以及建立对自动化安全系统的信任至关重要。传统的图神经网络(Graph Neural Network, GNN)可解释方法通常突出显示图中的重要区域,但无法将其与已知的良性或恶性行为模式相关联。这一局限性降低了其在安全环境中的
可解释的恶意软件检测对于理解有害行为以及建立对自动化安全系统的信任至关重要。传统的图神经网络(Graph Neural Network, GNN)可解释方法通常突出显示图中的重要区域,但无法将其与已知的良性或恶性行为模式相关联。这一局限性降低了其在安全环境中的实用性,因为在安全环境中,与经过验证的原型(prototype)对齐是必不可少的。在本研究中,研究人员引入了一种新颖的双原型驱动可解释框架,用于解释基于GNN的恶意软件检测决策。该双重可解释框架将一个基础解释器(state-of-the-art explainer)与基于子图匹配技术设计的第二级解释器——称为SubMatch解释器——相集成。所提出的解释器根据节点与匹配子图的关联为其分配可解释的分数,在良性区域和恶性区域之间提供细粒度的区分。这种原型引导的评分机制能够产生更具可解释性、与行为对齐的解释。实验结果表明,该方法在保持高检测性能的同时,显著提升了恶意软件分析中的可解释性。
**研究背景与问题**
图神经网络(Graph Neural Network, GNN)作为处理结构化数据的强大工具,已在社交网络、化学和网络安全等多个领域展现出优异性能。在恶意软件检测领域,GNN尤为适用,因其能够建模复杂的程序结构,如控制流图(Control Flow Graph, CFG)。CFG能够捕捉二进制程序的执行行为,而GNN通过利用这些图中的拓扑信息和语义关系,可以识别传统技术常常遗漏的细微恶意模式。动态提取的PE文件CFG提供了丰富的行为信号,使GNN能够学习对应于恶意意图或良性操作的模式。
尽管GNN在恶意软件检测中表现令人印象深刻,但其黑箱性质给理解和信任其决策带来了重大挑战。为应对这一问题,多种GNN专用可解释技术相继提出。GNNExplainer是最早且最广泛使用的方法之一,它识别对模型预测最具影响的紧凑子图和节点特征子集;PGExplainer采用概率方法,学习跨多个样本的可能解释的参数化分布,提升泛化能力和可扩展性;Captum等框架也提供GNN支持,并给出集成梯度和显著性图等模型无关的可解释方法;SubgraphX则引入基于蒙特卡洛树搜索的策略来探索子图并计算Shapley值,为提取的子图的重要性提供准确性和理论保证。然而,这些方法通常以单个样本为基础进行操作,缺乏将解释与已知的恶意或良性行为模式相联系的能力。这限制了它们在恶意软件分析中的实用性,因为在此领域中,可解释性必须超越局部图区域,包含行为背景和原型关联。
子图匹配作为发现恶意软件样本中重复行为模式的手段已受到关注。然而,其在可解释恶意软件检测中的潜力在很大程度上尚未被探索。虽然已有研究将子图分析纳入恶意软件分类任务,但其目标和设计与本研究不同。现有方法或聚焦于家族聚类而非样本内的细粒度可解释性,或旨在提升对抗鲁棒性而非建立可解释的检测结果,或针对快速和抗混淆检测而非可解释性。这些努力展示了基于子图的恶意软件分析技术的可行性,但均未尝试在同一图中区分恶意和良性行为,或提供可解释的节点级模型决策洞察。这一关键空白正是本研究旨在填补的。
现有GNN解释器通过突出重要节点或边来提供局部解释,但无法提供关于这些组成部分如何与已知的恶意或良性行为模式相关的洞察。这一局限性降低了它们在恶意软件检测任务中的实用性,因为理解可疑行为的来源和性质都至关重要。为此,研究人员提出了一种双重可解释框架,将子图匹配与GNN可解释性相结合,以提供行为感知、基于原型的解释。
**研究方法与关键技术**
本研究的核心贡献在于设计和实现了一个双重原型驱动可解释框架,该框架由一个基础GNN解释器和一个基于子图匹配的第二级解释器组成。研究用到的主要关键技术方法包括:动态CFG提取、基于自动编码器(autoencoder)的节点特征嵌入、GNN分类、第一级GNN解释器(包括Captum库中的梯度归因方法如积分梯度Integrated Gradients、引导反向传播Guided Backpropagation和显著性Saliency,以及GNNExplainer、PGExplainer和SubgraphX等)、贪婪边组合(Greedy Edge-wise Composition, GEC)子图提取算法、基于VF2算法的子图匹配(支持子图同构和子图单态两种匹配策略),以及SubMatch解释器的节点风险评分机制。样本队列来源于SOREL语料库(收集日期至2020年)用于训练,以及MalwareBazaar(2021-2025年样本)用于测试,以确保时间感知评估并防止时间泄漏。
**研究结果**
在"动态CFG提取"部分,研究人员从程序执行中动态提取CFG。每个程序在受控环境中执行以生成对应的CFG,其中节点集表示基本块或指令,有向边集表示控制流转移。CFG捕捉程序的结构和行为属性,为后续分析奠定基础。
在"节点特征嵌入"部分,研究人员从CFG节点中提取有意义的属性并将其转换为低维向量表示。采用汇编级指令编码,每条指令被编码为439位固定向量,包含Option、Prefix、Opcode、ModRM、SIB、Displacement和Immediate等字段。这些向量作为输入用于训练仅在训练子集上训练的自动编码器,该自动编码器包含两个隐藏层(256和128神经元)和64神经元的瓶颈层,经700轮训练后提取64维嵌入用于表示训练和测试图中的节点。
在"基于GNN的分类"部分,研究人员在CFG上训练GNN模型以区分良性和恶意样本。实验采用PyTorch Geometric库,评估了三种广泛使用的GNN架构:图卷积网络(Graph Convolutional Network, GCN)、GraphSAGE和图注意力网络(Graph Attention Network, GAT)。每种模型包含三层128隐藏单元,dropout率为50%,使用Adam优化器以0.0001的学习率和0.0005的权重衰减训练250轮。结果显示,GraphSAGE表现最佳,准确率达到0.8864,恶意软件召回率达0.8827,ROC-AUC为0.9320;GCN准确率为0.8657,GAT为0.8485。
在"基于GNN的解释器和节点嵌入映射"部分,研究人员对正确分类为良性或恶性的样本采用图解释模块,识别对GNN预测贡献最大的关键节点和边。解释器的输出包括带有重要性权重的原始图结构。由于GNN解释器输出图通常缺乏原始节点特征嵌入,研究人员通过节点嵌入映射重新将原始嵌入附加到对应节点,以支持后续子图匹配等任务。
在"子图提取"部分,研究人员提出贪婪边组合(GEC)算法从加权图中提取子图。GEC从权重最高的边开始,迭代添加与当前选中节点集相连的最高权重边,直到达到预定义的边数或节点数为止,确保生成强连通的子图。与简单的Top-Edge Selection(TES)方法相比,GEC避免了产生多个不连通组件的问题,保持了与原始图的结构一致性。提取的子图经预训练GNN重新评估,仅保留能保持原始预测标签的子图作为可信行为原型存入经验证的查询框中。
在"SubMatch解释器"部分,该解释器作为第二级可解释机制,在测试阶段为被GNN分类器标记为恶意的样本提供行为对齐的解释。SubMatch包含两个核心组件:子图匹配和节点风险评分。子图匹配通过VF2算法将目标图与验证查询框中的良性及恶性子图进行比较,采用两种策略:精确结构和属性匹配(要求图拓扑和节点属性严格对齐)以及精确结构匹配与近似属性匹配(使用余弦相似度阈值δ≥0.9放松属性约束)。节点风险评分机制为匹配恶性子图的节点累计+1分,为匹配良性子图的节点累计-1分,不匹配节点为0分;对于同时匹配良性和恶性子图的节点,按安全优先原则视为恶意处理。
在"评估指标"部分,研究人员采用准确率、精确率、召回率、F1分数评估分类性能,采用保真度(Fidelity
+和Fidelity
-)和稀疏度评估解释质量。Fidelity
+衡量移除重要子图后预测变化的影响,Fidelity
-评估重要子图单独预测的充分性。
在"实验结果"部分,研究展示了各阶段效果。在精确结构和属性匹配设置下,GraphSAGE在覆盖率和匹配密度方面表现优于GCN和GAT;基于单态的匹配通常比同构匹配产生更高的覆盖率和匹配密度;无向图表示通常比有向图产生略高的覆盖率和匹配密度;第一级解释器的选择对匹配行为影响最小。在代表性配置(GraphSAGE、无向图、VF2单态匹配、IG)下,精确匹配时非零得分节点仅占13.6%,近似属性匹配提升至21.2%;恶意节点平均分 score 在1.72至2.45之间,良性节点平均分低于1.12。近似属性匹配显著增加了覆盖率和匹配密度,同时引入了更多良性查询匹配,但恶意相关匹配仍占主导。
**讨论与结论**
本研究提出的SubMatch解释器通过将GNN解释与子图匹配相结合,实现了模型准确性与可解释性之间的桥梁。该框架对于需要准确预测和理解底层原理的安全分析师尤其有价值。
研究结论部分指出:本研究通过整合CFG提取、节点特征嵌入模块、GNN模型、GNN解释器和子图级推理,呈现了一种新颖的可解释恶意软件检测框架,同时提供高分类准确率和可解释洞察。核心贡献在于SubMatch解释器的设计和实现,这是一种创新的GNN解释器,通过利用经验证的子图和子图匹配技术来增强模型透明度。该方法整合了动态CFG提取、基于自动编码器的节点级嵌入、基于GNN的分类和双重可解释性。通过应用精确和近似子图匹配策略,研究人员引入了一种将模型预测归因于已知和已验证子图模式的机制,实现了鲁棒的解释。SubMatch解释器不仅识别重要节点,还根据其与已知模式的对应关系对其进行评分,提供了对模型决策过程的细粒度和直观理解。跨各种GNN架构和解释器配置的实验结果表明,GraphSAGE在匹配质量和可解释性方面始终优于GCN和GAT。特别是,精确结构和属性匹配设置显示出最高的精度,而近似属性匹配配置提供了更大的灵活性和语义丰富性。总之,所提出的框架和SubMatch解释器通过弥合模型准确性与可解释性之间的差距,推进了可解释恶意软件检测的现状。未来工作可能通过整合执行跟踪中的时间动态、探索对比子图学习或集成在线学习以适应不断演变的恶意软件行为来扩展该框架。