自注意力增强型、基于物理信息的神经网络在多场物理中的应用
《Communications in Nonlinear Science and Numerical Simulation》:Self-Attention Enhanced Physics-Informed Neural Networks for Multi-Field Physics
【字体:
大
中
小
】
时间:2026年05月12日
来源:Communications in Nonlinear Science and Numerical Simulation 3.8
编辑推荐:
叶子|卢梦雪|冯新龙|徐慧
新疆大学智能科学与技术学院(未来技术学院),乌鲁木齐830046,中国
摘要
物理信息神经网络(PINNs)最近作为一种解决燃烧问题的有前景的工具而出现。然而,由于火焰动力学固有的强非线性和多尺度现象,准确建模燃烧仍然具有挑战性。本文介绍了一个增强了
叶子|卢梦雪|冯新龙|徐慧
新疆大学智能科学与技术学院(未来技术学院),乌鲁木齐830046,中国
摘要
物理信息神经网络(PINNs)最近作为一种解决燃烧问题的有前景的工具而出现。然而,由于火焰动力学固有的强非线性和多尺度现象,准确建模燃烧仍然具有挑战性。本文介绍了一个增强了的PINN框架,该框架结合了注意力机制和基于径向基函数(RBF)的特征映射模块。在这个架构中,RBF模块在空间域提供了一组重叠的局部特征映射,这些映射进一步通过基于自注意力的残差模块进行处理,以模拟物理变量之间的复杂非线性耦合。当与自适应激活函数和精细的前馈网络结合使用时,并通过加入少量数据以确保在强非线性下的可靠收敛性,这种方法提高了网络表示细微尺度变化和关键物理结构的能力。在一维和二维火焰基准测试中的验证表明,所提出的方法能够准确预测关键燃烧变量并重建复杂的场分布。此外,该框架增强了多尺度物理残差优化的稳定性和收敛性。总体而言,这项工作提供了一种基于PINN的强大而灵活的方法,用于高保真燃烧建模。
引言
计算流体动力学(CFD)是一种代表性的数值模拟技术,广泛应用于空气动力学[1]、气象学[2]和工业系统建模[3]等领域。CFD通过求解线性和非线性偏微分方程(PDEs)来处理涉及流体动力学和热传递的复杂物理现象。自20世纪70年代以来,已经开发了许多基于网格的数值方法,如有限体积[4]、有限差分[5]和有限元[6],用于离散化连续PDE系统。然而,由于需要精细的网格、复杂的边界条件以及大规模稀疏非线性系统的迭代求解,求解微分方程在计算上仍然非常昂贵[7]。
燃烧问题作为CFD的一个关键应用,涉及在广泛的时间和空间尺度上的强耦合非线性和化学过程。它在航空航天、化石能源利用和热能发电[8]、[9]中起着至关重要的作用。数值模拟[10]对于揭示燃烧机制和指导清洁燃料和高效引擎的开发至关重要。目前,常见的流体流动模拟方法包括直接数值模拟(DNS)[11]、[12]、大涡模拟(LES)[13]、[14]以及雷诺平均纳维-斯托克斯(RANS)方法[15]、[16]。最近的研究集中在燃烧不稳定性的高保真建模[17]、湍流-燃烧相互作用[18]和火焰-声耦合[19]上。这些研究需要求解描述湍流运动和反应机制的大量PDEs,从而导致过高的计算成本和时间消耗[20]。
深度学习在CFD中引起了越来越多的兴趣[21],因为它可以从数据中学习复杂的非线性动态并有效预测流体流动[22]。得益于其出色的函数逼近能力和低内存要求[23],深度学习方法,特别是神经网络,已经迅速发展并在湍流燃烧中得到了成功应用。在化学动力学建模方面,研究人员开发了越来越先进的方法。Christo等人[24]首次将人工神经网络(ANNs)与概率密度函数(PDF)结合,用于模拟湍流火焰中的化学源项。Blasco等人[25]通过将ANNs与自组织映射(SOM)结合,进一步提高了甲烷-空气燃烧的准确性。最近出现了更先进的方法,例如使用Box-Cox变换和多尺度采样的深度神经网络(DNNs)进行燃烧化学动力学预测[26],条件生成对抗网络(C-GAN)用于生成预混火焰中的自由基分布[27],以及用于综合动力学建模的深度运算符网络(DeepONets)[28]。另一方面,深度学习也被用于提高燃烧流动的分辨率和结构重建。Chen等人[29]提出了一种多分支融合卷积神经网络(MBFCNN),用于重建超音速燃烧器中的流动结构。Liu等人[30]使用湍流预混火焰的DNS数据构建了一个双残差CNN,以预测进展变量、速度和反应速率。Deng等人[31]引入了注意力机制,从斜纹图像中重建火焰自发光图像。Zhang等人[32]开发了Fast-NFRT(快速神经流体重建技术),一种能够在毫秒内重建3D火焰场的深度学习框架。Nie等人[33]使用神经网络重建了烟熏火焰中的温度场。然而,获取足够的高保真数据通常成本非常高。此外,纯数据驱动的模型通常缺乏物理可解释性,也不一定遵守基本的物理定律或控制方程。因此,这样的模型可能具有较差的泛化能力和鲁棒性,使得准确学习可靠的输入-输出关系变得具有挑战性。
2019年,Raissi等人[34]提出了物理信息神经网络(PINNs)的概念,这些网络在解决上述挑战方面显示出巨大潜力。PINNs通过训练神经网络来最小化损失函数来近似PDE的解,该损失函数包括控制方程的残差以及初始和边界条件,使用基于梯度的优化。由于其出色的灵活性和强大的函数逼近能力,PINNs已被应用于多种类型的微分方程,如分数方程[35]、表面方程[36]和随机方程[37]。它们的应用领域包括不可压缩流动[38]、高速流动[39]、热传递[40]和生命科学[41]。与纯数据驱动的模型不同,PINNs通过纳入物理和数学约束,减少了对大型高保真数据集的依赖,避免了非物理解,并揭示了隐藏的物理机制。此外,通过将神经网络的非线性拟合与来自物理和生物学的先验知识相结合,PINNs提高了模型的泛化能力,并为解决复杂的流体动力学问题提供了有效的工具。
目前,学者们越来越多地在燃烧问题中应用PINNs。Ji等人[42]通过将准稳态假设(QSSA)嵌入神经网络来降低常微分方程系统的刚度。Weng等人[43]开发了用于不同时间尺度的物种的并行子网络,以模拟多尺度刚性动态系统。Yadav等人[44]将低频极限纳入LSTM模型中,以预测预混火焰响应,并进一步提出了RF-PINN框架[45],该框架使用进展变量方程和查找表在稀疏数据下重建反应流场。Hosseini等人[46]使用PINNs解决了固体生物质燃烧的Bratu方程。Liu等人[47]引入了参数化PINN,无需训练数据即可预测2D参数化燃烧流场。Song等人[48]提出了一种PINN/FPV方法,结合详细的化学机制来求解没有观测点的二维扩散火焰。Zhang等人[49]建立了CRK-PINN,作为捕捉燃烧反应动力学复杂动态的有效替代模型。Cao等人[50]开发了伪时间步进PINNs(PTS-PINNs)方法,显著提高了多组分传输和燃烧问题中PINNs的收敛性和准确性。Wu等人[51]构建了FlamePINN-1D,用于解决1D层流火焰的正向和逆向问题,准确求解火焰场并重建连续场。Sitte等人[52]利用PINNs恢复了泡沫池火灾中的速度场,Wang等人[53]展示了它们在旋转爆震燃烧器(RDC)内重建流场的有效性。Deng等人[54]使用物理信息U形残差神经网络模型在毫秒内预测了非稳态燃烧流场。Liu等人[55]使用PINNs从稀疏和噪声实验数据中重建了3D湍流火焰结构。总之,通过结合多尺度建模、表格化和高效的神经网络结构,PINNs已从一维层流火焰扩展到多维湍流燃烧系统,在稀疏数据和复杂物理条件下显示出显著的优势。
然而,在复杂的燃烧流中,物理变量通常表现出强非线性、多尺度行为和明显的空间局部化,传统的PINN框架(包括标准的基于MLP的架构)往往收敛性较差。受到Wu等人[51]的启发,他们的FlamePINN-1D框架系统地将1D层流火焰控制方程、边界条件和观测数据纳入PINN训练中,以实现火焰场的高精度解,并能从稀疏噪声观测中重建连续场和推断未知的传输和化学动力学参数,本研究从他们的策略中获得了重要启示。特别是,他们使用硬约束、薄层归一化和预训练显著提高了训练的鲁棒性和收敛性,而MMLP架构相对于标准MLP的优越性能突出了网络结构设计在复杂燃烧问题中的关键作用。受这些发现的启发,我们探索了一种基于径向基函数(RBF)嵌入和自注意力残差模块的结构增强架构。此外,加入了一小部分观测数据以提高在强非线性下的训练可靠性。注意力机制自适应地加权特征的重要性,而RBF嵌入提供了跨越输入域的重叠、空间局部化的特征映射,增强了网络表示物理变量的局部变化及其之间的非线性耦合的能力。这些模块共同显著提高了PINN在高非均匀燃烧场下的准确性和训练鲁棒性。
本文的其余部分安排如下:第2节提供了所提出网络的详细描述。第3节简要介绍了不同情况的控制方程,并分析了在各种条件下训练网络获得的结果。最后,第4节提出了实验的结论和关键见解。
部分摘要
控制方程
PINNs[34]通过在损失函数中嵌入PDEs作为软约束,整合了对物理系统的先验知识。与传统神经网络不同,它们能够同时从数据中学习并捕捉以数学方程表示的物理定律。PINNs的核心在于计算偏导数,这可以使用深度学习框架内的自动微分算法高效实现[56]。为了理解如何将物理约束纳入...
结果与讨论
本节介绍了本工作中用于测试案例的物理模型和配置。案例1关注简化的一维自由传播预混火焰,而案例2和3分别涉及详细的一维自由传播预混火焰和逆流预混火焰。案例4对应于二维射流扩散火焰。对于前三个案例,模拟参数和设置遵循参考文献[51]中提出的方案。
结论
在这项研究中,我们介绍了一个增强注意力的物理信息神经网络(PINN)框架,用于建模燃烧场。所提出方法的一个关键特点是整合了注意力机制,以提高网络捕捉火焰中复杂空间变化的能力。该模型的有效性通过代表性的一维和二维火焰基准测试得到了系统验证。
所提出的模型在四个代表性的燃烧问题上进行了评估...
资助
本工作部分得到了中国国家自然科学基金(项目编号92270109)和新疆省天山人才培训计划(编号2022TSYCTD0019)、新疆省自然科学基金(编号2022D01D32)以及中国自然科学基金(编号12071406)的支持。
作者贡献声明
叶子:概念化、方法论、数据管理、写作——原始草稿。
卢梦雪:软件、可视化。
冯新龙:写作——审阅与编辑、资金获取。
徐慧:监督、写作——审阅与编辑。
利益冲突声明
作者声明他们没有已知的竞争财务利益或个人关系可能会影响本文报告的工作。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号