CNN-FCNN:一种用于随机复合材料中空间相关性的混合替代模型
《Results in Materials》:CNN-FCNN
2
: A hybrid surrogate model for spatial correlations in random composite materials
【字体:
大
中
小
】
时间:2026年05月12日
来源:Results in Materials CS5.5
编辑推荐:
卢齐·施莫拉克(Luzie Schmollack)| 桑德拉·克林格(Sandra Klinge)
柏林工业大学结构力学与分析系,德国柏林10623,6月17日街135号
**摘要**
统计均质化提供了一个强大的框架,用于估计在外部载荷作用下异质材料的有效力学行为。
卢齐·施莫拉克(Luzie Schmollack)| 桑德拉·克林格(Sandra Klinge)
柏林工业大学结构力学与分析系,德国柏林10623,6月17日街135号
**摘要**
统计均质化提供了一个强大的框架,用于估计在外部载荷作用下异质材料的有效力学行为。在其应用中的一个核心挑战是识别能够准确表示复杂微观结构内空间相关性的统计描述符。实际上,实验表征和理论建模的局限性阻碍了这些描述符的准确估计,而微观结构级别建模的高计算成本进一步复杂化了这一任务。为了解决这些困难,我们提出了一种基于机器学习的方法来识别准确的两点空间描述符。我们的方法利用神经网络的组合直接从微观结构图像中提取潜在的概率函数,仅关注微观结构本身的几何配置。该方法完全独立于边界条件,并且不要求周期性。通过将卷积神经网络(CNN)与全连接神经网络(FCNN)相结合并同时进行训练,所提出的架构能够学习到高效且可泛化的表示。这种混合设计使得使用小型数据集进行有效训练成为可能,显著降低了数据需求,同时提供了对广泛材料的优异准确性和适用性。
**术语表**
ANN(人工神经网络)
CNN(卷积神经网络)
FCNN(全连接神经网络)
FFT(快速傅里叶变换)
ML(机器学习)
MSE(均方误差)
RVE(代表性体积元素)
**1. 引言**
快速准确地计算空间相关性在统计均质化中起着关键作用[1]。这些相关性是从概率论中得出的,描述了代表性体积元素(RVE)内相或特征的空间排列,为预测有效材料属性提供了基础[3]、[4]。Corson[5]、Torquato[3]、[6]、Garmestani、Lin和Adams[7]、[8]、[9]建立了确定相关函数的综合理论框架,而最近的研究则专注于不同类型的相关函数[10]、[11]以及提高准确性和计算效率[12],其中包括机器学习(ML)技术。
ML在均质化策略中的应用通常针对特定的材料系统进行定制。例如,关于两相材料的微观结构重建[13]、[7]、统计重建方法[11]、[15]、[16]、逆向材料设计[17]、机械响应的预测[18]、[19]、[20]、[21]以及材料属性的预测[22]的研究已经取得了有希望的结果。在[23]中,Cang等人成功地使用变分自编码器通过两点相关函数作为空间描述符来重建了两相微观结构。Gavallas等人[24]将材料属性描述为随机场,结合了统计方法和ML技术。总体而言,最近的工作越来越多地采用深度学习,特别是卷积神经网络(CNN),它们可以直接在微观结构图像上操作并捕获空间相关性,而无需显式的特征工程[25]。这些方法能够有效地预测有效属性,并已扩展到复杂和多相材料。除了CNN之外,还提出了神经算子方法[26]和基于变换器的网络[27],以更好地捕捉异质介质中的非局部和多尺度效应。然而,许多这些方法需要针对不同材料进行重新训练或调整,即使几何特性非常相似。此外,开发出既具有泛化能力又在不同材料系统中具有统计解释性的模型仍然是一个未解决的问题。
在本文中,我们旨在通过开发一种专注于描述微观结构几何形状的方法来解决这些问题,同时将材料属性分配给不同的相。我们提出的方法不是采用将微观结构样本作为输入并建模本构行为的ML方法[28],而是结合了捕获空间行为的神经网络替代模型和用于本构行为的经典方法。通过将空间表征与本构建模解耦,所提出的框架增强了对各个模型组件的可控性,并减少了端到端ML方法中通常观察到的不确定性传播。此外,这种分离促进了可解释性,允许直接分析和验证微观结构的统计描述符与已知的物理量。与黑盒模型相比,这提供了更高的可解释性,这是近年来越来越强调的一个方面[29]、[30]。因此,所开发的方法可以广泛应用于各种材料,并为多相材料提供了一个可扩展的框架。
更具体地说,该工作提出了一种神经网络架构,它以随机材料的2D RVE作为输入,并提供相应的两点相关函数作为输出。为了有效处理数据和空间函数的双重性质,该模型结合了卷积神经网络(CNN)[32]和全连接神经网络(FCNN)。采用了一种经典的统计方法从图像中提取两点相关函数,以生成训练和测试数据集。由于所提出网络的结构,得到的空间微观结构描述符具有可以直接访问的可解释统计特性。此外,该方法克服了分析方法[5]固有的定量限制,例如其仅限于严格单调的空间相关函数[33]。
重要的是,所提出的框架独立于边界条件,可以直接在任意的非周期性微观结构上操作。这与基于快速傅里叶变换(FFT)的方法形成对比,后者通常需要周期性的RVE或人为施加周期性以避免边缘效应。这样的预处理步骤可能会引入伪影并限制适用性,特别是对于实验获得的微观结构。通过消除这一要求,当前方法显著扩大了可接受输入的范围。此外,该方法比基于FFT的提取方法更快,并且在标准桌面硬件(CPU或GPU)上运行高效,而许多基于CNN的ML模型则需要高计算能力。由于材料属性独立于微观结构几何形状本身,该方法可以应用于各种两相材料,如随机异质材料[34]、[35]、增强复合材料[36]、[37]和多孔材料[39]。
**论文结构**
第2节简要概述了本研究中调查的统计均质化方法,重点介绍了两相材料的两点相关函数理论、它们的关键属性及其在确定各向同性材料有效弹性张量中的作用。第3节介绍了人工神经网络(ANN)的基础概念,详细说明了全连接神经网络(FCNN)和卷积神经网络(CNN)的作用和功能。第5节概述了所提出网络架构的训练过程,而基于ANN的替代模型和关键实现细节分别在第6节(ANN替代概率函数)和第7节(实现)中介绍。最后,第8节讨论了结果,第9节将所提出的ML方法与基于FFT的方法进行了比较,第10节以总结和展望结束本文。
**2. 统计均质化的理论背景**
2.1. 统计均质化
对于将材料视为随机介质的一般定义[4]、[40],设S为样本空间,g:S?R为微观结构属性。进一步设p:S?[0,1]为概率密度。那么,集合平均值表示为(1)〈g〉=∫Sg(α)p(α)dα。
我们的研究特别考虑了由m个相hi,i∈{1,…,m}组成的复合材料所占的空间Ω?Rn,n∈{2,3}。然后,可以定义一个指示函数f?∈hi : Ω?{0,1},如果点位于相hi中则取值1,否则取值0。在某点x找到材料相hi的概率Pi:Ω?{0,1}定义为(2)Pi(x)=fx∈hi=∫Sfx∈hi,αp(α)dα,同时在某点x找到相hi和相hj的概率Pijx,x′定义为(3)Pijx,x′=fx∈hifx′∈hj。
利用方程(2)、(3),与整个复合材料相关的微观结构属性g可以表示为gi,对应于m个单独的离散相,如下(4)〈g(x)〉=∑i=1mgi(x)Pi(x),(5)g(x)gx′=∑i,j=1mgi(x)gjx′Pijx,x′。
2.2. 各向同性两相材料的两点相关函数
不失一般性,我们限制在两相各向同性材料的情况下(图1)。在这种情况下,有四个不同的绝对概率Pij,由(6)1ViPij(r?r′)=f(r′∈hj|r∈hi)给出,其中i,j∈{1,2},f(r′∈hj|r∈hi)表示在r′位于相hi的条件下找到相hj的条件概率,Vi表示相hi的体积分数。向量r和r′表示给定复合材料内的两个标准化位置点(图2)。此外,对于这类材料,概率变得方向不变,仅依赖于距离r=|r?r′|。如[5]、[7]所示,由于材料的各向同性,P12和P21是一致的。
下载:下载高分辨率图像(426KB)
下载:下载全尺寸图像
图1. 随机两相微观结构的示例。
还有一些其他值得提到的属性:在r?0的极限情况下,两点概率函数简化为一点概率(方程(2))(7)Pij(0)=Vi,i=j0,i≠j,而对于大距离r?∞,点变得不相关:(8)Pij(r→∞)=ViVj,其中i,j∈{1,2}。
最后,这些函数满足归一化条件(9)∑i,jPij=1,其中i,j∈{1,2}和(10)Pi1+Pi2=Vi,其中i∈{1,2},结合方程(6),表明只有一个概率函数是独立的。
下载:下载高分辨率图像(73KB)
下载:下载全尺寸图像
图2. 用于两点概率函数的位置向量及其距离的示意图。改编自[5]。
2.3. 应用示例:计算各向同性两相材料的有效弹性张量
统计均质化理论(第2.1节)提供了一种描述有效弹性张量C与平均弹性张量〈c〉[41]之间相关性的方法,后者在关于局部弹性张量c(r)的扰动级数中出现
(11)c?=c?〈c〉,其中c?(r)作为修正项。将c?视为微观结构属性,方程(5)变为(12)〈c?abkl(r)c?ijmn(r′)〉=c?abkl1c?ijmn1f(r′∈h1|r∈h1)+c?abkl1c?ijmn2f(r′∈h1|r∈h2)+c?abkl2c?ijmn1f(r′∈h2|r∈h1)+c?abkl2c?ijmn2f(r′∈h2|r∈h2),其中c?1和c?2分别代表相1和相2的扰动张量。最终,用G表示具有弹性模量〈c〉的均匀比较介质的格林解张量,关系(12)导致使用F作为方程(12)的简写表示有效弹性张量C(13)C=〈c〉?G?F。
在下文中,我们假设n=2并讨论具有属性(6)–(10)的相关函数。
**3. 人工神经网络(ANN)的回顾**
3.1. 全连接神经网络
全连接神经网络(FCNN),也称为密集神经网络,是深度学习中的基本架构。这种架构允许网络通过反向传播在训练过程中调整权重和偏置来学习输入和输出之间的复杂非线性关系。在适当数量的数据上训练后,数据驱动的FCNN可以快速预测未见输入数据的期望属性。它是一种前馈架构,具有多层感知器的结构。
单个感知器根据给定的输入集xi, i∈{1,…,N}通过关系y?=f(∑i=1Nwixi+b)预测输出y?,其中f:R?R是激活函数,wi是相应的权重,b是偏置项。FCNN由多个感知器组成,在每个节点上应用激活函数来产生输出。通常通过ReLU或sigmoid等激活函数引入非线性。
为了在训练过程中更新权重和偏置,使用反向传播通过最小化损失函数J来表示网络的准确性。常用的损失函数是均方误差:J((xi,yi),w,b)=1N∑i=1N(yi?y?i(xi,w,b))2。
虽然权重和偏置在训练过程中自动优化,但超参数需要手动指定。这些包括层数、激活函数的选择和批量大小等。
FCNN通常用于分类和回归等任务,其目标是将输入特征映射到特定输出。它们非常通用,但随着输入和隐藏层的增加,计算成本可能会显著增加。然而,FCNN的优势在于它们能够捕捉丰富的、高维的模式。
3.2. 卷积神经网络
卷积神经网络(CNN)已被证明是处理网格结构数据(如微观结构图像)的最有效方法之一。由于它们的适应性,它们被广泛应用于图像分类[42]、对象检测[43]、风格转换[44]或重建[45]等多种应用中。
CNN通过应用各种滤波器并对图像进行多次卷积操作来工作。这些滤波器检测不同的特征,如边缘、纹理或形状。通过卷积操作,网络提取并将像素级信息浓缩为一组抽象值,显著降低了数据的复杂性。在数学上,应用于2D N×N图像的卷积操作表示如下:y(i,j)=f(∑k,lx(k,l)?w(i?k,j?l)+b),其中x是输入图像,y是输出特征图,w是滤波器或核函数,b是偏置,f是激活函数,N是输入图像的像素尺寸。LeCun等人[46]首次提出的原始CNN架构在包含双曲正切非线性函数的卷积层和降采样(或池化)层之间交替使用,降采样层在保留关键特征的同时减少数据的空间维度。池化有助于提高模型的计算效率,并使其对输入图像中的小平移更加鲁棒。下载:下载高分辨率图像(103KB)下载:下载全尺寸图像图3. CNN的架构,改编自LeCun等人[46]。在图3中,卷积层与池化层交替使用,以创建捕捉原始图像抽象表示的特征图。然后这些来自最后一层的特征图被展平成一维向量,并通过一系列全连接层,利用提取的特征来执行额外任务。4. 通过经典统计方法评估相关函数基于大数定律的统计过程是从微观结构图像中提取相关函数描述符的经典方法。对于给定的距离r,如图2所示随机选择两个点。之后,计算四种可能情况中每种情况出现的频率,最终得到概率Pij(r)。为了以经典方式计算当前情况下的Pij,我们在微观结构内选择400个随机点,并以结构全长的200个等间距逆时针遍历每个点(图4)。在每一步中,我们确定所检查的点位于哪个相位,并相应地更新计数器。这个过程生成了一个随机实验,得到了所需的两点概率函数。图5展示了包含大约42%夹杂物的微观结构的示例结果。下载:下载高分辨率图像(207KB)下载:下载全尺寸图像图4. 从微观结构图像中提取两点相关函数的随机过程示意图,用于两种不同的材料示例。结果表明,当r?∞时,全局极限很早就达到了,这个距离r取决于夹杂物的直径,并且小于假设的样本大小。这表明,在事先考虑方程(6)-(10)中的通用属性后,可以减少概率的计算量。下载:下载高分辨率图像(326KB)下载:下载全尺寸图像图5. 微观结构全宽度范围内的两点相关函数。下载:下载高分辨率图像(286KB)下载:下载全尺寸图像图6. 微观结构宽度20%以内的两点相关函数。在最不利的情况下,即夹杂物较大的情况下,全局极限在样本宽度的大约20%的长度r处达到。这一信息显著减少了计算时间,并且如图5和图6所示,不会影响结果的准确性。然而,经典方法在处理大型数据集时仍然计算成本高昂且不切实际。此外,分类给定点属于哪种材料可能具有挑战性,特别是在界面区域。因此,预计使用神经网络将是一种更有效的替代方案,能够在显著减少计算工作量的同时提供可比的准确性。下载:下载高分辨率图像(490KB)下载:下载全尺寸图像图7. 训练和测试的数据对:(a)和(c)是微观结构图像;(b)和(d)是相应的相关函数。微观结构表示为512 × 512灰度图像。概率函数P11表示两个点都处于相位1时的空间相关性。5. 数据和训练为了训练本文提出的网络,通过第4节描述的过程创建了一个包含7875个微观结构和P11函数对的数据集(图7中的示例)。微观结构由512 × 512灰度图像表示,P11由200个功能值及其对应的距离r表示。由于从微观结构中提取的四个概率函数彼此相关,因此只需学习其中一个,即在我们的案例中是P11。数据集分为80%的训练数据和20%的测试数据,相当于6300个训练数据对和1575个测试数据对。夹杂物的大小在数据中有所不同,训练数据的直径范围从微观结构宽度的3%到27%,测试数据的直径范围从1%到30%。对于训练和测试,夹杂物相的体积分数都在35%到45%之间变化,直径大小影响夹杂物的数量。这种差异影响了空间相关性的功能形式。具体来说,对于较大的夹杂物,概率函数显示出较小的斜率和不太明显的最小值。相比之下,较小的夹杂物和更多的夹杂物会产生更陡的斜率、更明显的最小值以及单调性的显著变化。所描述的效果在图7中显示。使用的数据集参数在表1中总结。对于给定范围内的每个体积分数,在网络的训练和测试中应用了相同数量的微观结构图像。表1. 用于CNN-FCNN2网络训练和测试的数据集参数摘要。数据集参数值数据对数量7875-用于训练6300-用于测试1575微观结构大小512 × 512像素点距离r相对于微观结构宽度0.01%–20%相关函数离散化点数量200夹杂物体积分数范围 - 训练35%–45%夹杂物体积分数范围 - 验证33%–47%夹杂物直径2–170像素6. 用ANN替代概率函数我们提出了不同的网络架构来近似相关函数。具体来说,提供一个微观结构表示图像∈[0,1]512×512作为输入到网络中,然后网络计算相应的两点概率函数P11∈[0,1]200作为输出。这项任务的一个关键挑战是涉及的目标函数的复杂性和多样性。与涉及学习单个函数的传统任务不同,当前问题处理的是一整类函数,每个函数都有独特的特性。其中一些函数严格单调,而其他函数则表现出局部最小值和最大值。这种多样性导致输出空间的维度不仅在技术上是无限的,而且网络本身必须能够表示多种类型的函数。6.1. 带有CNN元素的ANN架构在第一种方法中,选择了经典的CNN架构,因为它在从图像中提取特征方面有效,并且理论上能够检测网格结构数据中的自相关性。如图8所示,微观结构图像由输入层处理,随后是多达十二个具有不同核大小和激活函数的卷积层。网络输出一个预测的离散化两点相关函数,形式为200个函数值。测试了多种网络大小和激活函数,例如三到十二层,以及ReLU、tanh和线性激活函数。使用标准的均方误差(MSE)作为损失函数(14)MSE=1/200∑i=1/200(P11(xi)?P?11i)2,其中P?11i表示网络的第i个预测。下载:下载高分辨率图像(110KB)下载:下载全尺寸图像图8. 基于CNN的神经网络架构作为两点概率函数的ANN替代品。6.2. 带有CNN和FCNN元素的ANN架构另一种方法引入了第二条网络路径来分别捕获函数的一般形状。这种方法受到神经运算符结构的启发,允许更有效地适应原始的无限维函数空间。神经运算符由一个主干网络和一个或多个分支网络组成。各个网络的输出通过乘法或加法合并。神经运算符在处理无限维输入和输出空间时表现出强大的性能,这激发了用于解决当前问题的CNN-FCNN架构。在这种方法中,微观结构图像通过具有线性和非线性激活函数的CNN处理,并使用不同大小的滤波器来提取属性。同时,包含距离ri的距离向量x被传递到网络的FCNN路径(图9)。同样,利用了多种不同的激活函数和不同的层大小。两个网络路径的输出被求和,然后在更新网络参数之前计算损失。在这个版本的网络中引入了加权MSE损失(15)MSEw=1/200∑i=1/200(P11(xi)?P?11i)2+w1/150∑i=51200(P11(xi)?P?11i)2,其中w∈N是一个可调整的权重,以解决误差贡献的不平衡问题。由于函数的形状,前50个值的幅度比剩下的150个值更大。因此,它们不成比例地影响总损失,导致优化过程偏斜,从而产生次优的网络更新。为了抵消这种效应,设计了加权MSE损失(公式(15)来平衡输出的不同功能值的贡献。下载:下载高分辨率图像(151KB)下载:下载全尺寸图像图9. 基于CNN和FCNN的混合神经网络架构作为两点概率函数的ANN替代品。6.3. 带有多个FCNN元素的扩展ANN架构在最终版本中,网络再次分为两条路径,如图10所示。一条路径处理来自微观结构的信息并输出特征,而第二条路径从函数本身提取信息并输出相关概率分布的特性。然后将这两个输出结合起来,通过多个全连接层进一步处理以细化整体表示。如图11所示,200 × 1的距离输入向量x由FCNN处理,其中前两层具有80的隐藏大小,后两层具有50的隐藏大小,同样输出200 × 1。512 × 512的微观结构表示是网络的CNN分支的输入,具有两个2D卷积层,每个层具有4 × 4的滤波器和ReLu激活函数,接着是一个平均池化层,核大小为2,步长为2。然后输出通过三个2D卷积层进一步处理,每个层具有3 × 3的滤波器和ReLu、sigmoid和ELU激活函数,之后通过一个核大小为2、步长为2的最大池化层。再经过两个2D卷积层,每个层具有3 × 3的滤波器后,输出被展平。然后,FCNN和CNN的输出结合起来,通过另外三个全连接层处理,每个层具有200的隐藏大小,并分别使用线性、tanh和ReLu激活函数。然后使用自定义的加权MSE损失(公式(15)更新网络参数。如上所述,引入这个损失函数是为了抵消前50个值对计算误差的不成比例的影响。总共,网络有3300万个参数,与类似的模型(如ResNets)相当。所需的训练时间为4小时。下载:下载高分辨率图像(164KB)下载:下载全尺寸图像图10. 基于CNN和多个FCNN的神经网络架构作为两点概率函数的ANN替代品。下载:下载高分辨率图像(291KB)下载:下载全尺寸图像图11. 图10中示意性地显示的NN替代品的详细信息。7. 实现实现是在PyTorch中进行的。代码分为两部分:创建训练和测试数据,以及网络本身。合成微观结构数据以512 × 512图像张量的形式存储。这比将数据保存为JPG图像占用更多的存储空间,但允许更有效的数据创建和预处理。提取的相关函数也以张量形式存储。计算在NVIDIA Geforce RTX 4070Ti显卡上执行。下载:下载高分辨率图像(469KB)下载:下载全尺寸图像图12. 混合CNN-FCNN网络的结果:(a)和(c)包含42%夹杂物的微观结构图像;(b)和(d)网络预测的相应相关函数。8. 神经网络的讨论和结果尽管在数值测试中看起来很有前景,能够捕捉目标函数的大致形状,但仅基于CNN元素的网络架构在基于6300个图像-函数对的训练数据集上经过1000个周期的训练后并没有收敛。输出函数没有充分平滑,显示出振荡行为。解决这个问题的一种可能性是使用更多的数据。由于在更大的数据集上进行训练通常需要更多的计算能力,而数据可用性是有限的,因此没有进一步考虑纯基于CNN的方法。相反,选择了允许使用显著较小数据集的不同架构。在第二种方法中,保持训练数据集的大小不变,CNN和FCNN的组合网络架构能够得到令人满意的结果,表明在网络结构中引入另一个元素有助于总体上减少训练网络所需的数据量。图12显示了网络预测概率函数的能力,该函数呈现出单调递减后跟随一个单一最小值(图12b)。这种功能行为对应于只有少数大包含体的微观结构。尽管这种网络版本对于包含体直径从微观结构顶点长度的5%到30%的微观结构表现良好,但它无法预测较小包含体的空间相关性的细节(图12d)。即使使用了一个大得多的数据集(10,000对图像-函数对),并且专注于包含体较小的微观结构,网络也没有表现出预期的行为,这表明性能不佳可能在于所选择的ANN架构类型。在最终的网络设计中,CNN和FCNN的组合输出通过第二个FCNN进一步处理,以扩大网络能够正确预测相关函数的所有包含体尺寸的范围。对于包含体较小的情况,空间相关函数的一个特点是距离较小时有非常陡峭的下降,然后是一个明显的最小值。这与具有较大圆形包含体的微观结构的二点相关函数不同,后者没有这种单调性的变化。数值结果表明,第二个FCNN的实现显著提高了预测性能。网络不仅预测了单调相关函数,而且使用较少的数据(6,300对图像-函数对)也取得了很好的结果。图13显示了预测的概率函数P11及其对应的微观结构,其中图13a和13e中的包含体尺寸超出了训练数据范围。距离和概率都标准化到[0,1]之间。网络提取具有明显最小值的空间相关性的能力非常显著,同时比用于创建训练和测试数据的基准方法快得多。
表2总结了對网络性能影响最大的超参数。比较是在固定的6,300对图像-函数对的训练数据集上进行的。结果显示,小批量大小为4张图像结合自定义的MSE损失函数(权重w=10)提供了最佳的准确性。
下载:下载高分辨率图像(806KB)
下载:下载全尺寸图像
图13. 混合CNN-FCNN2网络的结果:(a)、(c) 和 (e) 分别是包含体比例为43%、44%和42%的微观结构图像;(b)、(d) 和 (f) 是网络预测的相关函数。
表2. 混合CNN-FCNN2网络的超参数比较。
新提出的方法与基于FFT的方法进行了比较,以检验其性能。选择基于FFT的方法[47]、[48]、[49],是因为在R2中的卷积在傅里叶空间中简化为逐点乘法,从而提高了效率。此外,FFT对于统计上各向同性和周期性的微观结构提供了非常好的准确性。然而,对于具有随机微观结构的材料,这种高准确性并不适用,而这正是当前方法的一个明显优势。为了进行比较,我们在NumPy和PyTorch中使用了标准的Python FFT实现。正如预期的那样,在GPU上的计算比在CPU上的计算耗时更少,但由于CNN-FCNN2也可以在CPU上高效运行,因此我们包括了CPU和GPU的比较。每个样本都进行了一次网络前向传播和一次FFT评估(从图像表示到函数表示),不包括任何数据初始化或绘图。评估了整个测试数据集,并测量了每个样本的计算时间。
表3显示了使用NumPy和PyTorch包在CPU和GPU上两种方法的计算时间。结果清楚地表明,CNN-FCNN2方法比PyTorch FFT在GPU上的速度快大约一个数量级。在CPU上,这种优势更加显著,ML方法的性能几乎比FFT计算快两个数量级。当处理大型数据集时,这些差异变得尤为明显,使得ML替代模型明显更优越,特别是在只有CPU资源可用的情况下。
10. 结论与展望
本文考虑了通过神经网络自动提取微观结构图像中的空间相关性。它提出了三种不同的网络架构来完成这项任务。它介绍了一个CNN以及两种受神经算子结构启发的混合CNN-FCNN架构。该应用通过处理两相材料的微观结构图像来预测相应的两点相关函数,作为空间描述符进行了演示。研究表明,纯基于CNN的方法没有表现出预期的性能,因为它在选定的6,300对图像-函数对的训练数据集上没有收敛,表明需要更大的数据集。为了提供更高效的方法,通过添加FCNN路径改变了网络架构。混合CNN-FCNN架构在小型训练数据集上表现良好,其中CNN-FCNN2架构的性能更优。例如,混合CNN-FCNN架构能够捕捉到显示单调外观的两相材料的空间相关性,并表征具有大包含体的微观结构。此外,CNN-FCNN2网络甚至能够准确预测在函数收敛到极限之前具有陡峭下降后跟随一个明显最小值的相关性。这种类型的相关函数在包含体较小的微观结构中观察到。所提出的方法适用于具有随机微观结构的材料,因此比标准方法覆盖了更广泛的材料类别,后者假设了周期性。另一个优势是,该模型提供了可以应用于广泛应用的几何描述符,例如评估有效弹性张量或单个材料参数。描述符是材料特性,因此不受应用边界条件的限制。所采用的方法比基于FFT的方法快两个数量级。
本工作中展示的测试涉及包含相体积分数在33%–47%范围内的微观结构。然而,该方法具有通用形式,可以重新训练以适应不同的包含体大小和形状范围,因为除了各向同性之外,对微观结构没有其他假设。本文提出的替代模型受到神经算子的启发,因此使用这些算子代替神经网络将非常直接。预计应用算子可以减少数据需求并提高准确性,但同时也会增加计算成本。当前方法的优点在于它可以在桌面PC CPU上使用,这是算子替代模型所不具备的。尽管如此,构建计算效率高且数据需求低的算子替代模型的任务仍然是未来研究的一个有趣课题。另一种潜在适合的架构是基于变换器的网络。其关键优势是自注意力,能够捕捉图像的全局上下文,并在分类、检测和分割等任务上提高性能。对于大型数据集,变换器可以超越传统的CNN,并且能够随着数据和计算时间的增加而有效扩展。然而,这些优势伴随着显著的局限性。变换器需要大型、标注良好的数据集和巨大的计算资源,这使得它们相对于CNN来说效率较低,不适用于小型系统,特别是基于CPU的系统。此外,它们缺乏可解释性,而这正是当前方法的一个优势。
考虑到本文之前强调的优点,探索在保持效率和可解释性的同时进一步扩展所提出的替代模型的场景特别相关。在这种情况下,模拟各向异性材料是一个可能的方向。然而,这个主题与特定挑战相关,因为在这种情况下,微观结构特征和由此产生的有效属性还取决于方向。因此,需要方向依赖的空间描述符来完全表示这类广泛的材料,例如增强复合材料[37]、[38],这些材料计划在将来进行研究。除了各向异性之外,另一个挑战是在预处理过程中研究分辨率的影响。例如,后者要求最小包含体半径至少是像素直径的一半。此外,还必须考虑预处理中噪声的影响[50]。请注意,本研究中的微观结构图像是高分辨率合成生成的。在这里,通过直接为像素分配一个相位,分辨率和噪声都不是因素。训练使用了512 × 512像素大小的图像。
未来需要考虑的另一个方面是建模非线性材料行为,其中需要应用n≥3的n点相关函数。将机器学习驱动的方法应用于n≥3的n相微观结构也是一个相关的研究课题。这需要系统地考虑多相之间的交叉相关性及其耦合的空间分布。在这种情况下,开发能够捕捉高阶交互作用的同时保持计算成本和数据需求低的高效表示是一个重要挑战[51]。
CRediT作者贡献声明:
Luzie Schmollack:撰写——原始草稿、软件、方法论、形式分析、数据管理。
Sandra Klinge:撰写——审阅与编辑、资源管理、方法论、概念化。
未引用的参考文献:
[52]、[53]、[54]