使用自动微分(AD)与检查点技术进行弹塑性拓扑优化

《Computers & Structures》：Using automatic differentiation with checkpointing for elastoplastic topology optimization

　　

弹塑性材料的拓扑优化由于路径依赖性和非线性而变得复杂，这大大增加了计算成本。研究人员提出了一种旨在消除灵敏度分析设计复杂性同时大幅提高计算效率的弹塑性拓扑优化框架。所提出的方法利用自动微分(AD)进行灵敏度分析，从而消除了劳动密集型公式推导和编程的需要。该方法结合了检查点技术，通过仅保留梯度计算所需的最小数据，以可管理的计算时间增加为代价，大幅缓解了AD的巨大内存消耗。为了展示所提出方法的通用性，研究人员将一种通用的von Mises弹塑性模型（该模型通过非线性分段线性近似结合了各向同性硬化和运动硬化）应用于一个多材料优化问题，该问题涉及在体积约束下最大化能量吸收和塑性功。数值算例证实了基于AD的灵敏度分析无论目标函数如何均具有准确性，并证明了应用检查点技术有效解决了AD的内存瓶颈。所提出的方法展示了基于AD的灵敏度分析用于涉及多种弹塑性材料的拓扑优化问题的方法论可行性，为未来全尺寸实际应用提供了重要基础。

论文解读文章

研究背景：拓扑优化是结构设计领域的重要方法，尤其适用于追求高设计自由度的场景。然而，弹塑性拓扑优化因路径依赖性和材料非线性而面临高昂的计算成本。传统灵敏度分析（如伴随变量法(AVM)）需要手动推导公式并编程实现，且当目标函数或本构模型改变时需重新推导，工作量大且灵活性差。自动微分(AD)虽能自动计算梯度，但在弹塑性问题中，由于需要存储完整计算图，内存消耗巨大，难以直接应用。为此，研究人员提出了一种结合全AD与检查点技术的弹塑性拓扑优化框架，旨在消除灵敏度分析的复杂性并提升计算效率。

研究人员开展的研究：提出了一个通用框架，使用全AD进行灵敏度分析，无需手动推导；结合检查点技术大幅降低内存消耗；将框架应用于多材料优化问题，以von Mises弹塑性模型（结合各向同性硬化和运动硬化，通过分段线性近似实现非线性硬化）为基础，优化能量吸收和塑性功最大化；通过数值算例验证了方法的准确性、内存效率以及不同目标函数和边界条件下的通用性。结论表明，该方法有效解决了AD的内存瓶颈，实现了准确的灵敏度分析，为弹塑性拓扑优化提供了方法论可行性，为未来全尺寸实际应用奠定基础。论文发表在《Computers》。

关键技术方法：主要技术方法包括：(1) 自动微分(AD)（采用Enzyme.jl库，反向模式），用于全灵敏度分析；(2) 检查点技术（Stumm和Walther的最优在线检查点算法，r=2），用于内存管理；(3) 密度法拓扑优化，采用离散材料优化(DMO)方法进行多材料插值；(4) von Mises弹塑性模型，结合各向同性硬化与运动硬化，通过分段线性近似实现非线性硬化；(5) GCMMA算法作为优化器更新设计变量。数值算例采用二维矩形域，材料参数如表1和图4所示，无实际样本队列来源。

研究结果：
- 4.1 Setup：设置验证条件，包括几何尺寸、边界条件、材料参数和设计变量分布，为后续验证提供基础。
- 4.2 Validation results：通过与有限差分法(FDM)比较，验证了提出方法在能量吸收和塑性功最大化两种目标函数下的灵敏度分析精度，结果完全匹配，证明了准确性。
- 4.3 Computational cost：对比了AD有无检查点技术的计算时间和峰值内存消耗。无检查点时，800个单元模型的内存消耗高达107 GB，不可行；应用检查点后，内存降至约3 GB，计算时间略有增加，证明了检查点技术有效解决内存瓶颈。
- 5.1 Analysis conditions：设定二维剪切变形模型分析条件，网格40×80，80个时间步，材料参数同前。
- 5.2 Maximization of total energy absorption：研究不同最大位移下能量吸收最大化的优化结果。随位移增大，塑性应变增加，材料2（高刚度、高韧性）向高塑性应变区域重新分布，优化结构物理合理。收敛历史显示目标函数单调增加并满足体积约束。
- 5.3 Maximization of plastic work：仅考虑大位移（100 mm和125 mm），优化结构呈现清晰的二元分布，塑性功最大化导致更广泛的塑性应变分布，与目标函数物理特性一致。
- 6.1 Analysis conditions：设定三点弯曲模型分析条件，采用半模型，网格80×40，对称边界条件，其余设置同前。
- 6.2 Maximization of total energy absorption：不同位移下优化结果，小位移时结构类似刚度最大化，大位移时材料2集中于加载点附近以利用其硬化特性，收敛性得到验证。
- 6.3 Maximization of plastic work：大位移下塑性功最大化，材料2仍集中于加载点，结构机械合理，收敛历史表明优化有效。

总结讨论部分：数值算例验证了所提出框架在不同目标函数和边界条件下的通用性与准确性，无需重新推导灵敏度分析。检查点技术有效解决了AD内存瓶颈，但计算时间仍较长，尤其向三维扩展时需结合大规模并行计算。此外，对称性约束可能排除非对称最优解，这是未来研究方向。研究结论部分翻译如下：结论：研究人员提出了一种使用AD进行灵敏度分析并结合检查点技术减少内存消耗的弹塑性拓扑优化框架。该框架为弹塑性拓扑优化中的灵敏度分析提供了新选择，区别于传统AVM方法。主要贡献包括：(1) 方法具有高通用性，可独立于具体优化问题；(2) 避免了手动推导和编程；(3) 检查点技术有效解决了AD内存瓶颈；(4) 数值算例验证了方法在不同目标函数和边界条件下的准确性；(5) 为AD应用于其他路径依赖问题（如粘塑性、热弹塑性）提供了实践指南；(6) 材料混合定量评估和先进抑制技术是未来工作；(7) 三维扩展需引入大规模并行计算；(8) 对称性和非唯一性系统研究是未来工作。