利用神经细胞自动机发现偏微分方程

《Artificial Life》：Discovering Partial Differential Equations With Neural Cellular Automata

　　

摘要：

神经细胞自动机（NCA）是一类细胞自动机，其更新规则由神经网络参数化，该神经网络可以通过梯度下降进行训练。在本文中，我们关注用于纹理合成的 NCA 模型，其更新规则灵感来源于描述反应扩散系统的偏微分方程（PDEs）。为了训练 NCA 模型，时空域被离散化，并使用欧拉积分来数值模拟动力学过程。关键在于，目前尚不清楚该任务是否存在一个真实存在的偏微分方程（ground-truth PDE），且 NCA 训练仅监督最终的稳态，没有任何轨迹监督，这使得训练后的 NCA 究竟是真的学习到了连续动力学，还是仅仅过拟合了训练期间使用的离散化方案，成为一个悬而未决的问题。我们研究了时空离散化趋近于连续时的 NCA 模型。我们发现现有的 NCA 模型倾向于过拟合训练离散化，特别是在初始条件（也称为“种子”）附近。为了解决这个问题，我们提出了一种利用均匀噪声作为初始条件的解决方案。我们证明了该方法在保持跨广泛时空粒度的 NCA 动力学一致性方面的有效性。我们进一步表明，所得模型对随机更新方案和适度的加性高斯噪声具有鲁棒性。我们改进的 NCA 模型允许连续控制图案形成速度和合成图案的尺度，从而实现两种新的测试时交互。我们在交互式在线演示中展示了这一新的 NCA 功能。我们的工作表明，NCA 模型可以学习连续动力学，并为将 NCA 作为一类偏微分方程以及从动力系统视角进行研究开辟了新的途径。