迭代优化神经算子是学习到的固定点求解器：缓解频谱偏差的原则性方法

背景与问题

神经算子作为一种快速、数据驱动的科学模拟替代模型，其典型单向推理流程存在固有局限，即谱偏差。该问题表现为模型在训练和推理过程中倾向于学习低频主导的解，而对高频细节的解析能力显著不足。这限制了其在模拟湍流等包含复杂高频结构的物理系统时的精度与可靠性。

核心内容

IRNO的核心创新在于将经典数值求解器的迭代精炼思想与神经算子相结合，其架构与工作原理可分解如下：

• 迭代精炼架构：IRNO不依赖单次前向传播，而是在一个预训练好的基础神经算子之上，引入一个可学习的精炼模块。整个推理过程通过固定点迭代进行：从基础算子的输出（粗初始化）开始，反复应用精炼模块生成残差修正项，逐步优化预测结果。这种“预测-残差-修正”的循环，模拟了传统数值方法中的迭代校正过程。
• 理论保障：文章在局部假设条件下，证明了IRNO所诱导的算子具有压缩映射性质，从而确保了迭代过程能收敛至唯一的固定点。这为方法的稳定性和可靠性提供了理论基础。
• 针对性训练策略：为了解决谱偏差的根源，作者提出了渐进频谱损失。该损失函数在训练过程中，会自适应地逐步增加对高频分量误差的惩罚权重。这引导模型从易到难，先掌握整体低频结构，再聚焦学习精细的高频特征，实现了训练目标的动态对齐。

意义与影响

IRNO的意义在于它弥合了数据驱动方法与经典数值算法在求解哲学上的差距，为提升神经算子的物理保真度开辟了新路径。

• 显著的性能提升：在多个物理系统的基准测试中，IRNO均能有效降低预测误差。在最具挑战性的湍流模拟任务上，误差降低幅度高达56.05%。
• 高频误差的系统性压制：对活性物质系统的频谱分析揭示了其改善机制：相较于基础算子，IRNO将各频段的归一化误差比率分别压制至：低频27.72-36.10%，中频5.07-6.68%，高频1.48-2.04%。这表明模型系统性提升了全频段，尤其是高频部分的精度。
• 鲁棒性与泛化性：实验显示，IRNO的精度改善在超出训练迭代次数后仍能保持稳定，体现了良好的鲁棒性。该方法作为一种即插即用的增强框架，有望广泛应用于各种神经算子，提升其在复杂科学计算任务中的实用性。