以人为中心的学习机理：一种调节熵的表示学习动力学框架

背景与问题

传统深度学习理论主要将训练视为一个封闭的优化系统，但现实世界中的 AI 系统在操作过程中会面临不确定性、资源限制、分布变化、下游决策风险以及人类反馈等问题。这些问题表明需要一种能够更好地处理开放环境和动态过程的学习框架。

核心内容

• 熵正则化的局限性：文章指出，熵正则化仅在选择的熵代理沿优化轨迹产生非退化信息力时才是有效的。否则，可能导致弱、不稳定或不一致的梯度。
• 有效熵的概念：通过引入“有效熵”的概念来解决这一问题，并研究了几何熵代理的有效性，包括方差基和对数行列式协方差近似。
• 理论贡献：
  • 第一，正式化了有效信息力并定义了退化的熵区域；
  • 第二，在明确假设下推导出收敛性、熵流、Wasserstein 梯度流及噪声表示泛化结果；
  • 第三，解释了放大量法则行为的条件动态解释为信息注入、熵耗散与剩余风险之间的平衡。

意义与影响

• 理论贡献：HCLM 理论框架提供了一种新的视角来理解深度学习中的动力学过程，特别适用于处理开放环境下的不确定性。
• 实验证据：通过受控的表示学习实验，证明了几何熵代理（尤其是对数行列式协方差熵）比 softmax 归一化熵能产生更强、更稳定的信息力。这些发现有助于未来研究更好地理解深度学习中的信息理论与优化动态之间的关系。
• 实践意义：HCLM 框架的提出为在实际应用场景中构建更加稳健和可控的 AI 系统提供了理论支持，特别是在资源受限或不确定性较高的环境中。