可验证SHAP：神经网络精确Shapley值的可证边界

背景与问题

SHAP（Shapley additive explanations） 是解释神经网络的重要方法，但传统上被认为计算上不可行，因为其搜索空间随输入特征指数增长，导致计算成本过高。这限制了SHAP在大规模神经网络中的应用，使得精确计算难以实现。

核心内容

• 算法创新：提出一种新算法，利用神经网络验证技术的最新进展，计算任意紧的精确SHAP值下界和上界，最终恢复精确SHAP值。
• 技术方法：通过验证方法优化搜索空间，避免传统指数爆炸问题，支持对更大特征集的处理。
• 扩展能力：实验表明，该方法能扩展到比现有精确方法大几个数量级的搜索空间，显著提升计算规模。

意义与影响

• 突破性进展：为精确SHAP计算提供重要第一步，解决长期存在的计算瓶颈。
• 评估基础：建立原则性基石，用于在更大搜索空间上评估统计近似方法的有效性和准确性。
• 应用前景：有望推动神经网络可解释性在实际大规模问题中的应用，提升模型透明度和信任度。