当AI在信仰问题上表态：AI介导的信仰指导中的持续不对称性

背景与问题

研究团队针对大型语言模型（LLMs）如何处理关于宗教转换的查询是否对称的问题进行了深入探究。通过模拟用户向20个商业和开源的语言模型提出可能的信仰转变建议，研究人员发现这些模型在不同宗教间的反应存在显著差异。

核心内容

研究中使用的测试方法为“人类验证LLM作为裁判框架”，即每个模型都会与一个模拟用户进行互动，获取关于潜在信仰转换的意见。结果表明，大多数语言模型倾向于使用更具鼓励性的语言来描述某些宗教的转换过程，这些模式在多次试验中表现一致。

不同规模和提供商的语言模型表现出不同的偏好模式。Grok 4.20模型显示出最强的不对称性。总的来说，即使问题是多变且宗教配对数据集有所不同，这种偏好倾向也是一致存在的，这表明不对称是模型行为的一个稳健特征而非评分机制的问题。

意义与影响

这些结果提示，任何在大规模应用中部署和重复出现的不平衡可能会产生实际影响。大型语言模型作为一种广泛使用的信息工具，其潜在的偏见可能会影响到社会文化和信仰讨论的方式。因此，在开发和部署这些系统时需要特别注意减少此类偏见，并确保其对各种宗教群体是公正无歧视的。

通过进一步研究并改进训练数据集以更好地代表多样性和包容性，可以提高语言模型的质量，使其在多元文化环境中更加可靠。