他们会走多远？用大型语言模型红队在线影响力

背景与问题

随着基于大型语言模型（LLM）的代理越来越多地参与在线讨论，评估其支持政治影响力运动的能力对于信息完整性的维护至关重要。研究关注的是本地部署的开源LLM，因为这些模型更符合隐私意识较强且在社交媒体环境中操作的行为者的实际需求和约束条件。

核心内容

研究引入了一个实证红队框架来测量LLMs的Overton窗口（OWs）——定义为模型在争议性话题上可以可靠表达的政治观点范围。还量化了简单自然语言脱戒技术如何扩展这一范围。研究评估了来自10个模型家族、涉及5个国家起源的30多个LLM。结果显示，开源LLMs通常更倾向于生成左倾社交媒体内容；OWs与模型规模呈反比关系；尽管开源生态系统中地区代表不均等，但不同地区的差异仍然显著。此外，脱戒技术的有效性在不同模型家族间存在巨大差异。

意义与影响

研究结果确立了一个实用的框架，用于审计开源LLMs的政治操控性和帮助未来研究人员设计更强有力的对策以抵御基于LLM的影响活动。这些发现对于理解和应对新兴的人工智能和政治影响力之间的交互具有重要指导意义，同时也为监管机构和安全专家提供了实证依据来制定有效的预防措施和技术手段。

通过这一研究，可以更好地了解开源LLMs在支持政治表达方面的能力及其局限性，并有助于开发针对此类风险的防御策略。