研究人员警告称，AI生成的虚假引用正悄然渗入影响临床指南的论文中。

背景与问题

学术诚信是科学研究的基石。哥伦比亚大学等机构开展的一项大规模研究，对250万篇生物医学论文进行了系统性审计。审计揭示了一个严峻且迅速恶化的趋势：自2023年以来，论文中伪造的引用率增加了超过12倍。这一现象并非偶然，其时间点与大型语言模型的普及应用高度重合。

核心内容

研究的核心发现指向了生成式人工智能技术的不当使用：

• 伪造率的惊人增长：数据明确显示，引用造假行为在近年出现爆发性增长，且问题规模巨大。
• 与语言模型的强关联：研究人员怀疑这种增长直接源于语言模型的广泛使用。其证据在于，这些伪造的参考文献呈现出特定特征：
  • 高度相关性：虚假引用的内容与论文主题匹配，不是随机生成的。
  • 格式正确性：引用格式严格遵守学术规范，外观与真实引用无异。
  • 难以识别性：这种“以假乱真”的特性使得它们几乎无法被人工筛查发现。
• 出版商的缺位：研究指出一个令人担忧的现状：在已确认存在伪造引用的论文中，高达98%没有收到出版方的任何回应或更正。这暴露了现有学术出版监督机制的严重滞后。

意义与影响

此现象的影响远超出个别论文的诚信问题，具有深远的系统性风险：

1. 污染知识体系：生物医学领域的论文是构建临床指南和医疗实践的基础。AI幻觉产生的虚假引用一旦被纳入，将直接污染循证医学的知识源头，可能误导临床决策，危害患者健康。
2. 冲击学术信任：参考文献是验证研究、追溯知识脉络的关键。大规模、难以辨别的伪造引用会从根本上动摇学术引用的可信度，损害整个学术共同体的信任基础。
3. 挑战监管与伦理：该研究凸显了学术界在应对AI新工具时面临的监管空白和伦理挑战。出版商、研究机构和科研资助方需要紧急制定新的工具、标准和政策，以识别并遏制AI生成的学术不端行为，维护科学研究的严肃性。