The Fact Your Extractor Never Mentioned 你的提取器从未提及的事实

TL;DR

• 指出在受监管领域，信息提取系统的主要风险并非“事实错误”，而是“来源未提及但已知为真”的关键信息缺失（如药物禁忌症）。
• 提出“模型提议，权威裁决”的核心架构原则，明确语言模型仅作为候选生成器，而非真理判定者。
• 构建了一个包含十个阶段的开源工作流，利用RxNorm、openFDA等公共权威数据源对模型提取结果进行严格验证和对齐。
• 强调知识图谱本身不能消除幻觉，必须通过外部权威数据的比对来区分“文档内一致性”与“现实安全性”。

为什么值得看

对于从事医疗、金融等高合规要求领域的AI从业者而言，本文揭示了当前LLM+知识图谱方案中普遍忽视的“沉默风险”。它提供了一套可落地的架构思路，帮助开发者从单纯追求提取准确率转向构建具备安全校验能力的系统，避免将不完整的文档内容误认为绝对真理。

技术解析

• 架构范式：采用“模型提议，权威裁决”模式。LLM仅在早期阶段负责从非结构化文本中提取实体和关系候选项，后续所有阶段均由代码逻辑和外部权威数据库接管，确保模型无法最终裁定事实真伪。
• 工作流设计：系统包含摄入、解析、分块、提取、丰富、验证、本体生成、图谱构建、持久化和真理对齐十个阶段。其中“真理对齐”阶段是关键，用于对比提取内容与权威知识库的差异。
• 提取契约规范：定义了严格的实体类型（如Drug, Disease）和关系谓词（如Drug_indicatedFor），并强制要求每个关系附带证据元数据（来源文档ID、字符偏移量等），使每个主张都可被追溯和验证。
• 外部权威集成：整合了RxNorm、openFDA、ChEMBL和ChEBI等公共生物医学权威服务，用于补充文档中缺失的信息（如药物禁忌症），从而检测出“来源未提及但世界已知”的危险遗漏。

行业启示

• 从“一致性”转向“安全性”：在受监管行业，评估AI系统的标准不应仅是提取结果是否与输入文本一致，更应关注其是否识别出了输入文本中缺失的关键安全信息。
• LLM的角色重新定位：语言模型应被视为高效的“假设生成器”而非“事实存储库”。企业架构需明确划分LLM的边界，将其能力限制在非决定性的预处理环节，核心决策权保留给确定性系统。
• 可审计性优于流畅性：在合规场景中，系统的价值在于其可检查性和可追溯性。建立基于外部权威数据的校验层，比单纯优化模型的生成流畅度更能降低法律和风险成本。