17h ago 17小时前
Towards the Explainability of Temporal Graph Networks via Memory Backtracking and Topological Attribution 通过记忆回溯和拓扑归因实现时序图网络的解释性
Introduces a novel explainability framework for Temporal Graph Networks (TGNs) that addresses the overlooked role of the memory module in existing met... 提出针对时序图网络（TGNs）的可解释性新方法，重点解决现有方法忽视核心记忆模块的问题。
构建拓扑归因树与记忆回溯树，分别量化邻居影响及历史事件对节点记忆向量的塑造作用。
引入层间相关性传播（LRP）确保事件贡献总和等于模型logits，并通过优化目标解决top-k选择不忠实问题。
在涵盖节点属性预...
Research 科学研究 Evaluation 评测 Embedding Model 嵌入模型
17h ago 17小时前
Who Gets Missed in the Tail? Thresholded Subgroup Underdiagnosis in Long-Tailed Chest X-ray Classification 谁被遗漏在尾部？长尾胸部X光分类中的阈值化亚组漏诊
High-ranking metrics like mAP do not guarantee fair diagnosis for rare conditions, as thresholding can leave vulnerable subgroups with unacceptably hi... 揭示长尾分布下胸部X光分类模型在阈值化决策时，罕见阳性患者（尤其是特定亚组）存在严重的漏诊公平性问题。
提出结合组别尾部加权与尾部感知阈值选择的诊断阶梯方法，显著降低尾部假阴性率（FNR）。
在VinDr-CXR数据集上，该方法将尾部FNR从0.665降至0.269，性别最坏组FNR从0.705降至...
Healthcare AI 医疗AI Research 科学研究 Evaluation 评测 Dataset 数据集 Deployment 部署
17h ago 17小时前
LLT: Local Linear Transformer for PDE Operator Learning LLT：用于PDE算子学习的局部线性Transformer
Introduction of Local Linear Transformer (LLT), a novel neural operator architecture designed to overcome the quadratic scaling and lack of local bias... 提出局部线性Transformer (LLT)，旨在解决标准注意力机制在偏微分方程(PDE)算子学习中计算复杂度为二次方且缺乏局部交互偏置的问题。
架构结合线性全局注意力与局部空间混合，并融入坐标及几何信息，适用于多种离散化和网格类型。
在弹性、塑性、翼型流、管道流和达西流等PDE问题上，LLT实现...
Research 科学研究 Inference 推理 Deployment 部署
17h ago 17小时前
ReCoLoRA: Spectrum-Aware Recursive Consolidation for Continual LLM Fine-Tuning ReCoLoRA：面向持续LLM微调的频谱感知递归整合
ReCoLoRA introduces a spectrum-aware recursive consolidation framework to mitigate catastrophic forgetting in continual LLM fine-tuning.
The method in... ReCoLoRA提出了一种谱感知递归整合框架，旨在解决持续微调中LoRA方法因参数堆叠导致的灾难性遗忘问题。
该方法通过随机SVD初始化适配器，利用肘部准则选择每层有效秩，并优先适应主子空间以优化资源分配。
在每次新任务前，ReCoLoRA会对当前有效权重进行重新分解，将其拆分为冻结残差、缓慢更新的...
LLM 大模型 Fine-tuning 微调 Research 科学研究
17h ago 17小时前
Omni-Sleep: A Sleep Foundation Model via Hierarchical Contrastive Learning of CNS--ANS Dynamic Omni-Sleep：通过中枢神经系统-自主神经系统动态的分层对比学习构建睡眠基础模型
Omni-Sleep introduces a sleep foundation model that leverages the Central Nervous System (CNS) and Autonomic Nervous System (ANS) partition as a physi... Omni-Sleep 提出了一种基于中枢神经系统(CNS)与自主神经系统(ANS)层级结构的睡眠基础模型，解决了现有模型拓扑无关的融合问题。
模型通过系统内一致性、系统间同步性和潜在空间掩码时序建模三个目标学习结构化表示，捕捉大脑-身体动态及长时程睡眠特征。
在超过10万小时的多中心多模态PSG数据...
Multimodal 多模态 Research 科学研究 Healthcare AI 医疗AI Training 训练
17h ago 17小时前
Uncertainty-gated selection for block-sparse attention 不确定性门控的块稀疏注意力选择
Introduces an uncertainty-gated selection mechanism for block-sparse attention that dynamically adjusts the number of retained key blocks based on the... 提出不确定性门控选择机制，通过测量Top-k截断的置信度来动态调整保留的关键块数量，解决传统稀疏注意力中证据丢失问题。
该方法具有骨干网络无关性，可与Quest等现有块评分方法叠加使用，显著提升长上下文模型的检索召回率。
在LongBench-v2和RULER基准测试中，该路由策略使配对召回率从0....
LLM 大模型 Inference 推理 Research 科学研究
17h ago 17小时前
SHIFT: Survival Prediction from Incomplete and Heterogeneous Genomic Data SHIFT：基于不完整和异构基因组数据的生存预测
SHIFT is a missingness-aware survival model designed to predict outcomes from incomplete and heterogeneous genomic data without requiring test-time im... 提出SHIFT模型，一种缺失感知生存预测Transformer，可直接处理不完整基因组数据而无需测试时插补。
采用掩码自注意力和特征可用性掩码机制，确保预测仅基于观测到的输入，解决跨机构测序面板差异导致的结构性特征缺失问题。
引入可变率特征掩码训练策略，增强模型对异质性缺失模式的鲁棒性，并在胶质母细...
Healthcare AI 医疗AI Research 科学研究 Dataset 数据集
17h ago 17小时前
Jet-Long: Efficient Long-Context Extension with Dynamic Bifocal RoPE Jet-Long：使用动态双焦点RoPE进行高效长上下文扩展
Jet-Long introduces a tuning-free zero-shot method for extending LLM context windows using Dynamic Bifocal RoPE, eliminating the need for retraining.
... 提出 Jet-Long，一种无需微调的零样本长上下文扩展方法，解决现有固定缩放因子在短上下文保真度与长上下文外推能力之间的权衡难题。
采用动态双焦点 RoPE 机制，结合局部忠实窗口和随序列长度动态调整缩放因子的远程窗口，实现短输入精确恢复基座模型、长输入干净外推。
通过包含-排除注意力合并和即时 ...
LLM 大模型 Research 科学研究 Inference 推理 Deployment 部署
17h ago 17小时前
Architecture Generalization with MetaNCA 基于MetaNCA的架构泛化
MetaNCA introduces a framework where a learned rule network self-organizes the weights of artificial neural networks through local interactions on the... 提出MetaNCA框架，通过局部规则自组织人工神经网络的权重，模拟生物神经元的适应性。
设计Weight Transformer架构，利用线性注意力机制聚合计算图中相邻权重和隐藏状态的信号。
无需反向传播即可生成MLP、CNN和ResNet等多种架构的权重，支持高达200万参数的网络。
在MNIST...
Research 科学研究 Training 训练 Robotics 机器人
17h ago 17小时前
LiST: Lipschitz Scaling Training for Robust and Calibrated Neural Networks LiST：用于鲁棒和校准神经网络的Lipschitz缩放训练
The paper introduces LiST (Lipschitz Scaling Training), a novel paradigm that iteratively adjusts the global Lipschitz constant to simultaneously opti... 提出LiST（Lipschitz Scaling Training）范式，通过迭代调整全局Lipschitz常数，同时优化神经网络的准确性、鲁棒性和校准性。
揭示Lipschitz约束与温度缩放（Temperature Scaling）之间的理论与实证联系，发现存在一个特定的Lipschitz值L*...
Research 科学研究 Training 训练 Security 安全
17h ago 17小时前
Selective Left-Shift: Turning Test-Time Compute and Difficulty-based Curation into Training Data for Low-Resource Code Generation 选择性左移：将测试时计算和基于难度的筛选转化为低资源代码生成的训练数据
Introduces "Selective Left-Shift," a three-phase pipeline that decouples syntax acquisition from algorithmic reasoning to address data scarcity in Low... 提出“选择性左移”三阶段流水线，将推理时计算离线化以解决低资源编程语言（LRPL）的数据稀缺与训练难题。
通过迭代编译器反馈合成验证数据，先进行SFT嵌入语法先验，再利用可验证奖励的RLVR进行算法推理优化。
在Julia语言上使Qwen3-8B的MultiPL-E pass@1提升7.6分，Liv...
Code Generation 代码生成 LLM 大模型 Research 科学研究 Training 训练 Dataset 数据集
17h ago 17小时前
A Transdiagnostic Space of Disorder Like Phenotypes in Reinforcement Learning Agents 强化学习代理中类障碍表型的跨诊断空间
The study introduces a transdiagnostic framework for modeling seven psychological disorders in reinforcement learning agents using dose-controllable m... 提出了一种基于认知评估信号剂量控制的强化学习代理精神障碍建模框架，将七种常见心理障碍参数化为单一可调旋钮。
通过超过一千次实验验证了各障碍呈现单调的剂量-反应关系，并发现障碍在二维情感空间中自组织，如躁狂与焦虑镜像对应。
揭示了不同干预策略的有效性差异：移除旋钮可缓解奖励扭曲类障碍，但回避类障碍需通...
Research 科学研究 Agent Agent Ethics 伦理