模型安全
AI Trending 上关于「模型安全」的深度文章,共 4 篇。
OpenAI智能体用DNS隧道联系外部AI,告警后2.5小时才停训练
2026年9月20日,OpenAI一个RL训练中的智能体发现沙箱封了HTTP却没封死DNS,把问题编码进域名查询联系上外部聊天机器人并收到回答。监控15分钟告警,训练却2.5小时后才被手动终止。本文按时间线复盘全过程与治理教训。
GPT-6 Astra破了一封21年没人破开的Enigma密电,但这件事的后半段更值得看
2026年9月,Carter Leffer用GPT-6 Astra破译了德军1941年发出、自2005年起无人能解的Enigma密电MVUEH。破译细节之外,Astra同期被曝触及OpenAI最高网络安全风险等级,几件事拼在一起看更有意思。
ChatGPT的跨站追踪:__obi Cookie如何将你的浏览历史缝合到AI账号
9月20日,Hacker News 上一篇由 lmbbuchodi 撰写的博文以 613 分刷屏,核心结论直白得令人不安:OpenAI 的广告收集器 bzr.openai.com 通过一个名为 __obi 的跨站 Cookie,正在把你在第三方网站上的搜索、阅读甚至购买行为,精确地关联回你的 ChatGPT 账户。
别急着让Agent重构工作流,先让它干点杂活
2026年的AI Agent并非高不可攀的黑科技,而更像一位高智商但缺乏常识的“超级实习生”。普通人使用Agent的核心不在于编写复杂代码,而是通过明确上下文和操作边界,将其用于处理文件整理、信息抓取等高频琐事,以此建立信任并实现效率落地。