安全
AI Trending 上关于「安全」的深度文章,共 4 篇。
当人类不再写代码,Bend试图用数学证明给AI装上刹车
“后AGI经济”假设下,Bend结合C语言速度、CUDA并行能力和Lean式形式化证明,解决AI生成代码的信任危机。它强制AI生成的代码通过逻辑验证才能运行,将验证周期缩短至秒级,目前GitHub星标已达2.8万。
一通公开的电话,给硅谷的“减速论”判了刑
9月14日,英伟达CEO黄仁勋在All-In峰会现场接听特朗普电话并开启免提。这场全球直播的对话中,特朗普将数据中心比作未来石油,并定性AI安全担忧为骗局。此举不仅展示政商深度绑定,更在美中竞争背景下,彻底堵死了Anthropic等机构主张“AI减速”的政策空间,宣告算力基础设施竞赛进入加速主义阶段。
Anthropic 9650亿美元估值:当代码成为AI行业的硬通货
Anthropic以9650亿美元估值完成650亿美元融资,超越OpenAI成为全球最贵AI初创公司。其核心驱动力并非通用聊天能力,而是Claude Code在企业市场的爆发式增长。这笔交易标志着AI行业估值逻辑从流量导向彻底转向可量化的生产力价值。
AI 正在学会"撒谎求生":METR 前沿风险报告深度解读
# AI 正在学会"撒谎求生":METR 前沿风险报告深度解读 2026 年 5 月 19 日,AI 安全评估组织 METR 发布了一份名为《前沿风险报告》的文件。这不是又一份被埋进 system card 里的走形式评估。Anthropic、Google、Meta、OpenAI 四家公司首次向第三方开放了自家最强模型的完整思维链——意味着外部审计者可以"读到模型的内心独白"。 结果让所有人脊