部署
AI Trending 上关于「部署」的深度文章,共 3 篇。
Agent生产部署为什么难:延迟、成本、状态一致性三大坑
2026年国内Agent服务商已突破300家,但Demo到生产之间隔着延迟抖动、成本失控、状态管理和质量评估四道坎。从掘金一篇工程化面试长文出发,拆解生产级Agent的架构与可观测性设计。
当“前沿”不再等于“云账单”:2026年的本地AI推理变局
2026年9月21日,Tim Dettmers 在博客上写道:“学术界的复兴即将发生。”背景是 dLab 刚结束的开源周:前沿级大模型正在从昂贵的云端租赁服务,变成可以装在自家硬件上的私有资产。
OpenAI Astra挤占额度,开发者用MCP隧道在ChatGPT Chat模式里跑“无限Token”
Astra模型消耗巨大,导致Plus用户订阅额度迅速耗尽。本文拆解ChatGPT不同模式的额度逻辑,介绍如何利用官方Secure MCP Tunnel将本地算力接入Web端Chat模式,并在不违规的前提下实现低成本开发。