查看: 12|回复: 0

💰 AI Agent 的隐藏成本,可能比你想象中高得多

[复制链接]

17

主题

0

回帖

51

积分

注册会员

积分
51
发表于 昨天 19:34 | 显示全部楼层 |阅读模式
AI Agent 的隐藏成本,可能比你想象中高得多Arena 分析了 26,225 条真实 Agent 会话,涉及 30 个 Agent、13 家实验室,发现一个很有意思的现象:Agent 消耗的 Token,86%~96% 都是在重复读取历史上下文简单理解,Agent 每执行一步,都需要重新读取之前的对话、工具调用和执行结果而 Prompt Cache 可以让这些重复内容以极低的价格复用 几个关键数据:- 3.6 倍:没有缓存,头部 Agent 的典型任务成本将上涨到原来的 3.6 倍- $7.44 → $27:Claude Fable 5.1 单次典型任务的成本变化- 95%:部分前沿模型的缓存读取价格,已经比普通输入便宜 95%- +5%:一次缓存失效,就可能让典型任务的账单增加约 5%Agent 运行时间越长,历史上下文越多,缓存的价值就越大这也解释了为什么 OpenAI、Anthropic 和 Deekseek 都在不断优化缓存机制#


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部