查看: 6|回复: 0

当很多公司都在哀嚎 AI 账单贵到用不起,Uber 刚发的这篇技术长文直接把全行业看傻了

[复制链接]

15

主题

1

回帖

47

积分

新手上路

积分
47
发表于 昨天 22:19 | 显示全部楼层 |阅读模式
当很多公司都在哀嚎 AI 账单贵到用不起,Uber 刚发的这篇技术长文直接把全行业看傻了:
全公司 70% 的代码 PR 全由 Agent 接管,调用量半年狂飙近 10 倍,
但总 AI 账单被死死按在原地一分没涨,单次会话成本硬生生砍掉了 52%,
他们直接把软件工程做成了一座全自动的软件工厂,真的牛逼,

以前是人打开聊天框求 AI 帮一把,
现在 Uber 养了一整支托管 Agent 舰队: 审代码、修挂掉的 CI、分诊报警全是专职 AI 自动上班,
人变成了抽查质检的厂长,每天跑 3 万多次流水线任务

他们最狠的地方,是把 AI 账单拆成了一道极其冷酷的乘法题,
用量可以疯涨,但零价值的废 Token 必须被物理抹杀:

1️⃣ 规划用大脑,干活全用便宜子 Agent:
任务拆解用顶级大模型,具体搬砖的子任务全部默认切给轻量模型,这一招直接成了全厂杠杆最高的开关;

2️⃣ 把 5 分钟缓存改成 1 小时:
工程师去倒杯水开个会回来,上下文缓存依然在,原价 1 折直接续上,40 万 token 强制写摘要压缩,绝不把整本历史无限复印;

3️⃣ 别把一千种工具说明书塞进大脑:
1000 多个内部 MCP 工具统一走网关,模型要用时先搜索再按需挂载,绝不在开局就傻傻灌入 7 万 token 的工具定义;

4️⃣ Code-mode 砍掉话痨轮询:
跑 SQL 和批处理让模型自己写脚本去跑,只交回最终结果,避免一问一答的无效 ping-pong,单项 token 直接暴省 90%;

5️⃣ 2400 万节点知识图谱导航:
给 Agent 发一张包含全公司服务和事故的活地图,以前翻代码盲搜 20 分钟还报错,现在 38 秒精准定位

用量涨不可怕,浪费涨才可怕,
从人机对话迈向托管工厂舰队,大厂把 AI 真正落地的账本,算是彻底算明白了


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部