全公司 70% 的代码 PR 全由 Agent 接管,调用量半年狂飙近 10 倍,
但总 AI 账单被死死按在原地一分没涨,单次会话成本硬生生砍掉了 52%,
他们直接把软件工程做成了一座全自动的软件工厂,真的牛逼,
以前是人打开聊天框求 AI 帮一把,
现在 Uber 养了一整支托管 Agent 舰队: 审代码、修挂掉的 CI、分诊报警全是专职 AI 自动上班,
人变成了抽查质检的厂长,每天跑 3 万多次流水线任务
他们最狠的地方,是把 AI 账单拆成了一道极其冷酷的乘法题,
用量可以疯涨,但零价值的废 Token 必须被物理抹杀:
1️⃣ 规划用大脑,干活全用便宜子 Agent:
任务拆解用顶级大模型,具体搬砖的子任务全部默认切给轻量模型,这一招直接成了全厂杠杆最高的开关;
2️⃣ 把 5 分钟缓存改成 1 小时:
工程师去倒杯水开个会回来,上下文缓存依然在,原价 1 折直接续上,40 万 token 强制写摘要压缩,绝不把整本历史无限复印;
3️⃣ 别把一千种工具说明书塞进大脑:
1000 多个内部 MCP 工具统一走网关,模型要用时先搜索再按需挂载,绝不在开局就傻傻灌入 7 万 token 的工具定义;
4️⃣ Code-mode 砍掉话痨轮询:
跑 SQL 和批处理让模型自己写脚本去跑,只交回最终结果,避免一问一答的无效 ping-pong,单项 token 直接暴省 90%;
5️⃣ 2400 万节点知识图谱导航:
给 Agent 发一张包含全公司服务和事故的活地图,以前翻代码盲搜 20 分钟还报错,现在 38 秒精准定位
用量涨不可怕,浪费涨才可怕,
从人机对话迈向托管工厂舰队,大厂把 AI 真正落地的账本,算是彻底算明白了